„Risiko der Auslöschung“: Hunderte Experten warnen vor KI – Das Thema KI ist derzeit in aller Munde und sorgt ob der sich abzeichnenden Möglichkeiten immer wieder für staunende Gesichter. Viele sehen in der Entwicklung allerdings auch eine ernstzunehmende Gefahr, die einst nur in Filmen skizziert nun an der Schwelle steht, tatsächlich real zu werden. Dass diese Ängste durchaus begründet zu sein scheinen, beweist ein knappes Statement, welches kürzlich von Hunderten Experten unterzeichnet wurde.

In diesem heißt es: „Es sollte global priorisiert werden, das Risiko der Auslöschung durch KI zu verringern – auf einer Stufe mit anderen Risiken für die gesamte Gesellschaft, wie etwa Pandemien und Nuklearkrieg.“

Auf der Liste der Unterzeichner stehen dabei zahlreiche KI-Fachleute aus der Forschung und der Wirtschaft.

Darunter Sam Altman, CEO von OpenAI, Demis Hassabis, Chef von Google DeepMind, sowie die mit dem Turing Award ausgezeichneten KI-Forscher Geoffrey Hinton und Yoshua Bengio. Auch die Namen von Taiwans Digitalministerin Audrey Tang, Microsofts Technikchef Kevin Scott und der Musikerin Grimes sind unter dem Statement zu finden.

Veröffentlich hatte dieses das Center for AI Safety (Zentrum für KI-Sicherheit) in San Francisco. Berichtet hatte zunächst die „New York Times“, der zufolge die Botschaft ganz gezielt so kurz gehalten wurde, um trotz der unterschiedlichen Auffassungen über die konkrete Gefahr durch KI oder geeignete Abwehrmaßnahmen so viele Fachleute wie möglich damit unter einem Banner zu vereinen.

Zuvor hatten bereits namhafte Prominente wie Elon Musk gemeinsam mit KI-Spezialisten einen offenen Brief formuliert, in welchem eine Pause bei der Weiterentwicklung von KI-Systemen gefordert wurde.

Darin hieß es unter anderem: „Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sein werden.“

Wenig später erfolgte dann eine Warnung über einen möglichen künftigen Kontrollverlust der Menschheit vonseiten des KI-Pioniers Geoffrey Hinton, der zu diesem Zeitpunkt bereits seinen langjährigen Arbeitgeber Google verlassen hatte.

Was die aktuelle Warnung so besonders macht, ist die Tatsache, dass sie von vielen Persönlichkeiten unterzeichnet wurde, die derzeit selbst unter Hochdruck an immer potenteren KI-Modellen und -Anwendungen arbeiten.

So hatte beispielsweise Sam Altman in einem Interview mit dem „Spiegel“ Sorgen darüber geäußert, „dass mithilfe von KI-Systemen biologische Kampfstoffe entwickelt werden könnten“.

Mit Blick auf die Entwicklung künstlicher Intelligenzen wolle er jedoch nicht auf eigene Faust rote Linien ziehen. Vielmehr sei es entscheidend, „dass wir in einem demokratischen Prozess die Grenzen für diese Technologie bestimmen und als Menschen die Kontrolle behalten. Im Übrigen brauchen wir auch als Unternehmen Klarheit und sollten deshalb reguliert werden“.

Es gibt auf der anderen Seite aber auch Fachleute, die sich keinem der bisherigen Apelle anschließen wollen. So etwa Metas KI-Chefwissenschaftler Yann LeCun, der die Warnungen zum Teil als „KI-Doomismus“ abtat – dem englischen Begriff „Doom“ (zu Deutsch etwa „Untergang“ oder „Unheil“) abstammend, bezeichnet Doomismus den Trend zur Weltuntergangsstimmung.

Quelle: spiegel.de