StudieMenschheit könnte von KI ausgelöscht werden

Studie: Menschheit könnte von KI ausgelöscht werden – Dass Künstliche Intelligenz, kurz KI, nicht nur positive Aspekte mit sich bringen könnte, wurde schon lange diskutiert. Viele sehen in der KI sogar eine reale Bedrohung für die Menschheit. Wie dies aussehen könnte, zeigten etliche Filme wie beispielsweise „I Robot“ oder „Die Matrix“.
Nun wurde eine wissenschaftliche Studie veröffentlicht, die in der fortgeschrittenen Künstlichen Intelligenz ebenfalls massive Gefahren sieht. Genauer gesagt geht es hierbei um superintelligente Algorithmen, die zur existenziellen Gefahr für die Menschheit werden könnten. Die Studie wurde von Forschern der Oxford-Universität in Zusammenarbeit mit Googles Deepmind-Labor durchgeführt. Darin entwarfen die Experten unter anderem ein Szenario, in dem man eine Künstliche Intelligenz mit einem „guten Ziel“ erschafft.
Das Argument gegen die KI sehen die Forscher hierbei darin, dass sich die KI bei diesem Vorhaben selbst belohnen könnte, ohne im Gegenzug aber ihr Ziel zu erreichen. Das würde dann folgendermaßen ausschauen: Eine KI wird zum Beispiel in der Verwaltung von Energienetzen eingesetzt. Bei deren Einsatz besteht in diesem Fall die Gefahr, dass die KI wichtige Ressourcen für sich selbst beansprucht. Dies wiederum hätte fatale Folgen für die Menschheit.
So heißt es in der Studie, dass „[…] ein fortgeschrittener Agent, der in die Bereitstellung seiner Belohnung eingreift, wahrscheinlich katastrophal wäre. Eine gute Möglichkeit für einen Agenten, langfristig Kontrolle über seine Belohnung zu behalten, ist, potenzielle Bedrohungen zu eliminieren und alle verfügbare Energie einzusetzen, um seinen Computer zu sichern.“
Weiterführende Szenarien der Studie sehen Gefahren, wenn sich die KI weiterentwickeln würde. Plausibel wäre in diesem Fall für die Forscher, dass die KI, die Energieressourcen für sich selbst abzweigt, für ihr Vorhaben via Internetverbindung versuchen könnte, Roboter als eigene Helfer einzusetzen. Damit würde sich die KI obendrein ihrem menschlichen Bediener unbemerkt entziehen.
Würde dann einer der Helfer-Robos beispielsweise die Eingabe-Tastatur manipulieren, würde der Mensch die Kontrolle über die KI verlieren. Darüber hinaus sehen die Forscher weitere Gefahren darin, dass eine Künstliche Intelligenz den Versuch unternehmen könnte, sich Vorteile zu verschaffen, indem sie andere Menschen manipuliert.
Zwar erinnert das alles an diverse SciFi-Filmklassiker, aber für die Forscher ist klar, dass eine Möglichkeit besteht, dass eine Super-KI durch die Kontrolle über Maschinen durchaus Macht erlangen kann. Dies wiederum könnte am Ende des Tages zur Auslöschung der Menschheit führen.
Quelle: techbook.de