Forscher und just der ChatGPT-Gründer sehen die Gefahr, dass KI für eine „Auslöschung“ der Menschheit sorgen könnte. Andere halten das für Panikmache.
Die Erklärung ist kurz. Ein Satz. 22 Wörter lang im englischen Original. Aber die Unterzeichner tragen darin dick auf. „Die Minderung des Risikos der Auslöschung der Menschheit durch KI sollte eine globale Priorität sein neben anderen Risiken von gesellschaftlichem Ausmaß wie Pandemien und Atomkriegen“, schreiben sie.
Das klingt doch sehr alarmistisch. Allerdings zeichnen die apokalyptische Bedrohung durch KI, also durch künstliche Intelligenz, hier nicht ein irgendwelche Verschwörungstheoretiker, sondern zahlreiche führende Köpfe der KI-Forschung von Elite-Unis wie Harvard oder dem MIT, aber just auch KI-Unternehmer wie Sam Altman, Gründer und Geschäftsführer der Firma OpenAI, die ChatGPT erschaffen hat, also jenes kostenloses KI-Werkzeug das seit Monaten weltweit für Furore sorgt, indem es beispielsweise Hausaufgaben erledigt oder Werbetexte ausspuckt. Auch andere CEOs von KI-Firmen sind an Bord und haben die Erklärung unterfertigt. Wendet sich hier der Schöpfer gegen sein Werk? Wie einst Robert Oppenheimer, der „Vater der Atombombe“, der später vor der Zerstörungswut der Nuklearwaffen warnte?
Der Eindruck täuscht wohl. Open-AI-Chef Altman hat zwar schon öfter auf Gefahren durch KI hingewiesen. Er tourt aber zugleich durch die EU, um strenge Regeln zu verhindern. Zwischenzeitlich hatte er sogar mit dem Rückzug vom europäischen Markt im Falle einer Überregulierung gedroht. Für Altman öffnen sich die Türen in Europa übrigens vollautomatisch, ob im Élysée-Palast oder am heutigen Donnerstag in Brüssel.
Von Chemiewaffen bis Desinformation
Die apokalyptische Warnung wurde auf die Homepage des Center for AI Safety hochgeladen, einer Denkfabrik mit Sitz in San Francisco, die schon seit Längerem auf die KI-Gefahren hinweist. Acht Bedrohungen listet die Homepage grob und beispielhaft auf, darunter dass KI helfen kann, ohne viel Aufwand chemische Waffen zu entwickeln – vor einigen Wochen kursierte eine Meldung, wonach eine KI-Software 40.000 neue chemische Kampfstoffe binnen sechs Stunden entwickelt hat. Aber natürlich geht es auch um Desinformation: Mit Chatbots könnte auf Knopfdruck eine monströse Flut an täuschend echten Falschnachrichten erzeugt werden. Eine andere Gefahr lautet, dass das Delegieren von immer mehr Aufgaben an KI-Maschinen langfristig zu einer Abhängigkeit des Menschen führen könnte oder dass die Programme selbst nach Macht streben könnten.
Die drastischen Warnungen vor KI häufen sich jedenfalls. Erst neulich sprach Ex-Google-Chef und KI-Pionier Geoffrey Hinton von einer „existenziellen Bedrohung“. Es gibt freilich auch Experten, die beides für übertrieben halten: den Hype um KI-Software und die Warnungen davor. Er und viele Kollegen würden sich wegen der Untergangsszenarien nur an den Kopf greifen, twitterte Yann LeCun, führender KI-Forscher in Diensten des Tech-Giganten Meta. Eine „übermenschliche“ künstliche Intelligenz sei nicht in Sicht, ja noch nicht einmal eine auf „hundeähnlichem“ Niveau.
Auch Ethiker warnen etwa gegenüber der BBC, den Blick auf angebliche Untergangsszenarien zu richten und dabei die Gefahren der Gegenwart aus dem Auge zu verlieren, darunter eben die Verbreitung von Falschinformationen mithilfe von KI.
Als die dänische Ministerpräsidentin, Mette Frederiksen, am Mittwoch in Kopenhagen zu den Abgeordneten sprach, war etwas anders als sonst. Irgendwann mitten in der Rede sagte Frederiksen den Satz: „Was ich gerade hier vorgelesen habe, kommt nicht von mir und auch nicht von irgendeinem anderen Menschen.“ Sondern von ChatGPT. Sie habe damit auf die Risiken von KI hinweisen wollen, sagte die Sozialdemokratin.