Warnung

KI-Experten warnen vor "Auslöschung" der Menschheit durch Künstliche Intelligenz

Sam Altman gilt als einer der prominentesten Vertreter der KI-Branche.
Sam Altman gilt als einer der prominentesten Vertreter der KI-Branche.APA/AFP/JOEL SAGET
  • Drucken

Es ist nur ein Satz, hinter den sich Hunderte führende Experten der Menschheit für Künstliche Intelligenz stellen. Die Bedrohung durch KI sollte genauso ernst genommen werden, wie jene vor Pandemien oder Nuklearkriegen.

Gefälschte Fotos und Filme gibt es seit deren Erfindung. Bisher war allerdings enormes Fachwissen gefragt, um diese herzustellen. Doch Programme wie Midjourney, OpenAI oder bekannte, aber nun mit Künstlicher Intelligenz (KI) ausgestattete Software wie Photoshop ermöglichen es inzwischen jedermann, mit minimalen Kenntnissen in kurzer Zeit und für wenig Geld Fälschungen zu produzieren.

Das besorgt Experten nicht nur aufgrund der großen Gefahr von öffentlicher Manipulation - etwa im anstehenden US-Wahlkampf. Die ganze Welt stehe auf dem Spiel. Zu dem Schluss kommen Hunderte Expertinnen und Experten, die am Dienstag in einem offenen Brief ihre Sorgen in wenigen Zeilen ausdrücken. „Es sollte global priorisiert werden, das Risiko der Auslöschung durch KI zu verringern – auf einer Stufe mit anderen Risiken für die gesamte Gesellschaft, wie etwa Pandemien und Nuklearkrieg", appelliert die Gruppe führender KI-Entwickler, darunter etwa Sam Altman, Chef von OpanAI oder auch Demis Hassabis, Google-Deepmind-Chef. Unter den Unterzeichnern sind auch Geoffrey Hinton und Yoshua Bengio - zwei der drei sogenannten "Paten der KI", die 2018 den Turing Award für ihre Arbeit im Bereich Deep Learning erhielten - sowie Professoren von Harvard bis zur chinesischen Tsinghua-Universität.

Das Center for AI Safety (Zentrum für KI-Sicherheit, abgekürzt: CAIS) veröffentlichte die Botschaft, die „New York Times“ berichtete zuerst darüber. Man wollte das Statement bewusst kurz halten, um möglichst viele Experten dahinter vereinen zu können.

»Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.«

Center for AI Safety

„Diskussion in Gang bringen"

„KI-Experten, Journalisten, politische Entscheidungsträger und die Öffentlichkeit diskutieren zunehmend über ein breites Spektrum an wichtigen und dringenden Risiken der KI.“, heißt es in den einleitenden Zeilen. Dennoch könne es schwierig sein, Bedenken über einige der schwerwiegendsten Risiken der fortgeschrittenen KI zu äußern. „Die nachstehende knappe Erklärung soll dieses Hindernis überwinden und eine Diskussion in Gang bringen. Sie soll auch die wachsende Zahl von Experten und Persönlichkeiten des öffentlichen Lebens bekannt machen, die einige der schwerwiegendsten Risiken der fortgeschrittenen KI ebenfalls ernst nehmen“, wird die Motivation für die Stellungnahme erklärt.

Kritik gibt es laut CAIS am Facebook-Konzern Meta, wo der dritte Pate der KI, Yann LeCun, arbeitet. Denn Meta-Vertreter finden sich nicht unter den Unterzeichnern des Mahnbriefs. "Wir haben viele Meta-Mitarbeiter gebeten, zu unterschreiben", sagte CAIS-Direktor Dan Hendrycks. Eine Reaktion des Konzerns auf Anfragen der Nachrichtenagentur Reuters blieb aus.

Auch der Name Elon Musk findet sich nicht in der langen Unterzeichnerliste. Das soll sich aber noch ändern. "Wir haben eine Einladung (an Musk) ausgesprochen, die er hoffentlich noch diese Woche unterschreiben wird", sagte Hendrycks.

Eine Gruppe von KI-Experten und Führungskräften aus der Industrie waren die ersten, die im April auf mögliche Risiken für die Gesellschaft hinwiesen. Die jüngsten Entwicklungen im Bereich der künstlichen Intelligenz haben Instrumente hervorgebracht, die laut Befürwortern für Anwendungen von der medizinischen Diagnostik bis zum Verfassen von Schriftsätzen verwendet werden können.

Nicht die erste Warnung dieser Art

Die neue Warnung kommt zwei Monate, nachdem das gemeinnützige Future of Life Institute (FLI) einen ähnlichen offenen Brief veröffentlicht hat, der von Musk und Hunderten weiteren Personen unterzeichnet wurde und in dem eine dringende Pause in der fortgeschrittenen KI-Forschung gefordert wird, um Risiken für die Menschheit zu vermeiden.

"Unser Brief hat das Innehalten propagiert, dieser Brief propagiert die Auslöschung", sagte FLI-Präsident Max Tegmark, der auch den neueren Brief unterzeichnet hat. "Jetzt kann endlich ein konstruktives, offenes Gespräch beginnen."

KI-Pionier Hinton hatte zuvor erklärt, dass KI eine "dringendere" Bedrohung für die Menschheit darstellen könnte als der Klimawandel.

Streit um Regulierung durch EU

Letzte Woche bezeichnete OpenAI-Chef Sam Altman die EU-KI - die ersten Bemühungen um eine Regulierung von KI - allerdings als Überregulierung und drohte damit, Europa zu verlassen. Nach Kritik von Politikern hat er seine Haltung innerhalb weniger Tage revidiert.

Altman ist zu einer Art Gesicht der KI geworden, nachdem sein Chatbot ChatGPT die Welt im Sturm erobert hat. Die Präsidentin der Europäischen Kommission, Ursula von der Leyen, will Altman am Donnerstag treffen, und EU-Industriechef Thierry Breton wird ihn nächsten Monat in San Francisco treffen.

>> Zur Seite des Centers for AI Safety

Lesen Sie mehr zu diesen Themen:

Mehr erfahren

Nvidia-Chef Jensen Huang beim Computex Forum in Taipei.
Tech

Hype um KI bei Techfirmen

Der Chipkonzern Nvidia präsentierte eine Software, die Computerspielern frei antworten kann.
FRANCE-SCIENCE-TECHNOLOGY-AI
Leitartikel

Natürlich ist es intelligent, KI zu begrenzen

Fortschrittsgläubig oder rückschrittlich? Es gibt ein weites Feld dazwischen. Wissend um die Gefahren müssen für die Entwicklung der künstlichen Intelligenz trotz ihrer Vorteile klare Regeln gelten.
Sam Altman, Erfinder von Chat GPT
Künstliche Intelligenz

ChatGPT-Boss im Clinch mit der EU

Sam Altman, Erfinder von Chat GPT, warnt vor einer „Überregulierung“ durch die EU. Dabei ist es noch gar nicht lang her, dass er stärkere gesetzliche Grenzen für die KI-Entwicklung forderte. Was ist seither passiert?
Der Zugang zu den neuen KI-Tools kann durchaus spielerisch erfolgen. Wie hier eine neue Bildkomposition mit Dall-E im Stile von Andy Warhol.
Künstliche Intelligenz

ChatGPT nutzen: So einfach wie Google?

Auch wenn die neuen Technologien für viele mit Angst behaftet sind: Sie zu nutzen ist einfach und praktisch. Neue Kurse erleichtern die ersten Gehversuche in der KI-Welt.

Dieser Browser wird nicht mehr unterstützt
Bitte wechseln Sie zu einem unterstützten Browser wie Chrome, Firefox, Safari oder Edge.