Ein neues Forschungsteam soll an der Steuerung und Kontrolle von Künstlicher Intelligenz arbeiten, sagt der ChatGPT-Anbieter. Bis 2030 könnte KI entwickelt werden, die intelligenter als der Mensch ist.
Der ChatGPT-Anbieter OpenAI will ein neues Forschungsteam zusammenstellen und erhebliche Ressourcen investieren, um die Sicherheit Künstlicher Intelligenz (KI) für die Menschheit zu gewährleisten. Dies hat das Unternehmen am Mittwoch angekündigt.
„Die enorme Macht der “Superintelligenz„ könnte zu einer Entmachtung der Menschheit oder sogar zum Aussterben der Menschheit führen“, schrieben OpenAI-Mitgründer Ilya Sutskever und der Leiter der OpenAI-Abteilung für zukünftige Ausrichtung Jan Leike in einem Blog-Beitrag. „Derzeit haben wir keine Möglichkeit, eine potenziell superintelligente KI zu steuern oder zu kontrollieren und zu verhindern, dass sie eigene Wege geht.“
Microsoft will in kommenden Jahren 20 Prozent seiner Rechnerleistung für Problemlösung einsetzen
Die Autoren des Blogs sagten voraus, superintelligente KI-Systeme, die intelligenter seien als Menschen, könnten noch in diesem Jahrzehnt verwirklicht werden. Der Mensch werde bessere Techniken benötigen als zurzeit zur Verfügung stehen, um superintelligente KI zu kontrollieren.
Microsoft werde daher 20 Prozent seiner Rechnerleistung in den nächsten vier Jahren dafür einsetzen, eine Lösung dieses Problems zu erarbeiten. Zudem sei das Unternehmen dabei ein neues Forschungsteam, das „Superalignment Team“ zu diesem Zweck zusammenzustellen.