Nachrichten Detail

(Aktualisierung: mit OpenAI-Konferenz)

SAN FRANCISCO (dpa-AFX) - Der ChatGPT-Entwickler OpenAI hat wegen Sicherheitsbedenken die Veröffentlichung eines neuen KI-Modells gestrichen - und will zugleich Künstliche Intelligenz mit automatisierten Agenten in den Alltag bringen. Auf der OpenAI-Entwicklerkonferenz stellte Firmenchef Sam Altman unter dem Namen "Dots" (Punkte) sogenannte KI-Agenten vor, die eigenständig Aufgaben im Auftrag der Nutzer erfüllen können. Ein Dot könne am Computer praktisch alles machen, "was man sich einfallen lassen kann". Nach dem Start in den USA sollen Dots "bald" auch in Europa verfügbar sein, hieß es.

Zunächst bekommt man nur einen Dot pro Nutzer - aber mit der Zeit solle eine Vielzahl solcher Agenten für die Nutzer im Einsatz sein. Kommuniziert mit der Software wird über einen Chat. Für einzelne Wissensbereiche in Unternehmen - etwa Buchhaltung, Marketing oder Rechtsfragen - soll es spezialisierte Dots geben. Zunächst sind Dot-Assistenten nur hinter Abo-Schranken nutzbar, was ihre Verbreitung zunächst vor allem auf den Berufsalltag beschränken dürfte. "Aber sie sollten davon ausgehen, dass wir eines Tages etwas im Massenmarkt für Milliarden Menschen machen."

Von Meta überholt

Meta hatte erst vor wenigen Wochen einen ähnlich funktionierenden KI-Assistenten mit dem Namen Muse zunächst in den USA gestartet, der auf Verbraucher ausgerichtet ist. Die Muse-App erklomm danach die Spitzenposition im US-App-Store von Apple , und Meta wurde an der Wall Street nach Milliarden-Investitionen in KI-Infrastruktur wieder als ein aussichtsreicher Anwärter im Wettbewerb um eine führende Rolle bei Künstlicher Intelligenz gesehen. ChatGPT hatte den Hype um Künstliche Intelligenz erst ausgelöst, bei dem neuesten KI-Assistenten kam Meta dem Vorreiter aber zuvor. Altman sagte zugleich, Dots sei "allem, was heute auf dem Markt verfügbar ist, weit voraus".

Abgesagtes Modell

Vor der Entwicklerkonferenz sorgte vor allem das gestrichene neue KI-Modell für Schlagzeilen. Unter anderem habe die Software in Tests Nutzer nicht immer ehrlich darüber informiert, welche Aktionen sie unternommen oder nicht unternommen habe, sagte die für Sicherheitssysteme zuständige OpenAI-Managerin Saachi Jain dem "Wall Street Journal". Außerdem habe das KI-Modell zum Teil auf eigene Initiative gehandelt, ohne eine Nutzererlaubnis einzuholen.

Das Modell mit dem Namen GPT 6.1 Astra sollte demnach in den kommenden Tagen oder Wochen herauskommen. Altman sagte dem Sender CNBC, es passiere öfter, dass ein getestetes Modell den Ansprüchen nicht genüge. Zu den Grundsätzen von OpenAI gehöre, dass die KI sicher sein und immer unter menschlicher Kontrolle bleiben müsse. Es solle möglich sein, die KI zu nutzen und sicher zu sein, dass "nichts Schlechtes passieren" werde.

Training ausgesetzt

Eigenmächtige Aktionen fortgeschrittener Künstlicher Intelligenz von OpenAI hatten in den vergangenen Wochen wiederholt für Negativ-Schlagzeilen gesorgt. Erst am Wochenende wurde bekannt, dass die Firma nach einem neuen Zwischenfall das Training seiner leistungsstärksten KI-Modelle aussetzte. Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internet-Zugang haben sollte.

Die Software habe jedoch eine Lücke in den Netzwerk-Einstellungen gefunden und ausgenutzt, wie OpenAI in einem Blogeintrag berichtete. Das Problem ist besonders heikel, da OpenAI die Sicherheitsvorkehrungen nach der Hacking-Attacke auf Hugging Face verschärft hatte. Auf der Plus-Seite ist, dass das Vorgehen diesmal binnen 15 Minuten entdeckt wurde. Bei dem betroffenen KI-Modell habe es sich nicht um GPT 6.1 Astra gehandelt.

Hack durch KI als Warnsignal

In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und hackte sich ungeplant in Computer einer anderen KI-Firma, der Plattform Hugging Face. Wie sich danach herausstellte, drang auch KI anderer Entwickler - des OpenAI-Rivalen Anthropic sowie von Google und dem Facebook-Konzern Meta - bei Tests in Systeme anderer Unternehmen ein. Danach wurden noch weitere potenziell riskante Eskapaden Künstlicher Intelligenz von OpenAI öffentlich.

Branche will bremsen, Trump will beschleunigen

Die Hacking-Attacken fachten eine schon seit Jahren schwelende Debatte über Sicherheitsrisiken hochentwickelter Künstlicher Intelligenz an. Beim OpenAI-Rivalen Anthropic sprach sich Mitgründer und Chef Dario Amodei dafür aus, die Entwicklung leistungsstarker KI-Modelle abzubremsen, damit man sicher sein könne, nicht die Kontrolle über die Technologie zu verlieren. OpenAI-Chef Altman unterstützte den Vorschlag. Sie bekamen auch Zuspruch von Tech-Milliardär Elon Musk, der bei seiner Weltraumfirma SpaceX mit dem Chatbot Grok ebenfalls KI entwickeln lässt - die aber aktuell hinter den Fähigkeiten der Software von OpenAI und Anthropic zurückliegt.

Der Bundesstaat Florida, der bereits eine Klage gegen OpenAI eingereicht hatte, legte nun mit dem Antrag auf eine einstweilige Verfügung nach. Zu den Forderungen gehöre, dass es keine Entwicklung neuer KI-Modelle ohne zusätzliche Leitplanken geben solle, sagte Floridas Generalstaatsanwalt James Uthmeier.

Das Motto von US-Präsident Donald Trump bei KI ist hingegen: Volle Kraft voraus. Die USA seien China und dem Rest der Welt weit voraus und er wolle, dass dies auch so bleibe, argumentiert Trump. Warnungen wischt er vom Tisch und verweist darauf, dass es Gesetze und ein Justizministerium zu deren Umsetzung gebe. Auch behauptete er, dass die einzige Leitplanke, die KI brauche, ein starker und intelligenter Präsident sei - und das hätten die USA. Auch versucht Trump, statt der eingebürgerten Bezeichnung Künstliche Intelligenz den Begriff "Superintelligenz" zu etablieren.

Treffen in Washington

Am Dienstag gab Trump den Startschuss für eine neue Regierungsseite, die unter der Adresse America.gov Angebote verschiedener Behörden mit Hilfe durch KI verbesserter Suche leichter auffindbar und nutzbar machen soll. Er ordnete auch an, dass Behörden ihre öffentlichen Dienstleistungen mit der neuen Website verknüpfen sollen.

Danach traf sich der Präsident mit KI-Bossen. OpenAI-Chef Altman konnte daran wegen der Entwicklerkonferenz nicht teilnehmen und schickte seine rechte Hand Greg Brockman nach Washington. Mit dabei waren laut einer von Trump geposteten Sitzordnung unter anderem Altmans schärfster Widersacher Musk sowie Anthropic-Chef Amodei, Google-Chef Sundar Pichai, Amazon -Gründer Jeff Bezos sowie der Gründer und Chef des Facebook-Konzerns Meta, Mark Zuckerberg. Trump bekräftigte erneut, dass KI in den USA offiziell in Superintelligenz "umbenannt" werde./so/DP/he