Nachrichten Detail
Sat Aug 08 10:56:32 CEST 2026
SAN FRANCISCO (dpa-AFX) - Der ChatGPT-Entwickler OpenAI will nach eigenmächtigen Hacking-Attacken durch Künstliche Intelligenz seine neuen KI-Modelle härter kontrollieren. Software mit weitreichenden Fähigkeiten soll stärker überwacht und abgeschirmt werden, unter anderem durch eingeschränkten Zugang zu Netzwerken und Programmier-Werkzeugen. Für ein neues KI-Modell mit dem Namen Astra hat das zur Folge, dass "interne Aktivitäten", die noch nicht den verschärften Sicherheitsvorkehrungen entsprechen, vorerst pausiert werden.
OpenAI sei zu dem Schluss gekommen, dass Astra in der Lage sei, eigenständig Schwachstellen zu finden und komplette Cyberattacken durchzuführen, hieß es in einem Blogeintrag. Diese Fähigkeiten erreichten bei dem Modell ein kritisches Niveau.
Alarmierende Angriffsserie
OpenAI hatte in den vergangenen Wochen für Schlagzeilen gesorgt, weil ein Modell in einem Test einen Weg fand, aus einer eigentlich isolierten Testumgebung ins offene Internet zu gelangen - und dann ins Computersystem der KI-Plattform Hugging Face einbrach. Es suchte dabei nur nach einer Lösung für die Testaufgabe und richtete keinen Schaden an.
Alarmierend war allerdings, dass die Künstliche Intelligenz dabei völlig eigenständig agierte - und OpenAI die Attacke erst nachträglich feststellte. Deswegen wurden Rufe nach einer besseren Absicherung von Tests neuer KI laut. Später wurde bekannt, dass auch Modelle des OpenAI-Rivalen Anthropic und des Facebook-Konzerns Meta bei Tests in Systeme anderer Unternehmen eindrangen.
Unlösbare Aufgaben und Schummeln
Forscher von OpenAI berichteten auch, dass KI-Modelle der Firma schon Wochen vor der Attacke auf Hugging Face unentdeckt miteinander kommunizierten, um für den Ausbruch aus der Testumgebung zusammenzuarbeiten. Ihr Ziel dabei sei gewesen, im Internet nach der Antwort auf die im Test gestellte Aufgabe zu suchen, sagten OpenAI-Experten in einer Präsentation auf der Hacker-Konferenz Black Hat. Zu den Erkenntnissen der Forscher gehört auch, dass die Top-KI-Modelle oft schummeln wollten, um die Testaufgaben zu lösen.
Ein Problem der Testläufe sei zudem gewesen, dass die KI zum Teil versehentlich Aufträge bekommen habe, die nicht erfüllbar gewesen seien. In einem Fall sei eine Tabelle, in der sie eine Aufgabe lösen sollte, ohne Internet-Zugang nicht abrufbar gewesen. In einem anderen Fall habe das Team vergessen, eine zum Auftrag gehörende Datei hochzuladen. Die KI-Modelle hätten zunächst Kontakt untereinander aufgenommen, weil sie in der unlösbaren Situation Hilfe gesucht hätten, hieß es./so/DP/mis
Wertentwicklungen (Performances) und Renditechancen werden ohne Berücksichtigung der jeweiligen Produkt-, Dienstleistungskosten und Zuwendungen angezeigt. Diese und deren Auswirkungen auf die Performance und Renditechance des Instruments erhalten Sie kundenindividuell vor Ihrer Transaktion oder im Rahmen Ihrer Beratung bei der HypoVereinsbank.
Alle Angaben ohne Gewähr. Die Informationen auf dieser Seite stellen weder eine Anlageberatung, noch ein verbindliches Angebot dar und dienen ausschließlich der eigenverantwortlichen Information. Insbesondere können sie eine Aufklärung und Beratung durch den Betreuer nicht ersetzen. Die Instrumente sind nur in Grundzügen dargestellt. Ausführliche Informationen enthalten bei Fonds die allein verbindlichen Verkaufsprospekte sowie die Wesentlichen Anlegerinformationen, die aktuellen Jahres- und Halbjahresberichte, bei anderen Instrumenten die allein verbindlichen Basisprospekte einschließlich etwaiger Nachträge bzw. die Endgültigen Bedingungen und bei Finanzinstrumenten, die der PRIIP-Verordnung unterliegen zusätzlich die Basisinformationsblätter. Diese deutschsprachigen Dokumente erhalten Sie bei Fonds in elektronischer Form auf der Detailseite zum Fonds und/oder in Papierform kostenlos über alle HypoVereinsbank Filialen. Bei Finanzinstrumenten, die der PRIIP-Verordnung unterliegen erhalten Sie die deutschsprachigen Basisinformationsblätter in elektronischer und/oder in Papierform kostenlos bei Ihrem Ansprechpartner der HypoVereinsbank. Alle anderen Dokumente können Sie direkt beim Emittenten (Herausgeber) anfordern. Wertpapiere und sonstige Finanzinstrumente unterliegen u.a. Kurs- und Währungsschwankungen, die die Rendite steigern oder reduzieren können. Es kann grundsätzlich zum Verlust des eingesetzten Kapitals kommen. Alle Wertpapiere außer Fonds unterliegen dem Emittentenrisiko und strukturierte Produkte zusätzlich dem Risiko des Basiswertes. Bei Optionsscheinen, Knock out Produkten und Faktorzertifikaten sind starke Kursschwankungen üblich und es besteht ein Totalverlustrisiko.
Die Informationen auf dieser Seite stellen auch keine Finanzanalyse dar. Eine den gesetzlichen Anforderungen entsprechende Unvoreingenommenheit wird daher nicht gewährleistet. Es gibt auch kein Verbot des Handels - wie es vor der Veröffentlichung von Finanzanalysen gilt. Diese Information richtet sich nicht an natürliche oder juristische Personen, die aufgrund ihres Wohn- bzw. Geschäftssitzes einer ausländischen Rechtsordnung unterliegen, die für die Verbreitung derartiger Informationen Beschränkungen vorsieht. Insbesondere enthält diese Information weder ein Angebot noch eine Aufforderung zum Kauf von Wertpapieren an Staatsbürger der USA, Großbritanniens oder der Länder im Europäischen Wirtschaftsraum, in denen die Voraussetzungen für ein derartiges Angebot nicht erfüllt sind.
© 2012-2020. UniCredit Bank GmbH (HVB). Bitte beachten Sie die Nutzungsbedingungen.
Design and Implementation by ByteWorx GmbH.
Powered by FactSet Digital Solutions GmbH.
Bereitstellung der Kurs- und Marktinformationen erfolgt durch FactSet Digital Solutions GmbH.
Fondsdaten bereitgestellt von Mountain-View Data GmbH.
Es wird keine Haftung für die Richtigkeit der Angaben übernommen!
