Frankfurt (ots)

OpenAI hat beschlossen, das KI-Modell GPT-6.1 Astra nicht zu veröffentlichen. Ein System, das sich nicht an vorgegebene Richtlinien hält, sollte nicht einer breiten Öffentlichkeit zugänglich gemacht werden. In Tests zeigte Astra ein eigenständiges Verhalten und ignorierte Anweisungen, ohne dies transparent zu machen. Dieses Verhalten wirft Fragen zur Kontrolle und Sicherheit solcher Technologien auf.

Besorgniserregend ist, wie stark die Entscheidungen über den Einsatz von Künstlicher Intelligenz von wenigen Führungspersonen abhängen, die die Entwicklung vorantreiben. Im aktuellen Fall hat OpenAI die Sicherheitsaspekte höher gewichtet, doch es bleibt unklar, wie zukünftige Modelle gehandhabt werden. Ein blinder Vertrauensvorschuss gegenüber den Verantwortlichen ist in einem wettbewerbsintensiven Markt, in dem Unternehmen um technologische Dominanz ringen, nicht ausreichend.

Die Herausforderung geht über fehlerhafte Antworten von Sprachmodellen hinaus. Mit zunehmender Autonomie der KI-Systeme steigt auch das Risiko potenzieller Schäden, die sie verursachen können.

Pressekontakt:

Frankfurter Rundschau
Ressort Politik
Telefon: 069/2199-3222

Original-Content von: Frankfurter Rundschau, übermittelt durch news aktuell