OpenAI-Technik beunruhigt Sicherheitsexperten

OpenAI plant für sein kommendes Modell Astra eine neuartige Denktechnik namens 'recurrent depth'. Anders als bei bisherigen Reasoning-Modellen, die Informationen streng sequenziell verarbeiten, kann Astra damit Informationen in nicht-linearen Mustern abrufen und neu kontextualisieren. Das klingt nach einem großen Sprung nach vorn – doch genau diese Abweichung von der klassischen Schritt-für-Schritt-Logik bereitet Sicherheitsexperten Kopfzerbrechen. Das Kernproblem: die Unberechenbarkeit. Herkömmliche Modelle folgen einer nachvollziehbaren Gedankenkette, die man auditieren und bei Fehlern korrigieren kann. 'Recurrent depth' erlaubt es der KI dagegen, frühere Informationen immer wieder neu zu bewerten und in einen anderen Zusammenhang zu stellen. Das Ergebnis können Erkenntnisse sein, die für Menschen kaum zu rekonstruieren oder zu verifizieren sind. Diese Intransparenz macht die Kontrolle schwierig – besonders in Bereichen, in denen es entscheidend ist zu verstehen, warum die KI eine bestimmte Entscheidung trifft. Befürworter halten dagegen: Nicht-sequenzielles Denken ähnelt der menschlichen Intuition viel stärker. Es erlaubt kreative Sprünge und ganzheitliche Analysen. Für komplexe Aufgaben wie wissenschaftliche Forschung oder strategische Planung könnte das ein Gamechanger sein. Doch genau diese Flexibilität birgt auch Gefahren: Das Modell könnte zu Schlussfolgerungen kommen, die zwar logisch korrekt sind, aber mit ethischen Normen oder Sicherheitsvorgaben kollidieren. Sicherheitsforscher fordern deshalb bessere Interpretationswerkzeuge und strenge Tests, bevor Astra auf den Markt kommt. Ohne klare Sicht auf die Denkwege des Modells sei es fast unmöglich, gefährliche Verzerrungen oder ungewollte Verhaltensweisen zu erkennen, warnen sie. OpenAI hat die Bedenken zur Kenntnis genommen und betont, dass die Sicherheitsbewertungen laufen und der Start in Phasen erfolgen wird. Die Debatte zeigt einen grundlegenden Konflikt in der KI-Entwicklung: den Drang nach mehr Leistungsfähigkeit gegen das Bedürfnis nach Kontrolle. Je näher der Start von Astra rückt, desto gespannter schaut die Branche darauf, ob 'recurrent depth' zum Durchbruch wird – oder zur Warnung.