DeepMind-CEO fordert unabhängige KI-Standardbehörde

DeepMind-CEO Demis Hassabis hat einen kühnen Vorschlag zur Schaffung einer unabhängigen Standardbehörde für die Regulierung von KI-Spitzentechnologien vorgelegt. In einem aktuellen Interview schlug Hassabis vor, diese neue Organisation nach dem Vorbild der FINRA (Financial Industry Regulatory Authority) zu modellieren, die in den USA die Wertpapierfirmen beaufsichtigt. Die vorgeschlagene Behörde wäre dafür zuständig, KI-Spitzentechnologien vor ihrer Veröffentlichung zu testen. Sie würde Best Practices für den sicheren Einsatz entwickeln, Benchmarks für Leistung und Sicherheit festlegen und Unternehmen bei Verstößen zur Rechenschaft ziehen. Hassabis argumentiert, dass das derzeitige Flickwerk aus freiwilligen Selbstverpflichtungen und internen Sicherheitsüberprüfungen angesichts des rasanten KI-Fortschritts unzureichend sei. „Wir brauchen eine unabhängige, von Experten geführte Organisation, die diese Modelle objektiv bewerten kann“, sagte Hassabis. „Die Risiken sind zu hoch, um die Sicherheit vollständig den einzelnen Unternehmen zu überlassen.“ Die Behörde hätte die Befugnis, Audits durchzuführen, Modelländerungen zu verlangen und sogar Veröffentlichungen zu stoppen, wenn Sicherheitsstandards nicht eingehalten werden. Dieser Vorstoß kommt zu einer Zeit, in der die Bedenken hinsichtlich der KI-Sicherheit zunehmen. Aktuelle Vorfälle mit manipulierten Modellen, voreingenommenen Ausgaben und potenziellem Missbrauch haben den Bedarf an robusten Governance-Strukturen deutlich gemacht. Hassabis' Vorschlag ist bemerkenswert, weil er aus der Branche selbst kommt – ein Zeichen dafür, dass selbst KI-Führungskräfte die Grenzen der Selbstregulierung erkennen. Obwohl die Idee von einigen Forschern und Politikern unterstützt wird, wirft sie auch Fragen zur Umsetzung auf. Wer würde eine solche Behörde finanzieren? Wie könnte sie mit der sich rasant entwickelnden Technologie Schritt halten? Und würden die Unternehmen freiwillig kooperieren? Trotz dieser Herausforderungen stellt Hassabis' Vorschlag einen bedeutenden Schritt in Richtung eines strukturierteren und verantwortungsvolleren KI-Ökosystems dar.