UK-Aufsicht prüft Home Office wegen ChatGPT

Eine britische Regierungsaufsicht prüft eine mögliche Untersuchung zum Einsatz von ChatGPT-Technologie im britischen Innenministerium bei der Bearbeitung von Asylanträgen. Anlass sind Bedenken wegen Genauigkeit und Geheimhaltung. Der Fall wirft schwierige Fragen auf: Sind KI-Werkzeuge für folgenschwere öffentliche Entscheidungen über schutzbedürftige Menschen geeignet? Und informieren Behörden ausreichend transparent darüber, wie solche Systeme eingesetzt werden? Asylentscheidungen können das Leben von Menschen grundlegend verändern. Fehler, Verzerrungen oder unklare Verantwortlichkeiten könnten erheblichen Schaden anrichten. Befürworter von KI in der öffentlichen Verwaltung argumentieren, dass sie Routinearbeit beschleunigen, Rückstände abbauen und Behörden bei großen Informationsmengen helfen kann. Doch Effizienzgewinne müssen gegen Fairness, Erklärbarkeit und rechtliche Kontrolle abgewogen werden. Wenn das Innenministerium generative KI bei der Bearbeitung von Anträgen eingesetzt hat, sollte die Öffentlichkeit wissen, welche Rolle sie spielte, welche Schutzmaßnahmen es gab und ob Menschen die endgültigen Entscheidungen trafen. Das Interesse der Aufsicht deutet darauf hin, dass bestehende Transparenz- und Rechenschaftsmechanismen möglicherweise nicht ausreichen. Es verweist zugleich auf eine größere Herausforderung für Regierungen, die generative KI einführen: Sie müssen den Druck zur Modernisierung von Diensten mit öffentlichem Vertrauen in Einklang bringen. Behörden brauchen klare Vorgaben zu Datenschutz, Aktenführung und menschlicher Überprüfung. Sie sollten außerdem zeigen können, dass KI-unterstützte Entscheidungen dieselben Standards erfüllen wie herkömmliche Verfahren. Das Ergebnis einer möglichen Untersuchung könnte einen wichtigen Präzedenzfall dafür schaffen, wie britische öffentliche Stellen KI in sensiblen Bereichen einsetzen. Es könnte andere Behörden dazu drängen, mehr über ihre Werkzeuge offenzulegen und stärkere Kontrollen einzuführen, bevor sie diese bei Entscheidungen einsetzen, die Rechte von Menschen betreffen.