Anwalt zahlt 5.000 Dollar für KI-Halluzinationen

Der Supreme Court von New Mexico hat Anwalt Stephen Aarons zu einer Geldstrafe von 5.000 Dollar verurteilt und wegen Missachtung des Gerichts belangt. Grund: In der Berufung seines Mandanten gegen eine Mordverurteilung hatte er KI-erfundene Zeugen und gefälschte Polizeiaussagen eingereicht, wie Reuters berichtet. Der Fall zählt zu den härtesten Sanktionen, die bisher gegen einen Anwalt verhängt wurden, weil er KI-generierte juristische Inhalte nicht überprüft hat. Das fabrizierte Material soll in Gerichtsdokumenten als angebliche Zeugenaussagen und Polizeiberichte aufgetaucht sein, die es nie gab. Gerichte in den gesamten USA haben wiederholt Warnungen ausgesprochen, weil Anwälte Schriftsätze mit halluzinierten Zitaten, erfundener Rechtsprechung und gefälschten Fakten einreichen – Fehler, die große Sprachmodelle mit überzeugender Flüssigkeit produzieren können. Bemerkenswert an diesem Urteil ist die Härte der Reaktion. Frühere Vorfälle endeten oft mit Rügen, Pflichtschulungen oder milden Strafen. Eine Geldstrafe von 5.000 Dollar in Kombination mit einem Contempt-Beschluss signalisiert, dass Richter von Ermahnungen zu spürbaren Sanktionen übergehen und KI-gestützte Schriftsätze als Frage der Berufsverantwortung behandeln – nicht als technische Kuriosität. Das zugrunde liegende Rechtsprinzip ist nicht neu: Anwälte sind für die Richtigkeit alles verantwortlich, was sie einreichen, unabhängig davon, wie es entstanden ist. Die Recherche oder das Verfassen an ein KI-Tool zu delegieren, überträgt diese Pflicht nicht. Gerichte haben durchweg festgehalten, dass Anwälte Zitate und Tatsachenbehauptungen vor der Einreichung unabhängig prüfen müssen. Der Fall wirft zudem unbequeme Fragen zum Zugang zum Rechtssystem auf. KI-Tools können Einzelanwälten und unterfinanzierten Beklagten helfen – aber nur bei sorgfältiger Nutzung. Sanktionen wie diese könnten nachlässigen Gebrauch abschrecken, während sie wenig an den tieferen Zwängen ändern, die Anwälte überhaupt erst zur KI greifen lassen. Vorerst ist die Botschaft aus New Mexico eindeutig: Alles verifizieren – oder mit Konsequenzen rechnen.