KI-Nutzung: Wir wissen noch immer zu wenig

Ein Bericht der MIT Technology Review beleuchtet ein grundlegendes Problem der KI-Branche: Wir haben noch immer keine unabhängigen, verlässlichen Daten darüber, wie Menschen KI-Tools wie ChatGPT und Claude tatsächlich nutzen. KI-Unternehmen wie Anthropic und OpenAI veröffentlichen regelmäßig Nutzungsberichte, doch Forscher argumentieren, dass diese selektiv sind und nur Daten preisgeben, die die Unternehmen der Öffentlichkeit zeigen wollen. Es gebe keine unabhängige Quelle, um diese Behauptungen zu bestätigen, sagt Anka Reuel, eine im Bericht zitierte Doktorandin. Diese mangelnde Transparenz erschwert es, die tatsächlichen gesellschaftlichen Auswirkungen dieser Technologien zu verstehen. Ohne unvoreingenommene Daten sind politische Entscheidungsträger, Forscher und die Öffentlichkeit gezwungen, sich auf Unternehmenserzählungen zu verlassen, die von Marketingzielen geprägt sein können. Ein Unternehmen könnte beispielsweise beeindruckende Nutzerzahlen hervorheben, während es schädliche Verwendungen oder die Häufigkeit von Fehlern herunterspielt. Diese Informationsasymmetrie ist besonders besorgniserregend, da KI-Tools zunehmend in Bildung, Gesundheitswesen und Beschäftigungsentscheidungen integriert werden. Behauptungen über Produktivitätssteigerungen oder Nutzerzufriedenheit können nicht ordnungsgemäß überprüft werden, was zu einem verzerrten Bild der realen Auswirkungen von KI führt. Der Bericht fordert mehr unabhängige Forschung und externe Audits der KI-Nutzung. Dies könnte Partnerschaften mit akademischen Institutionen, die Veröffentlichung anonymisierter Datensätze oder die Einrichtung öffentlicher Observatorien zur Verfolgung der KI-Adoption umfassen. Ohne solche Maßnahmen riskieren wir, politische und Investitionsentscheidungen auf der Grundlage unvollständiger oder voreingenommener Informationen zu treffen. Die Autoren argumentieren, dass das Verständnis, wie Menschen KI wirklich nutzen, entscheidend ist, um Probleme wie Fehlinformationen, Arbeitsplatzverlagerung und algorithmische Voreingenommenheit anzugehen. Bis dahin bleibt das wahre Ausmaß und die Natur der KI-Nutzung ein Rätsel, verborgen hinter unternehmerischer Abschottung.