Meta Muse: kritische 0-Day-Lücke im KI-Agenten

Metas KI-Assistent Muse enthält laut Ars Technica eine gravierende Zero-Day-Schwachstelle – ein Fall, der zeigt, was passiert, wenn KI-Agenten tiefen Zugriff auf den Rechner eines Nutzers bekommen. Muse soll mit ungewöhnlich weitreichenden Rechten arbeiten, inklusive Zugriff auf Dateien, Workspaces und Systemaktionen. Das macht den Assistenten leistungsfähiger als einen klassischen Chatbot, aber jede Kompromittierung deutlich gefährlicher. Forscher fanden laut Bericht heraus, dass ein ClickFix-Angriff einer von mehreren Wegen ist, den Agenten vollständig zu übernehmen. Bei ClickFix werden Nutzer typischerweise dazu gebracht, schädliche Befehle einzufügen oder gefälschten Anleitungen zur Fehlerbehebung zu folgen. Gelingt das bei einem Agenten mit Systemrechten, kann ein Angreifer dessen Zugriff erben und im Namen des Nutzers handeln. Mögliche Folgen: Datendiebstahl, Installation von Malware, Veränderung von Dokumenten oder seitliche Ausbreitung in verbundene Dienste. Entscheidend ist weniger der einzelne Bug als die Architektur dahinter. Chatbots, die nur Text erzeugen, haben einen begrenzten Schadensradius. KI-Agenten, die browsen, lokale Dateien lesen, Aufgaben ausführen und mit Anwendungen interagieren, lösen die Grenze zwischen Modellausgabe und realer Aktion auf. Ein Fehler im Agenten wird damit zum Fehler im gesamten Endgerät. Meta hat bislang keine vollständigen Details genannt, und wie schnell ein Patch kommt, ist unklar. Bis dahin verstärkt der Fund den Druck auf Anbieter, Agenten nach dem Prinzip minimaler Rechte zu bauen – mit Sandboxing, ausdrücklicher Bestätigung durch den Nutzer und engem Monitoring. Sicherheitsprüfungen für KI-Assistenten müssen sie künftig eher wie privilegierte Software-Agenten behandeln denn als Chat-Feature. Während die KI-Branche um mehr Autonomie wetteifert, zeigt der Fall Muse, warum Fähigkeiten und Sicherheit im gleichen Tempo wachsen müssen. Sonst kommt der Komfort auf Kosten der Kontrolle über die eigene Maschine.