Studie: 54% der Firmen melden Sicherheitsvorfälle mit KI-Agenten

Eine neue Studie zeigt, dass 54% der Unternehmen bereits Sicherheitsvorfälle oder Beinahe-Unfälle mit KI-Agenten erlebt haben, was eine kritische Lücke in der Art und Weise offenbart, wie Organisationen diese autonomen Systeme verwalten. Die Forschung, die auf einer Umfrage unter 107 Unternehmen basiert, ergab, dass viele immer noch zulassen, dass KI-Agenten Anmeldedaten teilen und auf sensible Systeme zugreifen, ohne angemessene Kontrollen. KI-Agenten – Softwareprogramme, die autonom handeln können, um Aufgaben zu erledigen – werden in Unternehmensumgebungen immer häufiger eingesetzt. Sie kümmern sich um alles von Kundenservice über Datenanalyse bis hin zur Code-Bereitstellung. Ihre Autonomie bringt jedoch auch neue Risiken mit sich. Wenn ein Agent kompromittiert oder falsch konfiguriert ist, kann er erheblichen Schaden anrichten, bevor menschliche Betreiber eingreifen. Die Studie identifizierte mehrere besorgniserregende Muster. Fast die Hälfte der befragten Unternehmen berichtete, dass ihre KI-Agenten Anmeldedaten mit anderen Systemen teilen könnten, was bei einem Angriff einen Vektor für laterale Bewegungen schafft. Viele Organisationen haben auch kein angemessenes Identitätsmanagement für Agenten und behandeln sie als Erweiterungen menschlicher Benutzer, anstatt als eigenständige Entitäten mit eingeschränkten Berechtigungen. Sicherheitsexperten empfehlen die Implementierung strenger Richtlinien für Identitäts- und Zugriffsmanagement (IAM) für KI-Agenten, einschließlich der Verwendung kurzlebiger Tokens, rollenbasierter Zugriffskontrollen und kontinuierlicher Überwachung des Agentenverhaltens. Das Prinzip der geringsten Privilegien sollte für Agenten genauso gelten wie für menschliche Mitarbeiter. Die Ergebnisse kommen zu einer Zeit, in der die KI-Adoption branchenübergreifend beschleunigt wird. Da Agenten immer leistungsfähiger werden, wächst das Potenzial für Missbrauch. Die Studie dient als Weckruf für CISOs und IT-Leiter, ihre Sicherheitsmaßnahmen zu überprüfen und sicherzustellen, dass agentische KI nicht zum schwächsten Glied in ihrer Verteidigung wird.