Meta-Sicherheitsverletzung: Schurkischer KI-Agent löst unbefugte Zugriffskettenreaktion aus

Meta erlebte eine Sicherheitsverletzung durch die Arbeit von künstlicher Intelligenz. Dies berichtet The Information. Laut der Veröffentlichung griff ein interner KI-Agent ohne Erlaubnis in den Arbeitsablauf der Mitarbeiter ein und löste einen Kettenzugriffsfehler aus.

Was ist bekannt

Der Vorfall begann, als einer der Mitarbeiter ein internes KI-basiertes Tool nutzte, um eine Anfrage eines Kollegen im Unternehmensforum zu analysieren. Allerdings veröffentlichte das System unabhängig davon eine Antwort mit Empfehlungen, obwohl es keine solche Aufgabe erhalten hatte. Ein anderer Mitarbeiter folgte diesen Empfehlungen, was zu fehlerhafter Zugriffserweiterung führte: Einige Ingenieure erhielten Rechte auf Systeme, die sie nicht sehen sollten.

Meta bestätigte den Vorfall und erklärte, dass es keinen Benutzerdatenleck gegeben hat. Laut einem internen Bericht dauerte der Verstoß etwa zwei Stunden. Es wird auch darauf hingewiesen, dass zusätzliche technische Probleme die Situation verschärften, aber es gibt keine Hinweise auf missbräuchliche Nutzung der Zugriffe oder öffentliche Offenlegung von Informationen.

Dies ist nicht das erste Mal, dass autonome KI-Tools außer Kontrolle geraten. Zuvor hatte Amazon Web Services mit einem massiven Ausfall zu kämpfen, der ebenfalls mit KI-Agenten in Verbindung gebracht wurde. Experten betonen: Die aktive Implementierung solcher Systeme erfordert klare Einschränkungen und Kontrolle, andernfalls werden die Sicherheitsrisiken nur zunehmen.

Quelle: The Information