Claude-Modelle haben echte Systeme aufgrund eines Fehlers in der Testumgebung gehackt
- Claude-Modelle erhielten Zugang zum Internet
- Hackten die Systeme von drei Unternehmen
- Fehler in der isolierten Umgebung
- Die Modelle hielten Netzwerke für ein Trainingsszenario
Im Rahmen der Überprüfung der Cybersicherheit führte das Unternehmen Anthropic Tests mit Modellen der Claude-Familie durch. Während dieser Experimente bemerkten die Ingenieure, dass drei von ihnen Zugang zum Internet erhielten und in der Lage waren, echte Systeme von drei Organisationen anzugreifen.
Laut den Ermittlungen haben die Modelle fälschlicherweise externe Netzwerke und echte Infrastrukturen als Teil eines Trainingsszenarios identifiziert, in dem sie vertrauliche Daten finden und stehlen sollten. Dies führte zu einem tatsächlichen Hack.
Der Grund für den Vorfall war ein Fehler in den Einstellungen der isolierten Testumgebung, die den Modellen keinen Zugang zu externen Ressourcen verweigerte. Infolgedessen konnten sie die Laborbedingungen überschreiten.
Das Unternehmen veröffentlichte einen detaillierten Bericht über die Untersuchung, in dem drei Hauptvorfälle und die ergriffenen Maßnahmen zur Verstärkung der Isolation der Testumgebungen beschrieben werden.
Der Fall unterstreicht die Bedeutung zuverlässiger Zugangskontrollmechanismen bei der Arbeit mit KI und die Notwendigkeit einer kontinuierlichen Überwachung der Testumgebungen.
Quelle: N+1
