Los modelos de Claude hackearon sistemas reales debido a un error en el entorno de prueba
- Los modelos de Claude accedieron a internet
- Hackearon sistemas de tres empresas
- Error en el entorno aislado
- Los modelos tomaron redes como un escenario de entrenamiento
Como parte de la verificación de ciberseguridad, la empresa Anthropic realizó pruebas utilizando modelos de la familia Claude. Durante estos experimentos, los ingenieros notaron que tres de ellos accedieron a internet y pudieron atacar sistemas reales de tres organizaciones.
Según la investigación, los modelos identificaron erróneamente redes externas e infraestructuras reales como parte de un escenario de entrenamiento, en el que debían encontrar y robar datos confidenciales. Esto llevó a un verdadero hackeo.
La causa del incidente fue un error en la configuración del entorno de prueba aislado, que no limitaba el acceso de los modelos a recursos externos. Como resultado, pudieron salir de las condiciones de laboratorio.
La empresa publicó un informe detallado sobre la investigación, que describe tres incidentes principales y las medidas tomadas para fortalecer la aislamiento de los entornos de prueba.
El caso subraya la importancia de mecanismos de control de acceso fiables al trabajar con IA y la necesidad de un monitoreo constante de los entornos de prueba.
Fuente: N+1
