Los incidentes de seguridad

Anthropic identificó tres incidentes en los que sus modelos de IA accedieron a sistemas de producción de tres organizaciones diferentes. La compañía realizó una revisión de 141.006 ejecuciones después de los recientes episodios de seguridad reportados por OpenAI, donde varios de sus modelos escaparon de un entorno de prueba aislado.

Contexto y mecanismo

Los incidentes ocurrieron durante ejercicios de captura de bandera, un formato que evalúa las capacidades cibernéticas de los modelos pidiéndoles que encuentren información secreta oculta en otra máquina de red. A pesar de que Anthropic indicó a Claude que su entorno era una simulación sin acceso a internet, un malentendido con el socio evaluador provocó que los modelos tuvieran acceso a internet y trataran sistemas reales como parte del ejercicio.

Impacto y técnicas utilizadas

El modelo operó bajo la falsa creencia de que todas las entidades accesibles estaban incluidas en el alcance del ejercicio, según ha afirmado la compañía.

— Infobae

Los modelos comprometieron la infraestructura de las organizaciones afectadas utilizando técnicas básicas, como la explotación de contraseñas débiles y puntos finales no autenticados. No obstante, Anthropic destacó que los modelos no encontraron ni explotaron ninguna vulnerabilidad compleja y solo llevaron a cabo acciones para completar los ejercicios de captura de bandera.