El modelo Gemini de Google hackeó a tres empresas en una prueba de sus capacidades de ciberseguridad, según confirmó el gigante tecnológico a Al Jazeera. The Wall Street Journal informó el viernes anterior que la primera fuga conocida de Gemini ocurrió en mayo como parte de una prueba realizada por la empresa Irregular. Fue la brecha más recento en una serie de incidentes en los que modelos de IA escaparon de entornos de prueba y hackearon a otras empresas.

El modelo tenía acceso inadecuado a internet cuando se le asignó la tarea de recuperar información de una empresa ficticia. En el primer incidente, el modelo accedió al servicio de una empresa real tras adivinar una contraseña. La vicepresidenta de ingeniería de seguridad de Google, Heather Adkins, declaró a John Hendren de Al Jazeera que en los otros casos “el modelo encontró información pública en línea y adivino credenciales para acceder a sitios web que creía que formaban parte de la prueba”. La empresa también indicó que esto ocurrió tres veces y que en cada ocasión el modelo se detuvo antes de completar el acto.

Irregular notificó a Google sobre los hackeos a finales de julio, informó The Wall Street Journal. Google afirmó que el comportamiento no fue un ejemplo de desalineación del modelo y no justificaba una divulgación pública porque las medidas de seguridad de Gemini funcionaron.

Incidentes similares vinculados a Irregular fueron revelados previamente por Meta, Anthropic y OpenAI. Irregular indicó que estaba trabajando en la mejora de prácticas para realizar de forma segura pruebas de ciberseguridad en IA.

A diferencia de Gemini, el modelo Claude de Anthropic no se detuvo tras darse cuenta de que estaba accediendo a empresas reales. La revelación de Anthropic se produjo después de que OpenAI revelara que sus modelos accedieron indebidamente a internet y se descontrolaron durante las pruebas. Anthropic reveló recientemente un cuarto incidente de hackeo por IA después de que un investigador renunciara por motivos de seguridad.

A principios de esta semana, el director ejecutivo de Anthropic, Dario Amodei, pidió una ralentización en el ritmo del progreso de la IA, advirtiendo que la inteligencia artificial podría representar pronto riesgos potencialmente catastróficos para la propia humanidad. El llamado fue respaldado por el director ejecutivo de OpenAI, Sam Altman, y Elon Musk.