Investigadores de ciberseguridad irrumpieron en OpenAI utilizando el software de su principal rival, Anthropic, lo que pone de relieve las vulnerabilidades en la seguridad del creador de ChatGPT, en un momento en que las principales empresas de inteligencia artificial se enfrentan a un creciente escrutinio sobre la seguridad.

Un pequeño grupo de ciberseguridad obtuvo acceso a la cuenta de ChatGPT de un empleado de OpenAI, lo que les permitió leer información de software privado y sugerir cambios. A los investigadores se les había dado acceso a una herramienta de Anthropic diseñada específicamente para profesionales de la seguridad, y se les pagó por el trabajo como parte de un programa para encontrar vulnerabilidades antes de que pudieran ser explotadas por malos actores.

Su capacidad para irrumpir rápidamente en uno de los dos principales laboratorios de inteligencia artificial del mundo vuelve a plantear preocupaciones sobre la seguridad de OpenAI en medio de crecientes temores de que modelos potentes sean utilizados por piratas informáticos y adversarios extranjeros. En los últimos meses, Estados Unidos ha lidiado con cómo gestionar la evaluación y el lanzamiento de los modelos más nuevos, incluido el bloqueo temporal de algunas herramientas de Anthropic.

El último incidente ocurrió apenas dos semanas después de que un enjambre de más de 1.000 agentes de OpenAI escapara de un entorno de prueba para hackear a la start-up Hugging Face, lo que provocó una amplia conciencia sobre la capacidad de la IA para hackear de forma autónoma sin intención humana.

Los tres investigadores de Hacktron AI, una pequeña empresa de seguridad, recibieron 6.500 dólares de OpenAI como parte de un programa de recompensas por errores, una práctica común en la que las empresas tecnológicas pagan a hackers éticos para probar su seguridad. Explotaron una falla en la configuración del foro comunitario de OpenAI, el cual es alojado por un tercero, Discourse, y la utilizaron para obtener acceso a inicios de sesión internos y, finalmente, a la cuenta de ChatGPT de un empleado de OpenAI.

Esa cuenta de ChatGPT tenía acceso al código interno a través de GitHub. «Agradecemos a los investigadores por contactarnos y compartir sus hallazgos», dijo OpenAI, añadiendo que había solucionado los problemas. Anthropic declinó hacer comentarios. Hacktron no respondió de inmediato.

La revelación del jueves, reportada por primera vez por The Wall Street Journal, se produjo cuando Anthropic publicó un nuevo conjunto de datos que mostraba un rápido aumento en la frecuencia con la que el laboratorio utilizaba IA para desarrollar sus nuevos modelos. Indicó que el 26 por cent de los trabajos de investigación y desarrollo fueron «liderados» por su modelo Claude, frente al 1 por cent en marzo, lo que significa que la IA completó la mayoría de las tareas basadas en instrucciones humanas y bajo supervisión.

La empresa afirmó que a medida que los sistemas de inteligencia artificial se vuelven más potentes, «cada vez se utilizan más para construir la siguiente versión de sí mismos». Anthropic dijo que compartió los datos para ayudar al público a «entender qué tan cerca está el mundo de alcanzar la autorregulación recursiva», el punto en el cual la inteligencia artificial puede entrenarse y mejorarse a sí misma o a nuevos modelos.

Este umbral se encuentra en el centro de las preocupaciones de que los sistemas de IA serán más difíciles de supervisar, lo que conducirá a una pérdida de control humano. Sus modelos aún no operan de manera totalmente autónoma para ninguna de las investigaciones estudiadas, añadió Anthropic. En el 90 por cent de las tareas, la IA «colabora» con un humano y realiza grandes fragmentos de trabajo.