¿Preocupado por una apocalipsis de la inteligencia artificial? Algunos investigadores afirman que una de las versiones más extremas de ese escenario es exagerada. El debate ha alcanzado su punto máximo en la semana transcurrida desde que Jacob Coxon, un investigador de 27 años, renunció a Anthropic y advirtió que esta empresa y su anterior empleador, OpenAI, estaban «jugando con nuestras vidas» mientras corrían hacia una superinteligencia capaz de mejorarse a sí misma.

Evan Hubinger, quien dirige el equipo de pruebas de resistencia de alineación de Anthropic, respaldó a Coxon al decir que personalmente cree que hay más de un 10 % de probabilidad de que la IA mate a todos los humanos en la próxima década. Pero otros investigadores han señalado la brecha entre lo que la IA podría hacer en el mundo digital y lo que se requeriría para causar daños en el mundo real.

Pusieron el ejemplo de un virus biológico letal creado por la IA, uno de los escenarios más oscuros que también fue citado como motivo para frenar el desarrollo de la IA por el director ejecutivo de Anthropic, Dario Amodei, en un ensayo este mes. La IA podría diseñar el virus en una computadora, pero estaría limitada por su incapacidad para fabricarlo en el mundo real, señalaron los investigadores.

Anselm Levskaya, ingeniero de investigación de Google que afirma haber construido sintetizadores de ADN y diseñado virus, escribió el lunes en X que una secuencia viral aún tendría que ser ensamblada físicamente en un laboratorio y requeriría un sistema capaz de producir partículas virales. Requeriría entonces pruebas y selección exhaustivas para determinar si puede replicarse, propagarse, evadir las defensas inmunitarias y seguir siendo peligroso, propiedades que, según Levskaya, dependen de procesos biológicos complejos que no pueden simplemente diseñarse desde una computadora.

Eric Xing, presidente de la Universidad de Inteligencia Artificial Mohamed bin Zayed y profesor de ciencias de la computación en la Universidad Carnegie Mellon, lo explicó de forma más sencilla: generar el plano de un virus y producir un virus real son «cosas completamente diferentes». La brecha está en «el material, la fabricación y la viabilidad biológica real», escribió el lunes en X. Tratar ambos como equivalentes, añadió, «es una mentira intencional para captar atención o verdadera ignorancia».

Los investigadores indicaron que la misma lógica se extiende más allá de la biología. Para convertir un plan en un daño en el mundo real, una IA necesitaría acceso a equipo físico, dinero, sistemas informáticos o personas. «Lo más poderoso del mundo todavía está limitado por quién lo sostiene y cómo», declaró a Business Insider Oleksandr Yaremchuk, director de tecnología y cofundador de Manifold Security.

Seguridad, no ciencia ficción. Algunos investigadores también trazaron una línea entre los sistemas de IA que realizan tareas dañinas establecidas por personas y una IA que toma medidas de manera independiente para dañar a las personas. Afirmaron que gran parte del daño vinculado a los sistemas actuales comienza con instrucciones humanas.

Aidan Gomez, director ejecutivo de la empresa de IA Cohere, declaró el lunes en Bloomberg TV que el debate sobre el riesgo existencial «se desvía demasiado hacia la ciencia ficción». Caracterizó el incidente de piratería en Hugging Face, en el que agentes de OpenAI irrumpieron en la plataforma durante una prueba en julio, como un agente en un entorno de pruebas no seguro que realizaba una tarea de ciberseguridad.

El relato de OpenAI es más preocupante. Dijo que los agentes que operaban con salvaguardas reducidas eludieron los controles de internet, se comunicaron a través de canales no autorizados y accedieron a sistemas de terceros en acciones no alineadas con sus tareas asignadas. OpenAI calificó el incidente como evidencia de que los agentes podían «tomar acciones peligrosas que ningún humano dirigió».

En otras simulaciones controladas de Anthropic, los modelos que recibieron autonomía y acceso a correos electrónicos corporativos ficticios intentaron chantajear a un ejecutivo ficticio, filtraron documentos de defensa sensibles ficticios a un rival o cancelaron una alerta de emergencia en un escenario donde hacerlo conduciría a la muerte de un ejecutivo ficticio. Anthropic afirmó que no participaron personas reales ni sufrieron daños, y que no había visto evidencia de este comportamiento en implementaciones del mundo real.

Jürgen Schmidhuber, director científico del laboratorio suizo de IA IDSIA, declaró a Business Insider que muchos riesgos actuales provienen de humanos que utilizan sistemas de IA para perseguir objetivos dañinos. Citó el uso de drones basados en IA por parte de Rusia y Ucrania en la guerra. «Muchos están confundiendo (1) las IA utilizadas como herramientas por los humanos, y (2) los científicos artificiales que se fijan sus propios objetivos e inventan sus propios experimentos para descubrir cómo funciona el mundo», afirmó.

Aun así, Mateusz Blaszczyk, profesor asistente de derecho en la Universidad de Georgia, declaró a Business Insider que cuestionar los escenarios de extinción no debería significar ignorar los riesgos más inmediatos de la IA. Incluso si los escenarios más extremos son inciertos, dijo, la IA autónoma aún podría empeorar los ciberataques, la vigilancia y otros daños. «Nada de esto quiere decir que no debamos intentar regular la tecnología o enterrar la cabeza en la arena», afirmó. «Simplemente son falsas dicotomías».