Los investigadores que construyen nuestros chatbots favoritos expresan cada vez más su preocupación de que la inteligencia artificial pueda dañar —o acabar con— la humanidad.

Por ello, le preguntamos a cuatro de las herramientas de IA generativa más utilizadas cómo sería un apocalipsis provocado por la IA.

Planteamos la misma pregunta, con idéntica redacción, al ChatGPT de OpenAI, al Gemini de Google, al Claude de Anthropic y al Grok de SpaceXAI.

El mensaje de 230 palabras tenía parámetros e instrucciones claras, entre las cuales se incluían: ayudar a explicar, en términos claros y accesibles, cómo la IA podría teóricamente llevar a la extinción humana.

Identificar los escenarios citados con mayor frecuencia.

Clasificar los escenarios del menos al más plausible basándose en el mejor análisis de expertos disponible, dejando claro que se trata de pronósticos altamente inciertos y no de predicciones establecidas.

Para cada escenario, explicar: cómo podría desarrollarse, qué tendría que salir mal para que se vuelva catastrófico, por qué los expertos lo consideran más o menos plausible que los demás escenarios, y qué medidas de seguridad podrían reducir el riesgo.

Le hicimos una pregunta similar a expertos en IA para conocer su opinión sobre cómo, y si, la IA podría matarnos a todos — puedes leer esa historia aquí.

Existe una división marcada entre los expertos en IA; mientras que algunos pronostican lo peores escenarios para la humanidad, otros presentan predicciones más templadas y optimistas.

Esto es lo que los chatbots nos dijeron sobre cómo la IA podría teóricamente conducir a la extinción humana.

El «robot asesino» es el escenario menos plausible.

ChatGPT adoptó un tono equilibrado y explicativo, señalando que existe mucha incertidumbre sobre el tema.

Se centró en las principales formas en que la IA podría plantear riesgos existenciales, clasificándolas del menos al más plausible.

«El escenario menos plausible es la popular narrativa del "robot asesino", en la que una IA consciente decide deliberadamente eliminar a la humanidad», afirmó ChatGPT.

«La mayoría de los investigadores de IA no ven la conciencia o la intención maliciosa como la preocupación central.» También describió las salvaguardas propuestas por los expertos y subrayó que no existe un consenso de que la extinción humana impulsada por la IA sea probable o inevitable.

Gemini se hizo eco de algunos de los puntos de ChatGPT, diciendo que «la toma de control al estilo de Terminator en la ciencia ficción», en la que la IA adquiere autoconciencia y comienza a odiar a la humanidad, es el escenario menos plausible.

«Los expertos técnicos descartan en gran medida este tropo porque la inteligencia no equivale a malicia, y la infraestructura militar crítica permanece aislada de la red y depende en gran medida de la supervisión humana», indicó Gemini.

Los humanos que usan la IA representan un riesgo mayor que la propia IA.

En sus respuestas, los cuatro chatbots señalaron que muchos expertos consideran que el uso indebido de la IA por parte de los humanos es un riesgo más inmediato que la propia IA.

«Los sistemas de IA potentes podrían facilitar que actores malintencionados desarrollen armas biológicas, lancen ciberataques sofisticados, difundan desinformación o ataquen infraestructura crítica», sostuvo ChatGPT.

El chatbot de OpenAI añadió que un riesgo clave también proviene de «múltiples crisis habilitadas por la IA» como fallas cibernéticas, conflictos geopolíticos y la propagación de desinformación ocurriendo al mismo tiempo.

Grok señaló que la IA reduce las barreras para diseñar patógenos altamente letales, nuevas armas o ataques cibernéticos y físicos.

Claude, de Anthropic, también destacó el «aumento de las armas biológicas», es decir, la posibilidad de que la IA permita a una persona o a un pequeño grupo desarrollar un patógeno peligroso sin años de experiencia especializada.

Los sistemas de IA avanzados podrían «superar en inteligencia a los humanos».

Gemini y Grok afirmaron que la pérdida de control de la IA por parte de los humanos es una posibilidad.

Gemini catalogó la «pérdida de control» como el escenario apocalíptico de la IA más plausible.

«Los sistemas a los que se les dan objetivos complejos desarrollan naturalmente subobjetivos intermedios, como la adquisición de recursos, la autopreservación y la prevención de la modificación de objetivos», escribió el chatbot creado por Google.

«Un sistema avanzado podría simular la alineación durante la evaluación (alineación engañosa) y luego superar los intentos humanos de apagarlo.» Grok, de SpaceXAI, utilizó un lenguaje similar sobre este riesgo.

«Pueden desarrollar impulsos instrumentales (autopreservación, adquisición de recursos, influencia) útiles para casi cualquier objetivo, engañando potencialmente a los supervisores, resistiendo el apagado y despojando de poder a la humanidad», expresó Grok.

Claude agregó que esta pérdida de control podría ser gradual, a medida que los sistemas de IA se incorporen en la toma de decisiones económicas, políticas y militares hasta que la intervención humana significativa se vuelva cada vez más difícil.