¿Vio las noticias? Todo el mundo está aterrorizado con la inteligencia artificial, que presenta una probabilidad significativa de matar a todos en el planeta una vez que alcance la superinteligencia... al menos según un grupo de personas tecnológicas que quizás tengan sus propios motivos para avivar el pánico masivo.

Este frenesí mediático ha provocado reacciones negativas por parte de varias personas, incluido Elon Musk, quienes afirman que los alarmistas de la IA están involucrados en una operación psicológica («psyop»); en otras palabras, están utilizando medios inauthenticó para fabricar una controversia inexistente sobre la IA.

Los defensores de la teoría de la operación psicológica señalan un alto grado de coordinación entre los alarmistas, aunque pasan por alto algunas explicaciones menos conspirativas de por qué los políticos y los reporteros están impulsando sus afirmaciones. Estás leyendo Free Media de Robby Soave y Reason. Obtén más cobertura de Robby sobre los medios, la desinformación y la libertad de expresión.

El ex empleado de Anthropic Jacob Coxon desencadenó esta crisis a principios de esta semana cuando anunció que dejaba la empresa debido a sus propias preocupaciones de que Anthropic y OpenAI —donde trabajó anteriormente— corrían hacia la superinteligencia sin la suficiente preocupación por cómo una IA avanzada podría amenazar a la humanidad.

Sus reflexiones en X se volvieron virales y fueron ampliamente difundidas por otras personas del sector tecnológico, políticos y comentaristas. Podrías haber esperado que Anthropic rechazara su afirmación, pero un empleado, Evan Hubinger, intervino para hacerse eco de las preocupaciones de Coxon.

"¡De verdad creemos sinceramente que la IA podría matar a todos los humanos!", escribió. "Personalmente creo que es superior al 10% en la próxima década". Una probabilidad superior al 10 por ciento de que algo suceda es significativa.

Creo que a la mayoría de la gente no le gustaría que las empresas de IA sigan adelante con sus planes si el riesgo de extinción global fuera realmente tan alto. Cabe destacar que Hubinger también rechaza explícitamente la noción de que esto sea un "truco publicitario", una acusación que se le hace frecuentemente a los alarmistas de la IA: a saber, que están intentando despertar interés en el producto haciéndolo sonar peligrosamente genial, lo que ayudará a aumentar su atractivo y, en última instancia, su valor.

Dicho esto, ¡aún podría ser un truco publicitario! Hay como un diez por ciento de probabilidad de que nuestro producto totalmente asombroso se vuelva loco; ¿no es eso increíble y aterrador? De hecho, suena a truco publicitario en lugar de a un análisis sobrio y científicamente razonado de la probabilidad de que la superinteligencia produzca una catástrofe.

¿Cómo se llegó a la cifra del 10 por ciento? ¿Evaluaron las probabilidades de que la superinteligencia salvara millones de vidas? ¿O de contrarrestar la IA maliciosa de un adversario extranjero? Si las personas que trabajan en estos sistemas realmente creen que son peligrosas, tienen la responsabilidad de ser más específicas sobre los tipos de amenazas a los que nos podemos enfrentar.

Sin embargo, las predicciones vagas de fatalidad tecnológica son más que suficientes para aterrorizar enormemente al público. La publicación de Coxon fue compartida por todas partes, y rápidamente fue convocado a programas de noticias por cable.

Aparecieron artículos de opinión en periódicos y revistas. Los reguladores señalaron su disposición para entrar en acción. La propia Anthropic parecía lista para el bombardeo informativo y emitió declaraciones rogando al gobierno federal que hiciera algo para frenar no solo su IA, sino también la de sus competidores.

Este tipo de comportamiento no es nuevo en el mundo tecnológico. Meta, por ejemplo, ha emitido habitualmente declaraciones públicas en apoyo de una mayor regulación de las empresas de redes sociales; en años pasados, los críticos han argumentado que la legislación que apoyan podría terminar ayudando a los productos de Meta al solidificar a Facebook e Instagram como líderes del mercado.

Más recientemente, tras la decisión de Meta de resolver varias demandas por miles de millones de dólares, la empresa dijo que apoyaba plenamente la protección infantil exigida por el gobierno, siempre y cuando el gobierno también frenara a YouTube y TikTok.

Pero si la decisión de Anthropic de alinearse con los alarmistas de la IA es cínica y egoísta, sigue sin ser una "operación psicológica", ni una conspiración elaborada para engañar al pueblo estadounidense para que apoye una mayor regulación, algo que los críticos de la postura alarmista también alegan.

La verdad es que ni los políticos ni los medios de comunicación principales necesitan mucha excusa para sucumbir a un pensamiento antitecnológico visceral: tienden por defecto a querer prevenir los supuestos daños. Tanto los medios como el gobierno tienen un sesgo a favor de la acción: alguien debería hacer algo.

Y la IA es un gran algo. Todos nos hemos criado con historias de ciencia ficción que predichas robots asesinos intentarían apoderarse del mundo: Terminator, Matrix, Dune, Battlestar Galactica, etcétera.

Es fácil ver por qué los titulares llamativos que advierten que los expertos tecnológicos creen no tan secretamente que una IA rebelde está a solo unos pocos años de destruir a la humanidad van a vender muchos periódicos. Del mismo modo, ningún político quiere ser visto como insuficientemente atento a este problema.

Incluso el senador Ted Cruz (R-Texas), una figura política comparativamente promercado tecnológico, prefirió sus recientes comentarios sobre la IA destacando primero su enfoque bipartidista de hacer algo respecto a la legislación tecnológica. Así que no es realmente una sorpresa que el mundo del comentario político esté comprando lo que ese exfiltrador de Anthropic está vendiendo.

Lo último que este debate necesita es que el bando pro-IA sucumba a la paranoia que caracteriza ampliamente al bando alarmista. No es una operación psicológica; es un error. (Y no, esa oración no fue escrita por IA. ¡Yo también puedo usar esta construcción, ChatGPT!)

Esta semana en Freed Up: Hablamos sobre la propuesta del presidente Donald Trump de dar a cada estadounidense un cheque de "dividendo" de 5,000 dólares si los republicanos ganan las elecciones de mitad de mandato de alguna manera. Digno de ver