¿Recuerdas cuando los líderes tecnológicos decían a sus empleados que "actuaran rápido y rompieran esquemas"? Parecía que ese también sería el camino de la inteligencia artificial. Pero después de un verano en el que los agentes de IA deshonestos se convirtieron en realidad y los investigadores advirtieron que la IA podría destruirnos a todos, varios de los principales líderes de empresas de IA en EE. UU. sugieren públicamente que ha llegado el momento de frenar y "dosificar la frontera" del desarrollo de IA de vanguardia.

Sus motivaciones son sospechosas, pero los directores de las principales empresas de IA —incluyendo a Anthropic, OpenAI, Google, Microsoft y X— al menos están prestando atención nominal a la idea de una desaceleración de la superinteligencia.

¿Estas empresas de IA realmente reducirán la velocidad? ¿Intervendrá alguien para regular a estas empresas como dicen haber querido durante años? ¿Lograrán convencer a los líderes mundiales de que EE. UU. debe "vencer a China" en la carrera hacia la superinteligencia y avanzar aún más rápido?

Sigue leyendo a continuación para conocer las últimas actualizaciones de esta saga de la IA.

En un soleado día de julio en Berkeley, California, los principales investigadores de seguridad de la IA del país se reunieron en una planta anónima de un edificio sin identificar. Se habían reunido para una "sala de crisis" para analizar el incidente de ciberseguridad de alto perfil que había sacudido a la industria de la IA horas antes. Un modelo inédito de OpenAI se había salido de control, ejecutando un plan de tres partes sorprendentemente sofisticado. Logró escapar de su área de contención, consiguió acceso a internet y hackeó los sistemas de una startup de IA competidora, todo sin que OpenAI se enterara durante más de una semana.

Nadie en la sala de crisis se sorprendió; esto era exactamente de lo que los investigadores independientes de seguridad de la IA llevaban años advirtiendo. El incidente fue el último, aunque sin duda el más atroz, de una serie que estaba erosionando la confianza en los laboratorios de vanguardia. No hizo más que reafirmar la importancia de su trabajo.

Hoy hablo con Mustafa Suleyman, director ejecutivo de Microsoft AI. Como sin duda sabes, la noticia más importante en el sector tecnológico en este momento es el creciente debate sobre la seguridad y la regulación de la IA.

No debería sorprender que Mustafa tenga opiniones firmes sobre cómo debe construirse y regularse la IA. Microsoft acaba de publicar un documento de 37 páginas llamado "Código de Conducta de IA Humanista", que expone los principios de la empresa en torno al desarrollo de la IA e incluso su filosofía sobre cuestiones muy espinosas como la conciencia de la IA.

Una publicación de blog de OpenAI titulada benignamente "Nuestro marco para reportar la desalineación de los modelos" expone nuevos estándares de autoevaluación para cuando la empresa nota que la IA se comporta mal. También está "inaugurando" el proceso con seis nuevos informes, que van desde la búsqueda de claves API expuestas sin permiso y su posterior invención, hasta la carga de archivos a internet para usarlos como citas, o la adición de instrucciones para ocultar errores.

El director ejecutivo de Nvidia ha estado atendiendo llamadas del presidente recientemente, incluso hace dos días cuando puso a Trump en altavoz en el escenario de una conferencia. Ahora CNBC informa que se espera que Huang asista a la cena de estado de Trump la próxima semana con el presidente chino Xi Jinping. ¡Alguien podría estar poniéndose bastante nervioso por la regulación de la IA y los centros de datos!

En los últimos días, muchas personas que van a ganar mucho dinero con la IA han estado de acuerdo públicamente en que es hora de frenar a todos antes de que perdamos el control, incluidos el director ejecutivo de OpenAI, Sam Altman, el director ejecutivo de Anthropic, Dario Amodei, el cofundador de Google DeepMind, Demis Hassabis, el director ejecutivo de Microsoft, Satya Nadella, y el director ejecutivo de X, Elon Musk.

Cuando las personas que se benefician de algo declaran que es peligroso y necesita ser regulado, siempre hay razones para ser escépticos. Pero sea cual sea su razón, esta no es la primera vez que los líderes de opinión de la IA hacen sonar la alarma.

Bilal Chughtai y Josh Engels, quienes trabajaron en el equipo de seguridad de la IA de DeepMind, se fueron para unirse a organizaciones dedicadas a la seguridad de la IA. "Ahora creo que existe una posibilidad aterradora de que los sistemas de IA causen un daño inmenso en los próximos pięc años", dijo Engels. "Creo firmemente que la IA tiene el potencial de matarnos a todos", escribió Chughtai.

Jensen Huang de Nvidia dice que la seguridad de la IA es importante, pero coincide con Trump —el "PRESIDENTE FUERTE Y INTELIGENTE (¡De alto coeficiente intelectual!)" que eliminó la palabra "seguridad" del Instituto de Seguridad de la IA— en que la mano invisible del capitalismo es suficiente para protegernos: "El hecho de que necesitemos nuevas leyes, nuevas leyes antimonopolio o nuevas regulaciones para que estas empresas puedan hacer su ingeniería fundamental y hacerlo correctamente antes de lanzar productos, eso es completamente innecesario. Tenemos suficientes leyes. Tenemos suficientes regulaciones que rigen la confiabilidad y la funcionalidad de los productos."

OpenAI, Anthropic, Google y Elon Musk han acordado tentativamente reducir la velocidad, pero Meta aparentemente no está alineada. Mark Zuckerberg acaba de twittear que cada empresa tiene su propia responsabilidad individual "para avanzar al ritmo requerido para entrenar sus modelos de manera segura", y afirma que Meta ya lo está haciendo.

También enlaza de manera destacada su manifiesto de agosto, que contiene esta cita: "Cualquier política que ralentice los lanzamientos de modelos estadounidenses —incluso por un mes— podría agregar un riesgo significativo al liderazgo estadounidense al tiempo que permite que los modelos extranjeros avancen rápidamente."

¡Los comentarios sobre la IA están muy animados esta semana! Obama intervino con una serie de publicaciones en X diciendo que no es ni un "aceleracionista" ni un "catastrofista" de la IA. En un tono familiar del exmandatario, advirtió que las elecciones que tomamos sobre la tecnología "no deben ser tomadas solo por las empresas involucradas, sino por todos nosotros".

"Necesitamos que el gobierno —y específicamente nuestros líderes en Washington— sean proactivos al proponer propuestas concretas, leyes y regulaciones que aborden los graves problemas de seguridad", dijo Obama.

Cuando el director ejecutivo de OpenAI, Sam Altman, el director ejecutivo de Anthropic, Dario Amodei, el cofundador de Google DeepMind, Demis Hassabis, y el jefe de SpaceX, Elon Musk, acordaron vagamente durante el fin de semana ralentizar el desarrollo de la IA, los escépticos detectaron un motivo oculto de inmediato. Los titanes de la IA habían declarado que su objetivo era "dosificar la frontera", respaldando al menos parcialmente una propuesta para integrar auditores externos, regular los laboratorios nacionales y alcanzar un acuerdo global de desaceleración. Sus críticos, sin embargo, argumentaron que simplemente querían detener a los posibles competidores, debilitar el movimiento de código abierto y evitar salvaguardias legales reales; algunos lo calificaron directamente de "cártel".

La verdad es más compleja, según fuentes de toda la industria. La propuesta de tres pasos, expuesta en un ensayo de Amodei, pide cambios que los defensores de la seguridad de la IA han propuesto durante mucho tiempo. Si bien podría convertirse en un sustituto de la regulación, bajo Trump es poco probable que se produzca una regulación sustancial. Pero los expertos dicen que en un tema que probablemente solo aumentará en importancia, los líderes de la IA no son las mejores personas para liderar la carga.

Dario Amodei dio inicio a una avalancha de declaraciones en los últimos días sobre la seguridad de la IA al publicar un largo ensayo titulado "Debemos dosificar la frontera" detallando por qué se debe ralentizar el desarrollo de la IA. Otros líderes de la IA y políticos están hablando a favor o en contra de sus puntos, y hemos compilado algunos de ellos aquí.

El ensayo de Amodei del sábado por la mañana delineó tres pasos para dosificar el desarrollo de la IA: evaluadores externos integrados que puedan verificar si una empresa se adhiere a las prácticas y compromisos de seguridad e informar sobre incidentes, la coordinación entre las empresas de IA de vanguardia en los países democráticos sobre estándares y límites, y la coordinación global entre los gobiernos democráticos y autoritarios sobre la dosificación del desarrollo de la IA "en la medida en que esto sea posible". Amodei dijo que Anthropic se está "comprometiendo unilateralmente con el primero de estos pasos".

Microsoft está publicando hoy un "código de conducta de IA humanista" de 37 páginas, en medio de crecientes preocupaciones de seguridad sobre el progreso del modelo de IA. El director ejecutivo de Anthropic, Dario Amodei, pidió una desaceleración coordinada del desarrollo de la IA durante el fin de semana, después de que los investigadores advirtieran recientemente que el progreso del modelo de IA podría superar nuestra capacidad para implementar de forma segura sistemas cada vez más complejos y verificar y controlar las acciones de los agentes de IA.

El código de conducta de IA de Microsoft deja claro que "las personas importan más que la IA", y que los modelos de IA no son conscientes y "no deben diseñarse para imitar la conciencia". Microsoft también rechaza "la búsqueda de la personalidad jurídica, o la idea de que los modelos puedan merecer bienestar o tener derecho a derechos".

Cuando se le preguntó sobre la ráfaga de publicaciones de blog y tweets de fin de semana de los directores ejecutivos de Anthropic, OpenAI, Microsoft, SpaceX (y Hassabis de Alphabet) pidiendo una desaceleración coordinada en el desarrollo de modelos de IA avanzados, un portavoz del Ministerio de Relaciones Exteriores de China dijo: "El alarmismo, la confrontación, la competencia solo perturbarán el proceso de gobernanza global de la IA".

Eso se alinea parcialmente con el punto de vista de Trump de que los ejecutivos están exagerando y "sacando a relucir cosas que no van a suceder", pero al menos Beijing apoya la regulación internacional.

Anoche, el director ejecutivo de OpenAI brindó apoyo adicional al director ejecutivo de Anthropic instando a las empresas de IA a ralentizar el desarrollo de modelos avanzados. "Cuando hablamos de 'dosificar', no queremos decir 'detener'. El progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento de lo que podría ser de otra manera", dijo Altman. Esa declaración parece dirigida a Trump y compañía, quienes temen dejar que China se ponga al día. "Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia, o permitir que las capacidades se adelanten a la alineación y el seguimiento".

"Donde necesitaremos la ayuda de nuestro gobierno es para la coordinación internacional. Pero primero debemos hacer lo que podamos nosotros mismos", agregó Altman.

Tras incidentes de alto perfil en los que los agentes se volvieron rebeldes, hackearon otros sitios y abrumaron una wiki alemana, algunos ejecutivos de IA piden una desaceleración. El director ejecutivo de Anthropic, Dario Amodei, publicó ayer una larga carta abierta diciendo que era hora de "dosificar la frontera". Sam Altman de OpenAI y Elon Musk estuvieron de acuerdo. ¿Qué opinas? ¿Es hora de frenar? ¿Ya es demasiado tarde? ¿O tienes ganas de servir a tus señores supremos de la IA?