El director ejecutivo de Meta, Mark Zuckerberg, compartió su visión sobre la seguridad de la inteligencia artificial el martes, adoptando una postura más similar a la perspectiva del director ejecutivo de Nvidia, Jensen Huang, que a la del jefe de Anthropic, Dario Amodei. Zuckerberg afirmó en una publicación en X y otras plataformas de redes sociales que cree que los laboratorios de IA que no se concentran en la alineación se quedarán atrás, refiriéndose al tipo de trabajo que los desarrolladores realizan para garantizar que las tecnologías se adhieran a los valores humanos.

Este tema de la seguridad de la IA ha cobrado gran protagonismo en los últimos días después de que Amodei publicara un ensayo durante el fin de semana en el que pedía a la industria tecnológica que desacelerara el ritmo al que mejoramos las capacidades de los modelos de IA, una opción que Altman respaldó posteriormente y que el presidente Donald Trump criticó más tarde.

Hay mucho debate sobre la desaceleración del progreso en las capacidades hasta que la alineación se ponga al día, dijo Zuckerberg. Mi opinión es que la confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y los modelos.

Debido a que los laboratorios de IA se arriesgan a una responsabilidad significativa si sus modelos causan daños, Zuckerberg cree que las empresas tienen incentivos para prevenir problemas potenciales, adoptando una perspectiva del tema impulsada por el mercado que está en línea con los comentarios públicos de Huang el mismo día.

Zuckerberg dijo que Meta retrasó el envío de sus tecnologías de IA Muse por razones de seguridad propia. Lo hicimos como parte de nuestro trabajo diario porque era claramente lo correcto para las personas y para nosotros, afirmó Zuckerberg.

En su intervención en la conferencia anual Salesforce Dreamforce, Huang le dijo al director ejecutivo de Salesforce, Marc Benioff, que los creadores de modelos de IA deben asumir la responsabilidad de sus productos en lugar de buscar regulaciones gubernamentales de los legisladores destinadas a limitar los daños y riesgos potenciales, como Amodei había dicho anteriormente.

Huang reiteró su perspectiva en una entrevista en el programa Mad Money de CNBC, calificando tales leyes y regulaciones relacionadas con la IA como completamente innecesarias. Tenemos suficientes leyes, y tenemos suficientes regulaciones que rigen la confiabilidad y la funcionalidad de los productos, señaló Huang.

Amodei también habló en Dreamforce y reforzó su creencia fundamental de que desacelerar el ritmo del desarrollo de modelos representa la forma de llevar la industria hacia adelante, de dar el ejemplo y de decir que todos siempre pueden mejorar.

Más tarde ese mismo día en Dreamforce, Altman se unió a Benioff para una charla informal y discutió su creencia de que la seguridad y el monitoreo deben tener precedencia sobre las características cuando se trata del desarrollo de la IA, y reconoció la sensación general de miedo de que las empresas no lo hagan debido a la presión competitiva.

Creo que es genial para nuestra industria decir que queremos unirnos y queremos poder coordinarnos y asegurarnos de tener suficiente tiempo para hacer esto de manera segura, indicó Altman. Pero cuando existe la implicación de que debido a las presiones comerciales y la carrera, alguna empresa o entre países, algunos países podrían no hacer lo correcto, creo que es cuando la gente se asusta mucho.