Mark Zuckerberg afirmó que las empresas de inteligencia artificial no necesitan un acuerdo a nivel de toda la industria para frenar su desarrollo cuando surjan problemas de seguridad. En una publicación en X el martes, el director ejecutivo de Meta argumentó que la presión del mercado hará que la alineación, es decir, garantizar que los sistemas de IA sigan las intenciones de sus usuarios, sea una ventaja competitiva.

"Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura", señaló Zuckerberg. "Mi opinión es que la confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y a los modelos", añadió. "Cualquier laboratorio que no se centre en la alineación se quedará atrás".

Zuckerberg señaló la decisión de Meta de retrasar su modelo Muse durante varios meses para reforzar su seguridad y protección. "No pedimos que todos los demás hicieran esto antes de que nosotros lo hiciéramos", indicó Zuckerberg. "Simplemente lo hicimos".

Los comentarios de Zuckerberg se producen en medio de un debate cada vez mayor sobre si el desarrollo de la IA de vanguardia debería frenarse mediante salvaguardias coordinadas y verificables. Anthropic ha pedido regulaciones gubernamentales y mecanismos que permitan a los laboratorios líderes hacer una pausa si surgen señales de advertencia, pero otros líderes tecnológicos, incluido el director ejecutivo de Nvidia, Jensen Huang, han manifestado que prefieren evaluaciones independientes y responsabilidad individual para las empresas de IA.

El director de IA de Meta, Alexandr Wang, se hizo eco de las palabras de Zuckerberg en su propia publicación más tarde el martes, afirmando que los laboratorios necesitan una gobernanza sólida, evaluadores externos y supervisión independiente de los lanzamientos de modelos. "La carrera hacia la autorreferencia o mejora recursiva es una de las vías más riesgosas para una posible pérdida de control ante modelos potentes", sostuvo Wang.

"Meta está destinando la gran mayoría de nuestra capacidad de cálculo a servir a las personas en lugar de competir en la autorreferencia o mejora recursiva, y otros laboratorios pueden optar por hacer lo mismo", añadió Wang. "La IA es una tecnología muy poderosa y existe una inmensa responsabilidad al desarrollarla de manera segura junto con los controles y equilibrios adecuados".