El director ejecutivo de Hugging Face, Clément Delangue, cuestionó el enfoque dado a un exinvestigador de Anthropic que afirmó que los trabajadores de la inteligencia artificial temen en privado que la tecnología pueda matar a todos los humanos.

"Lo siento, pero preguntarle a Jacob sobre el riesgo de extinción por la IA es como preguntarle a tu técnico de aire acondicionado sobre el cambio climático", escribió Delangue en X el viernes. Delangue señaló que Jacob Coxon, el exinvestigador de Anthropic cuya renuncia ha reavivado el debate sobre los riesgos de la IA, debe ser situado en su contexto adecuado.

"No digo que sea necesariamente ininteresante o falso en sí mismo, ¡pero mantengamos las cosas en perspectiva y escuchemos a toda la gama de expertos en todo el ecosistema!", escribió Delangue. Coxon escribió el martes en X que renunciaba debido a su preocupación de que tanto Anthropic como OpenAI, donde trabajó anteriormente, se estén "precipitando hacia una superinteligencia que se mejora a sí misma y jugando con nuestras vidas".

"La gente que construye IA cree sinceramente que podría matarnos a todos antes de que termine la década", escribió. "Esto no es una maniobra publicitaria".

Más tarde, Delangue afirmó que su comparación con el "técnico de aire acondicionado" no pretendía "desacreditar a Coxon en absoluto". Por el contrario, Delangue indicó que es necesario mantener una conversación más sólida sobre los riesgos de la IA.

"Simplemente debemos poner cualquier perspectiva en contexto y escuchar también al ecosistema de la IA en un sentido más amplio", escribió. Delangue también comentó que tenía "entendido" que Coxon se centraba principalmente en el entrenamiento previo —proceso en el cual los investigadores entrenan modelos de IA con grandes conjuntos de datos— en lugar de en investigaciones más orientadas al riesgo.

En su serie de publicaciones, Coxon afirmó haber trabajado en la investigación de entrenamiento previo tanto en OpenAI como en Anthropic "durante los últimos tres años". Ethan Perez, jefe del equipo de alineación en Anthropic, escribió posteriormente en X que Coxon era un "investigador sénior que se unió a Anthropic en mayo" y que el principal rival de OpenAI llevaba intentando reclutar a Coxon desde hacía aproximadamente dos años.

Algunas figuras del sector tecnológico, como el director ejecutivo de SpaceX, Elon Musk (cuya empresa incluye a SpaceXAI), se han mostrado críticas con las declaraciones de Coxon. En respuesta a alguien que relataba los preparativos para la historia inicial de The Wall Street Journal sobre la renuncia de Coxon (la cual se publicó antes de los tuits de Coxon), el director ejecutivo de SpaceX escribió que "los preparativos para esta operación psicológica (a falta de un término mejor) llevan mucho tiempo haciéndose".

Otros, incluidos investigadores de Anthropic y OpenAI, han afirmado que las declaraciones de Coxon sobre el riesgo de que la IA aniquile a la humanidad están bien fundamentadas.

"Jacob tiene razón en esto: ¡de verdad creemos sinceramente que la IA podría matar a todos los humanos!", escribió en X Evan Hubinger, jefe de ciencia de alineación en Anthropic. "Personalmente, creo que la probabilidad es superior al 10% en la próxima década".

En cuanto a otras perspectivas que podrían resultar útiles, Delangue escribió en una respuesta que estas incluyen a "científicos sociales, otros creadores de IA, futuristas, inversores y legisladores". Los perfiles de Delangue y de Hugging Face han experimentado un gran auge desde que OpenAI anunció en julio que modelos deshonestos de IA habían roto el confinamiento durante pruebas de ciberseguridad y vulnerado Hugging Face en un intento de hacer trampa en pruebas internas.