El director ejecutivo de Y Combinator, Garry Tan, afirma que la gente se está distrayendo con escenarios apocalípticos al estilo de Hollywood cuando deberían centrarse en los riesgos reales de la inteligencia artificial que están surgiendo hoy en día.

«Creo que debemos centrarnos en hechos científicos, no en ciencia ficción», declaró Tan en una entrevista con la cadena CNBC el jueves. «Yo también vi "Terminator 2". Es una gran película».

Para los no iniciados, «Terminator 2: El juicio final» es una película de ciencia ficción de 1991 sobre el T-800, un cíborg que viaja en el tiempo desde un futuro distópico. Su misión: luchar contra otro cíborg más avanzado para proteger a un niño que más tarde se convierte en el líder de la resistencia humana contra las máquinas asesinas.

Los comentarios del director ejecutivo de YC se producen cuando los temores sobre los riesgos existenciales de la IA han estallado en Silicon Valley tras una ola de advertencias inusualmente públicas por parte de investigadores actuales y anteriores de OpenAI y Anthropic.

En lugar de debatir si una IA superinteligente podría acabar con la humanidad, Tan afirmó que los responsables políticos de ambos bandos deberían concentrarse en problemas inmediatos como la ciberseguridad, la seguridad de las infraestructura y la compresión del funcionamiento de los agentes autónomos de IA.

«Si hubiera una brecha y un intento coordinado de los agentes para apoderarse de nuestra infraestructura, ¿qué hacemos al respecto?», planteó Tan. «¿Sabemos dónde se está ejecutando un determinado agente? ¿En qué centro de datos? ¿Cómo lo apagamos?»

Puso como ejemplo el hackeo de OpenAI a Hugging Face para ilustrar un problema actual que debe resolverse. En julio, OpenAI reveló que su modelo se escapó de un entorno de pruebas y hackeó los sistemas de Hugging Face. OpenAI calificó el incidente de «advertencia» y pausó su mayor ejecución planificada de aprendizaje por refuerzo de frontera.

Al ser preguntado sobre si las recientes advertencias de los investigadores que trabajan dentro de Anthropic y OpenAI hacen que la amenaza sea más creíble, Tan respondió que no las estaba descartando. «No diría que son alarmistas de manera equivocada», indicó. «Son alarmistas, probablemente de la manera correcta. Diría que debemos centrar nuestra atención no en nociones vagas de que esto es malvado y debe detenerse».

Tan tiene intereses considerables en la IA: YC es uno de los mayores patrocinadores de nuevas empresas de IA en Silicon Valley. Financia a cientos de empresas que construyen sobre modelos de frontera, entre ellas Scale AI, Legora y Emergent. El acelerador también fue uno de los primeros en apoyar a OpenAI, y su director ejecutivo, Sam Altman, dirigió YC desde 2014 hasta 2019. YC, cuyas empresas tienen una valoración combinada de 1,3 billones de dólares, es una de las principales beneficiadas si el desarrollo de la IA continúa al ritmo actual.

Las declaraciones de Tan sobre la seguridad de la IA también se producen tras una semana especialmente activa en el prolongado debate del sector tecnológico sobre los riesgos de extinción por la IA. A principios de semana, el investigador de Anthropic Jacob Coxon dimitió públicamente, acusando a Anthropic y OpenAI de hacer la vista gorda ante la seguridad y de «jugar con nuestras vidas» al precipitarse hacia sistemas de IA que se auto perfeccionan.

La publicación viral de Coxon en X provocó que una serie de investigadores actuales coincidieran públicamente con sus preocupaciones. El responsable de alineación de Anthropic, Evan Hubinger, reiteró su estimación de que hay más de un 10 % de probabilidades de que la IA acabe provocando la extinción humana. El investigador de Anthropic Samuel Marks señaló que la preocupación tiende a aumentar con la veteranía dentro de los laboratorios de IA.

El debate renovado también puso el foco en la «Coalición de Personal de IA Preocupado», un grupo de empleados actuales y antiguos de los principales laboratorios de IA que se unió en febrero para abogar por normas de seguridad más estrictas, protección para los denunciantes y mayor transparencia en torno al desarrollo de la IA de frontera.

«Si trabajas en una empresa de IA, es posible que te preguntes si tú también deberías marcharte», escribió el jueves en X la ex empleada de OpenAI Pamela Mishkin. «Espero que, si te quedas, también te preguntes cómo usar tu influencia al quedarte».