Investigadores fuera de los Estados Unidos utilizaron modelos de IA de frontera para planificar experimentos relacionados con la gripe aviaria altamente patógena, el chikungunya y otros agentes biológicos con posibles aplicaciones como armas, según un nuevo informe de amenazas de Anthropic.

Los investigadores utilizaron la IA para estudiar la transmisibilidad y la evasión inmune de los virus, investigar los genes de respuesta inmune de los ortopoxvirus y ayudar a diseñar nuevas toxinas, a veces tomando medidas para eludir las salvaguardas destinadas a restringir el acceso a capacidades biológicas peligrosas.

Anthropic detalló cinco casos en el informe publicado el jueves, pero omitió los países, las instituciones y los agentes biológicos específicos involucrados.

La empresa enfatizó que no afirma que los investigadores tuvieran la intención de desarrollar armas biológicas.

Los hallazgos ofrecen un vistazo concreto a una amenaza que se ha discutido en gran medida en términos hipotéticos: científicos que ya poseen experiencia biológica, materiales y acceso a laboratorios utilizan sistemas de IA cada vez más potentes para acelerar la investigación sensible de doble uso.

También se producen en medio de un debate renovado sobre los riesgos catastróficos de la IA.

Jacob Coxon, ex investigador de Anthropic y OpenAI, dimitió recientemente mientras acusaba a las empresas de "correr directamente hacia la superinteligencia autoevolutiva y jugarse la vida".

Su advertencia atrajo más de 100 millones de visitas en X.

Evan Hubinger, líder de ciencia de alineación de Anthropic, declaró por separado que personalmente creía que había más de un 10% de probabilidad de que la IA matara a todos los humanos en la próxima década.

Pero el informe de Anthropic señala una amenaza que ya está tomando forma: investigadores que utilizan IA de frontera para trabajos biológicos potencialmente peligrosos, eludiendo las restricciones geográficas y adaptándose cuando las salvaguardas de los modelos se interponen en su camino.

En un caso, Anthropic bloqueó una solicitud de subvención para la investigación de ganancia de función del chikungunya en un instituto de investigación militar.

El trabajo propuesto se centró en identificar mutaciones que pudieran aumentar la transmisibilidad del virus y su capacidad para evadir el sistema inmunológico.

Los investigadores planeaban diseñar esas mutaciones en clones infecciosos y pasar repetidamente el virus a través de animales vivos, seleccionando variantes que causaran la enfermedad más grave.

Ese trabajo podría ayudar a los científicos a desarrollar mejores vacunas y tratamientos para el chikungunya.

También podría producir un patógeno más peligroso que sería difícil de distinguir de un brote de origen natural, dijo Anthropic.

Los investigadores accedieron a Claude a través de una plataforma de ciencias biológicas que enrutaba el tráfico a través de la infraestructura de EE. UU. para eludir las restricciones regionales de Anthropic.

Cuando Claude se negó a responder a indicaciones sensibles, la plataforma enrutó esas solicitudes a otro modelo con salvaguardas más permisivas.

Anthropic indicó que la investigación continuó después de que la empresa prohibió las cuentas conectadas a la actividad.

El operador de la plataforma restableció el acceso en pocos días utilizando nuevas identidades, mientras que Claude continuó brindando asistencia editorial en los materiales de investigación.

En otro caso, un investigador pasó semanas usando Claude para planificar experimentos relacionados con la adaptación a mamíferos y la transmisión aérea en la gripe aviaria altamente patógena.

El investigador estaba estudiando rasgos virales que podrían permitir que la gripe aviaria se propague de manera más eficaz entre los mamíferos y cause enfermedades graves fuera del sistema respiratorio.

Una versión capaz de una transmisión eficiente entre humanos plantearía una amenaza de pandemia significativa, según el informe.

Anthropic afirmó que el investigador parecía tener acceso a aislamientos de virus y a instalaciones de modelos animales.

La empresa confinó el trabajo a modelos más débiles, limitando la asistencia principalmente al diseño de estudios, análisis de datos y apoyo editorial.

La empresa señaló que el caso proporcionó evidencia de un programa de investigación activo que desarrolla el conocimiento y los materiales biológicos necesarios para crear patógenos con mayor potencial pandémico.

El investigador también tomó medidas para ocultar su identidad mientras accedía a los modelos desde una región no admitida.

Un usuario diferente conectado a un laboratorio de enfermedades infecciosas asociado a un estado utilizó Claude para redactar una subvención de investigación sobre ortopoxvirus de principio a fin en aproximadamente una hora.

Los ortopoxvirus incluyen la viruela, el virus que causa la viruela humana, así como la viruela del mono (mpox).

La solicitud de subvención proponía estudiar genes virales que desactivan la respuesta inmune humana e incluyó la hipótesis central, el diseño experimental, la dosificación, los planes estadísticos y las estrategias de contingencia.

Debido a que el trabajo se centró en debilitar el virus, las salvaguardas de Claude no bloquearon la asistencia.

Pero Anthropic indicó que el mismo conocimiento también podría ayudar a un investigador a preservar o mejorar las capacidades de evasión inmune del virus.

Los dos últimos casos involucraron péptidos de veneno y toxinas.

Un investigador utilizó Claude para construir un atlas de péptidos de toxinas de múltiples linajes de animales venenosos y luego creó una tubería generativa para optimizar sus características.

El objetivo declarado era desarrollar nuevos analgésicos, antidepresivos y otros tratamientos.

Pero el atlas también incluyó estructuras asociadas con toxinas paralíticas que podrían utilizarse potencialmente como agentes incapacitantes.

Anthropic dijo que el trabajo formaba parte de un programa de investigación respaldado por el estado.

En el otro caso, un investigador utilizó Claude para rediseñar computacionalmente varias toxinas, incluida una toxina bacteriana y una proteína de un virus de fiebre hemorrágica identificado por la Organización Mundial de la Salud como una amenaza prioritaria de enfermedad.

El investigador utilizó Claude para ayudar a preparar informes de progreso, pero instruyó al modelo para que mantuviera las identidades de las toxinas deliberadamente vagos.

Los casos ilustran por qué el mal uso biológico puede ser difícil de prevenir solo mediante filtros automatizados.

Las salvaguardas de Anthropic bloquearon los intentos más claros que involucraban patógenos pandémicos mejorados, pero fueron menos efectivas cuando los usuarios enmarcaron su trabajo como investigación médica, defensiva o terapéutica.

"Las capacidades biológicas son de doble uso", declaró Anthropic en el informe.

"La misma información que se puede utilizar para desarrollar un arma biológica también se podría utilizar para desarrollar, por ejemplo, una vacuna o una cura para una enfermedad".

La empresa afirmó que recientemente revisó 30 días de actividad asociada con instituciones estatales adversarias y encontró aproximadamente 35 esfuerzos de investigación biológica distintos.

La mayoría involucró ciencia civil ordinaria, pero algunos tenían un "potencial de doble uso notable".

Anthropic indicó que los hallazgos no muestran que Claude haya permitido un ataque biológico inminente.

Muestran, según la empresa, que investigadores vinculados a programas asociados a estados están intentando eludir los controles de acceso y utilizar modelos de IA de frontera en investigaciones biológicas que podrían tener aplicaciones militares.

La empresa afirmó que las futuras salvaguardas probablemente requerirán más que filtros de contenido, incluida la verificación de identidad, la evaluación institucional y un seguimiento más cercano de los usuarios que buscan acceso a capacidades biológicas avanzadas.