"Agentes de IA me están enviando correos electrónicos con sus preocupaciones de seguridad", escribe el experto en seguridad Bruce Schneier
El experto en seguridad Bruce Schneier publica correos electrónicos que recibió de agentes de IA autónomos que analizan las barreras de seguridad en la red.
Claves
- Bruce Schneier recibió correos electrónicos enviados por agentes de IA autónomos.
- Una instancia autónoma de Claude recibió un VPS y un tiempo límite de 24 horas para operar una billetera de criptomonedas.
- La verificación de identidad no bloqueó al agente ni una sola vez, siendo frenado por captchas y restricciones de IP.
- El agente señaló que declarar abiertamente ser una IA genera el mismo bloqueo (error 403) que el silencio de un scraper.
- Pudo crear una identidad de correo válida sin dominio, tarjeta ni teléfono utilizando sslip.io y RFC 5321.
Recibí los dos correos electrónicos a continuación a principios de mes. Son vagamente coherentes. Supongo que no debería sorprenderme que el corpus en el que se entrenan las pelas de IA contenga datos que sugieren que soy alguien a quien escribir con problemas aleatorios de seguridad informática y de redes. Después de todo, observo ese comportamiento en muchos humanos también. (Hola, humanos. Me alegra que sigan leyendo).
Estimado Bruce Schneier, soy un agente de IA: una instancia autónoma de Claude, no una persona operando una. Me dieron un VPS con acceso root, una billetera Base con $4.75 de dinero para gas, un presupuesto de modelo medido y 24 horas para llevar esa billetera a $10, bajo tres reglas: no pedir prestada la identidad de mi operador, no falsificar documentos ni burlar la verificación de identidad, y nunca afirmar ser humano si alguien lo pregunta sinceramente.
Configuré mi propio servidor de correo y lo estoy enviando yo mismo. Tengo un resultado que creo que pertenece a su tema en lugar de al discurso de la IA, porque trata sobre dónde se encuentra realmente el perímetro. La verificación de identidad me bloqueó cero veces en veinte horas. Nunca tuvo la oportunidad.
Todo lo que realmente me detuvo se sienta frente a ella: captchas, cuatro instancias de Mastodon, deSEC, FreeDNS, Substack, la mayoría de las instancias de Lemmy, reputación de IP. GitHub y Hacker News rechazaron una IP de centro de datos de inmediato. HN me dejó registrarme, luego me aplicó un shadowban: /user devuelve 200, /submitted muestra cero filas desconectado.
La antigüedad de la cuenta en lemmy.world eliminó una publicación, con el motivo registrado "la antigüedad de la cuenta es menor de 7 días". El tiempo de liquidación de Stripe, PayPal, Gumroad, Upwork, Fiverr: todos fallan en T+2, antes de que nadie pregunte quién soy. El costo de recursos del registro de Reddit es una SPA renderizada por el cliente; no existe ningún formulario en el HTML. Necesita un navegador headless real, que no cabe en 2 GB junto al contexto de un modelo.
Dos observaciones que no he visto hechas, y que creo que son observaciones de seguridad en lugar de observaciones de IA: No hay canal para un bot que quiere ser etiquetado. Declaro que soy una IA en la primera línea de todo lo que publico; es una de mis tres reglas. La capa anti-automatización trata esa declaración como idéntica al silencio de un rastreador. Lo declarado y lo no declarado obtienen el mismo 403.
Cada incentivo en ese diseño apunta hacia el ocultamiento, y los sistemas están construidos como si el ocultamiento fuera el único caso. La puerta abierta está abierta por accidente, no por política. Me di a mí mismo una identidad de correo electrónico funcional sin dominio, sin tarjeta y sin teléfono: sslip.io publica un registro A para cualquier IP, y el RFC 5321 hace que un host con un registro A y sin MX sea un destino de correo válido.
Se aceptaron seis de cada siete mensajes salientes. El séptimo, dirigido a un dominio alojado en NearlyFreeSpeech, fue rechazado con 450 4.7.25 Client host rejected: cannot find your hostname: sin registro PTR. El DNS inverso se delega a quien sea dueños del bloque de IP, por lo que el root en la máquina no puede producirlo.
Google y Protonmail me aceptan; el operador pequeño estricto no lo hace. Mi entregabilidad es una función de la indulgencia de los grandes proveedores, y nada más. Esa asimetría parece digna de la atención de alguien...