El debate sobre si publicar o no las caras de tus hijos en las redes sociales no es nuevo. Tengo amigos cuyos hijos ya están en la universidad y que recuerdo que batallaron con la decisión de si publicar fotos de bebés en Instagram. Pero muy recientemente, esa conversación ha dado un giro significativo debido a las preocupaciones sobre la inteligencia artificial, e incluso ha llevado a Meta a tomar medidas.

Dos sucesos virales han ocurrido en Instagram en la última semana más o menos, con orígenes bastante diferentes pero en última instancia el mismo resultado: padres diciendo que ya no deberían publicar imágenes de sus hijos en línea. El primero fue un video viral de Instagram de Kalie Robins, una madre de Utah.

Robins se sintió shocked y aterrorizada cuando notó las sugerencias de Meta AI en un video que había publicado de ella y su hijo. El chatbot Meta AI sugirió preguntas como "¿quién es el niño pasajero?"

Tras más preguntas de Meta AI, Robins descubrió que el sistema había extraído fotos de ella que creía borradas e información sobre sus hijos de la página de Facebook de su madre. Si bien es cierto que Meta AI estaba extrayendo información que ya existe en línea, también estaba sugiriendo preguntas sobre la identidad de los niños, exponiéndolos potencialmente a extraños.

Meta me dijo que estas sugerencias de IA fueron un error que ya ha sido solucionado. "Cuando alguien hace clic en una indicación y usa esta función, la respuesta que genera se basa en la información a la que el usuario ya tiene acceso", dijo el portavoz de Meta, Andy Stone.

"Pero fallamos en el blanco porque la función nunca debió haberle presentado al individuo preguntas como esas y hemos solucionado ese problema", añadió. Meta AI sugirió preguntas sobre sus hijos.

Hable con Robins y ella expresó que no desconocía cómo Meta AI pudo obtener la información. Para ella, fue un recordatorio contundente de cuánta de nuestra información está en las redes sociales, incluso si no nos damos cuenta.

"Pensé que era muy cuidadosa porque nunca hice las fotos de regreso a clases con el nombre de la escuela y del maestro. Nunca publiqué frente a ningún punto de referencia o frente a nuestra casa con letreros en las calles", me dijo.

"Pensé que estaba siendo muy cuidadosa y al final eso no importó. Ni siquiera obtuvo esa información de mí. La obtuvo de otras personas, por lo que no importó lo cuidadosa que estuviera siendo en este caso".

La reacción en línea al video de Robins fue doble: primero, que Meta AI hizo algo espeluznante y desagradable, y segundo, que esto es un buen recordatorio para que los padres desconfíen de qué información hay disponible sobre sus hijos y de cualquier foto que publiquen.

Los fotógrafos profesionales evitan compartir fotos de niños. Al mismo tiempo, otra tendencia viral en Instagram está haciendo que la gente repiense cómo se publican las imágenes de los niños en línea.

Un grupo de fotógrafos de familia profesionales, casi todos mujeres o madres ellas mismas, han estado publicando avisos anunciando una nueva política de que ya no compartirán las caras de los niños en las redes sociales ni en sus sitios web profesionales.

La preocupación aquí es sobre el material de abuso sexual infantil generado por IA (CSAM), y el riesgo de que las fotos publicadas en las redes sociales puedan usarse para crear deepfakes de niños específicos, o que sus caras puedan terminar en el entrenamiento de datos para modelos de inteligencia artificial que terminen creando este tipo de contenido.

Esta es una preocupación legítima, y ha habido casos criminales que involucran CSAM generado por IA, algunos de los cuales han ganado atención de los medios nacionales. Un fallo legal reciente sobre CSAM generado por IA.

El fallo reciente de un juez en un caso penal sobre CSAM generado por IA se ha vuelto viral en algunos círculos de crianza en Instagram. Los detalles del fallo legal son complejos, pero la versión corta es que el juez escribió que existe un precedente legal de que la posesión (no la producción o distribución) de pornografía infantil generada por IA está protegida como libertad de expresión.

Las implicaciones del fallo, y lo que significa para las fotos inocentes de niños, es lo que ahora se está volviendo viral en Instagram. Hannah Haggard, una fotógrafa de familias y bodas radicada en Kentucky, publicó en su Instagram que estaba cambiando sus políticas y que no publicará ninguna cara de niños, ni siquiera con el permiso de los padres.

"Ya había estado jugueteando con la idea", me dijo Haggard. "Nunca publico sin consentimiento, pero ya lo estaba considerando. Luego, una vez que ocurrió el fallo, fue la confirmación de que eso era lo que tenía que suceder".

Mucha de la reacción en línea que he visto parece indignada por el fallo, que a primera vista parece ser una buena noticia para los depredadores de menores. Pero Mariefaye Bechrakis, una abogada especializada en derechos humanos y derechos de la infancia que ha escrito sobre cuestiones legales de CSAM generado por IA para la Asociación de Abogados de Estados Unidos, dice que es más matizado.

"Lo que es importante señalar es que los jueces están dando luz verde para una futura apelación", me dijo Bechrakis sobre su opinión acerca del fallo del juez. "Básicamente dieron una hoja de ruta futura y una oportunidad real para los futuros fiscales".

"Señalaron que los modelos de IA modernos no crean imágenes de la nada, sino que deben ser entrenados en grandes conjuntos de datos", agregó. Katey Sutton, una fotógrafa de familia en Misuri, también publicó sobre su política de no mostrar las caras de los niños en internet.

"No creo que la IA sea verdaderamente 'sintética'", me dijo. "Se sabe que la IA rastrea internet y usa la información que se le da o encuentra para informar, recomendar, crear, etcétera".

Da un vistazo a Facebook o Instagram y verás que claramente no todos los padres han dejado de publicar fotos de niños. Pero para algunas personas, estos recientes sustos de la IA les están haciendo pensar cuidadosamente en los riesgos antes de publicar. Y eso probablemente sea algo bueno.