Meta afirma que está realizando cambios en las indicaciones sugeridas por su chatbot de inteligencia artificial después de que un video viral mostrara que este buscaba información personal sobre las hijas pequeñas de una usuaria, según informó previamente Futurism. En una declaración enviada a The Verge, la portavoz de Meta Dina El-Kassaby señaló que la compañía "falló en el objetivo" y añadió que "la función nunca debería haber incitado a la persona con preguntas de ese tipo".

La semana pasada, la usuaria de Instagram Kalie Robins publicó un video explicando cómo Meta AI le presentó una sugerencia invasiva tras compartir un clip en Facebook. La indicación de la inteligencia artificial, "¿Quién es el niño pasajero?", apareció debajo de un video de ella y su hijo cantando en el auto.

Cuando seleccionó la sugerencia, Robins indicó que Meta AI recopiló información sobre sus hijas a partir de sus publicaciones anteriores, así como de publicaciones de sus familiares. La herramienta sugirió indicaciones adicionales preguntando por las edades de sus hijos y el lugar donde vive la familia de Robins.

Kalie Robins afirma que Meta AI también mostró fotos de sus hijas publicadas en la plataforma, incluida una imagen que asegura haber borrado hace años. Meta ha integrado su asistente de inteligencia artificial en Facebook, Instagram, WhatsApp y Messenger, donde puede responder preguntas, redactar publicaciones y generar imágenes.

En julio, la compañía retiró una función que permitía a los usuarios crear deepfakes de inteligencia artificial de otros usuarios de Instagram tras enfrentarse a un fuerte rechazo. Dina El-Kassaby, portavoz de Meta, asegura ahora que ya se ha solucionado el problema que causaba que Meta AI sugiriera temas de carácter personal.

"Creamos esta función para ayudar a las personas a obtener más información sobre temas o publicaciones que les interesan", explica El-Kassaby. "Cuando alguien hace clic en una sugerencia y utiliza esta función, la respuesta generada se basa en información a la que el usuario ya tiene acceso".

En este caso, Meta AI pudo haber recurrido a videos en los que Robins mencionaba los nombres de sus hijos, según señaló El-Kassaby.