Cuando la IA se mete donde no la llaman: Meta pidió disculpas por las preguntas que le hizo a una madre sobre sus hijas

Lo que empezó como un video casero terminó en un cruce de mensajes que a cualquiera le hubiera puesto los pelos de punta. Una mujer subió a Instagram una grabación en la que cantaba junto a su hijo dentro del auto. Hasta ahí, todo normal. El problema fue lo que vino después: debajo de la publicación, el asistente de inteligencia artificial de Meta le preguntó, como si nada, "¿Quién es el niño pasajero?".

La usuaria picó el anzuelo y tocó esa sugerencia. Lo que recibió del otro lado fue mucho más invasivo de lo esperado: el chatbot empezó a tirar datos sobre sus hijas, incluida la edad y el lugar donde vive la familia. Y hay algo que duele más: entre el material que el sistema le devolvió había una foto de sus hijas que, según su relato, ella había borrado de la plataforma hacía años.

Qué respondió Meta

“La empresa "se equivocó" y la función "nunca debería haber sugerido ese tipo de preguntas al usuario".”Dina El-Kassaby, portavoz de Meta

Desde Meta salieron a aclarar que el asistente no tiene acceso a contenido privado ni a publicaciones a las que el usuario que pregunta no pueda llegar por su cuenta. Es decir, no entraron a robar archivos escondidos: se quedaron con lo que estaba a la vista y lo usaron mal. La propia compañía lo explica así: el sistema fue pensado para darte más contexto sobre lo que estás mirando en la plataforma, pero se pasó de listo y aplicó esa lógica sobre datos personales y familiares sin los filtros adecuados.

El episodio no cayó en el vacío. Meta ya había tenido que dar marcha atrás con otra función de inteligencia artificial en julio, cuando retiró una herramienta que permitía generar imágenes falsas de otros usuarios de Instagram después de las críticas que llovieron.

¿Y eso para qué sirve?

Sirve para recordar que la inteligencia artificial no lee como lee una persona: no distingue entre un posteo intrascendente y una foto de un nene en el asiento de atrás. Para nosotros, que laburamos con tecnología, es una señal de alerta sobre cómo se entrenan estos sistemas y qué límites se les ponen antes de soltarlos al mundo. Y para cualquier padre o madre que sube una foto a las redes, deja una pregunta incómoda: ¿qué de lo que publico hoy puede volver, años después, en una respuesta automática generada por una máquina?