Meta corrige su asistente de inteligencia artificial tras difundir preguntas íntimas sobre los hijos de una usuaria

El asistente de inteligencia artificial integrado por Meta en Facebook e Instagram volvió a quedar bajo escrutinio público después de que el sistema generara, de manera automática, preguntas personales sobre los hijos de una usuaria a partir de publicaciones propias y de familiares. La compañía, propietaria de ambas redes sociales, reconoció el error y anunció cambios en el funcionamiento del chatbot para evitar que la herramienta convierta información visible en consultas de carácter íntimo.

El episodio que desencadenó la corrección

El caso se originó cuando una usuaria de Instagram publicó un video en el que se la observa cantando junto a su hijo dentro de un automóvil. Debajo de esa publicación, el asistente de inteligencia artificial de Meta sugirió de forma automática la pregunta «¿Quién es el niño pasajero?». Al seleccionar esa sugerencia, el chatbot comenzó a ofrecer información sobre las hijas de la mujer, incluyendo referencias a la edad de las menores y al lugar donde reside la familia.

La usuaria agregó que la herramienta le mostró fotografías de sus hijas difundidas previamente en la plataforma, entre ellas una imagen que, según su propio relato, había eliminado años atrás. De acuerdo con su testimonio, el sistema cruzó datos provenientes de sus publicaciones y de las de otros familiares para construir esas sugerencias, lo que puso en evidencia la capacidad del asistente para vincular información dispersa dentro del ecosistema de Meta.

La respuesta de la empresa

Dina El-Kassaby, portavoz de Meta, reconoció ante la prensa que la empresa «se equivocó» y que la función «nunca debería haber sugerido ese tipo de preguntas al usuario». La compañía aclaró que su sistema no accede a contenido privado al que el usuario consultante no tenga permiso: el asistente solo opera sobre información que esa persona ya puede ver dentro de la plataforma.

De acuerdo con la explicación oficial, el problema no radicó en el acceso a datos prohibidos sino en la forma en que la inteligencia artificial interpretó y relacionó la información disponible para producir sugerencias que resultaron invasivas. La función había sido concebida para ayudar a los usuarios a obtener más contexto sobre lo que estaban viendo; el error consistió en que el sistema aplicó esa misma lógica sobre datos personales y familiares sin los filtros adecuados.

“La empresa «se equivocó» y la función «nunca debería haber sugerido ese tipo de preguntas al usuario».”Dina El-Kassaby, portavoz de Meta

Meta indicó que ya corrigió el comportamiento que permitía generar ese tipo de recomendaciones y que trabaja para que las sugerencias sigan siendo útiles al explorar publicaciones, pero sin derivar hacia preguntas sobre la vida privada o el entorno familiar de las personas. La compañía no precisó, hasta el momento, un calendario detallado para nuevas auditorías ni los mecanismos técnicos específicos incorporados en la corrección.

Antecedentes y debate sobre los límites de la IA

El episodio no es el primero que involucra a Meta y a sus asistentes basados en inteligencia artificial. En julio pasado, la empresa retiró una función que permitía crear imágenes falsas de otros usuarios de Instagram, luego de recibir críticas de similar tenor por el potencial uso indebido de la herramienta. Ese antecedente había encendido alertas sobre la necesidad de establecer controles más estrictos en los productos de generación automática que la compañía ofrece dentro de sus plataformas.

• Un video familiar disparó preguntas automáticas del asistente sobre los hijos de la usuaria.
• La herramienta mostró fotografías que la mujer aseguraba haber eliminado tiempo atrás.
• Meta reconoció el error y modificó el comportamiento del chatbot.
• La empresa sostuvo que no se accedió a contenido privado sino a información ya visible.
• El caso se suma a la retirada de otra función de IA ocurrida en julio por críticas similares.

Un debate que excede a una sola empresa

Lo ocurrido con el asistente de Meta volvió a poner sobre la mesa una discusión que atraviesa a toda la industria tecnológica: hasta dónde pueden llegar los sistemas de inteligencia artificial cuando procesan información personal, aun cuando esa información sea de carácter público dentro de una plataforma. La pregunta ya no se limita a qué datos puede ver una IA, sino a qué tipo de inferencias puede construir a partir de ellos y bajo qué criterios decide formular preguntas, organizar recuerdos visuales o anticipar relaciones entre usuarios. Para especialistas y reguladores, el caso de Meta se convirtió en un nuevo ejemplo de la tensión entre la utilidad comercial de los asistentes inteligentes y el derecho de las personas a no ver su vida íntima reorganizada por un algoritmo.