Meta cambia los prompts de su IA tras generar preguntas invasivas sobre los hijos de una usuaria

Meta ha modificado el sistema que genera sugerencias de preguntas para Meta AI después de que una usuaria de Instagram denunciara que el asistente le propuso identificar a su propia hija y posteriormente reunió información personal sobre sus hijos. La compañía reconoce que esos prompts no deberían haberse generado y afirma haber corregido el comportamiento que los provocaba.

El caso ha despertado preocupación porque muestra hasta qué punto un asistente de IA puede reunir datos dispersos entre publicaciones y cuentas relacionadas para presentar una imagen mucho más completa de una familia. Meta sostiene, sin embargo, que la información mostrada por el chatbot ya era contenido al que esa usuaria tenía permiso para acceder.

Meta AI preguntó «¿Quién es la niña pasajera?»

El incidente comenzó después de que Kalie Robins, creadora de contenido en Instagram, publicara un vídeo en el que aparecía junto a una de sus hijas. Meta AI generó posteriormente como sugerencia la pregunta «Who is the child passenger?», es decir, quién era la menor que aparecía como pasajera.

Robins siguió la sugerencia y comenzó a consultar al asistente. Según su relato, Meta AI proporcionó nombres, edades, información familiar y datos relacionados con la ubicación de sus hijas, combinando aparentemente detalles presentes en distintas publicaciones.

La usuaria explicó además que parte de la información parecía proceder de cuentas de familiares, lo que le hizo cuestionar cómo el sistema estaba conectando datos publicados en diferentes perfiles.

Meta reconoce que los prompts «no deberían haberse generado»

Meta confirmó que el comportamiento de las sugerencias era incorrecto. La portavoz Dina El-Kassaby señaló que el sistema había «missed the mark» y que preguntas de ese tipo no deberían haberse mostrado.

La empresa afirma haber solucionado el problema que provocaba que Meta AI sugiriera preguntas personales sobre las personas que aparecían en vídeos.

Meta no ha detallado públicamente qué modificación técnica ha realizado, qué reglas nuevas se han incorporado al generador de prompts ni cuántas veces pudo aparecer un comportamiento similar antes de aplicar la corrección.

Meta dice que la IA solo mostró contenido accesible para la usuaria

La compañía introduce una distinción importante sobre el origen de los datos. Según Meta, el asistente únicamente estaba mostrando información que Robins ya podía consultar mediante su propia cuenta.

Eso puede incluir publicaciones propias y contenido de otras cuentas al que la usuaria tiene acceso. El problema reconocido por Meta no es que su IA hubiera vulnerado controles de acceso para obtener información privada, sino que utilizara esos datos accesibles para generar sugerencias consideradas excesivamente personales.

El incidente ilustra así un problema diferente al acceso no autorizado: una IA puede reunir información legítimamente visible en múltiples lugares y presentarla conjuntamente de una forma que resulte mucho más intrusiva que consultar cada publicación por separado.

No está demostrado que Meta AI recuperara una foto eliminada

Robins también afirmó que Meta AI llegó a mostrar una fotografía de una de sus hijas que, según recordaba, había eliminado años antes. Esta parte del caso no ha sido confirmada de forma independiente.

Por tanto, no puede afirmarse que Meta AI haya recuperado una fotografía borrada de los servidores de Meta. La propia empresa sostiene que el asistente solo utilizó contenido que seguía siendo accesible para la cuenta.

Una imagen considerada eliminada por su autora podría, por ejemplo, continuar apareciendo en otra publicación, en la cuenta de un familiar o en algún contenido diferente al original. Con la información disponible no es posible determinar de dónde procedía exactamente la fotografía mencionada por Robins.

La preocupación está en cómo la IA conecta información dispersa

Uno de los elementos que más inquietó a la usuaria fue que Meta AI pareciera construir una descripción de sus hijos utilizando detalles que no estaban concentrados en una única publicación.

Los sistemas de IA integrados en redes sociales pueden tener acceso, dentro de los permisos definidos por la plataforma, a un contexto mucho mayor que el que normalmente observa una persona al consultar una sola foto o vídeo.

Esto puede convertir datos aparentemente aislados como un nombre, una edad aproximada, un colegio, un familiar o una ubicación en un perfil significativamente más detallado cuando se presentan conjuntamente.

En el caso de menores, esa capacidad resulta especialmente sensible por la naturaleza de la información implicada.

Meta ha cambiado las sugerencias, no necesariamente el acceso a los datos

La corrección anunciada se refiere específicamente al sistema que genera los prompts sugeridos por Meta AI. Meta no ha anunciado como consecuencia de este caso una retirada general de la capacidad del asistente para utilizar información accesible dentro de sus plataformas.

Esto significa que la modificación pretende evitar que el chatbot impulse espontáneamente preguntas invasivas como la que inició el incidente, pero no supone necesariamente un cambio completo en las fuentes de contexto que Meta AI puede emplear cuando responde a una consulta.

La compañía tampoco ha publicado nuevos controles específicos para impedir que el asistente relacione información procedente de diferentes publicaciones accesibles.

Meta AI está integrado en varias de las plataformas de la compañía

Meta ha extendido su asistente de inteligencia artificial por servicios como Facebook, Instagram, WhatsApp y Messenger. Esta integración permite utilizar IA sin abandonar las aplicaciones sociales, pero también hace que las decisiones sobre contexto, permisos y personalización tengan un impacto potencial sobre una base de usuarios muy amplia.

El caso de Robins pone el foco especialmente en las sugerencias automáticas. El usuario no había comenzado preguntando voluntariamente por información personal de sus hijos, sino que fue el propio sistema el que propuso una pregunta relacionada con la identidad de la menor mostrada en el vídeo.

La corrección llega después de las críticas públicas

La experiencia fue compartida públicamente por Robins y se difundió ampliamente en redes sociales antes de que Meta reconociera el problema.

La empresa sostiene que la sugerencia no representaba el comportamiento que pretendía para su asistente y que el problema responsable de esos prompts ya ha sido solucionado.

Lo que Meta no ha precisado es si la corrección se aplica únicamente a preguntas sobre menores o si introduce restricciones más amplias para evitar sugerencias relacionadas con información personal de cualquier persona que aparezca en una foto o vídeo.

Por ahora, el hecho confirmado es más limitado: Meta reconoce que las sugerencias generadas en este caso fueron inapropiadas y asegura haber cambiado el sistema que las produjo. La afirmación de que la IA recuperó una fotografía eliminada sigue siendo únicamente el relato de la usuaria y no un comportamiento demostrado por Meta AI.