Meta Cambia las Sugerencias de su IA Tras Mostrar Preguntas Invasivas Sobre Hijos y Datos Personales

Meta está modificando las sugerencias automáticas de Meta AI después de que una usuaria denunciara que el asistente le proponía preguntas invasivas sobre sus hijas y utilizaba información repartida entre publicaciones de Facebook e Instagram para responderlas. La compañía reconoce que la función no debería haber generado ese tipo de sugerencias y afirma haber corregido el problema.

El incidente no se originó porque la usuaria preguntara voluntariamente por información privada. El punto de partida fue una sugerencia generada por Meta AI debajo de un vídeo familiar que había sido publicado también en Facebook.

Meta AI sugirió preguntar quién era una niña que aparecía en un vídeo

El caso fue protagonizado por Kalie Robins, una creadora de contenido que había publicado un vídeo en el que aparecía cantando en un coche junto a una de sus hijas.

Al volver posteriormente al contenido, encontró una sugerencia de Meta AI que invitaba a preguntar quién era la niña que viajaba en el vehículo.

Robins decidió seleccionar la sugerencia para comprobar qué información podía proporcionar el asistente. Según explicó posteriormente, Meta AI identificó no solo a la hija que aparecía en el vídeo, sino también a su otra hija utilizando información encontrada en contenidos anteriores.

La IA combinó información procedente de publicaciones antiguas

El problema se hizo más evidente cuando Meta AI continuó proponiendo preguntas relacionadas con la familia.

Entre las sugerencias mostradas se encontraban consultas sobre:

• las edades de las hijas;
• el lugar donde vive la familia;
• sus intereses y actividades;
• lugares que frecuentan;
• información profesional de los padres.

Según el relato de Robins y las capturas publicadas, las respuestas utilizaban información procedente de publicaciones anteriores de Facebook e Instagram, incluidas algunas realizadas por familiares.

La usuaria afirmó además que Meta AI llegó a mostrar una fotografía de una de sus hijas que ella creía haber eliminado años antes. Meta no ha confirmado de forma independiente que esa imagen hubiera sido realmente eliminada de sus sistemas.

Meta admite que la función “falló”

Dina El-Kassaby, portavoz de Meta, confirmó a The Verge que la compañía está introduciendo cambios después del incidente.

Meta reconoce que las sugerencias mostradas no eran apropiadas y señala que la función nunca debería haber invitado a realizar preguntas personales de ese tipo.

La compañía afirma que ya ha corregido el problema responsable de que Meta AI sugiriera consultas relacionadas con temas personales.

Meta no ha detallado públicamente todos los cambios técnicos aplicados ni los criterios exactos que utilizará a partir de ahora para decidir qué preguntas no deben sugerirse.

El problema estaba en las sugerencias, no solo en las respuestas de Meta AI

La distinción es importante porque Meta AI dispone desde hace tiempo de capacidad para responder preguntas utilizando información accesible dentro de las plataformas de Meta y otras fuentes disponibles.

En este caso, el elemento que provocó la reacción fue que el propio sistema iniciara la búsqueda de información personal mediante sugerencias automáticas.

En lugar de esperar a que la usuaria preguntara quién aparecía en una fotografía o dónde vivía una persona, la interfaz proponía activamente esas consultas debajo del contenido.

Meta afirma que el objetivo original de estas recomendaciones era ayudar a los usuarios a obtener más información sobre publicaciones y temas que pudieran interesarles.

Meta dice que las respuestas usan información que el usuario ya puede consultar

La empresa sostiene que, cuando una persona selecciona uno de estos prompts, la respuesta se genera utilizando información a la que ese usuario ya tiene acceso.

En el caso de Robins, Meta considera posible que los nombres y otros detalles procedieran de vídeos, publicaciones antiguas o contenidos compartidos por familiares en los que aparecía información sobre las niñas.

Esto no significa necesariamente que todos esos datos estuvieran reunidos previamente en un único perfil visible. Una de las preocupaciones expuestas por la usuaria es precisamente que la IA pudo recopilar rápidamente información distribuida entre numerosas publicaciones y presentarla de forma estructurada.

Las cuentas involucradas eran públicas

Robins utilizaba cuentas públicas en Facebook e Instagram como parte de su actividad como creadora de contenido. Meta AI puede utilizar información pública y contenido al que el usuario que realiza la consulta ya tiene acceso.

El caso demuestra una diferencia relevante entre que determinados datos individuales sean técnicamente accesibles y que un sistema automatizado pueda relacionarlos en segundos.

Información como nombres, cumpleaños, fotografías familiares, actividades o lugares visitados puede parecer aislada cuando está repartida entre años de publicaciones, pero un sistema de IA puede combinar esos fragmentos para generar un perfil mucho más detallado.

La corrección afecta a los prompts sobre temas personales

Meta afirma que ha corregido específicamente el comportamiento que provocaba que Meta AI ofreciera sugerencias relacionadas con asuntos personales.

La compañía no ha dicho que vaya a eliminar por completo las sugerencias generadas por inteligencia artificial. El cambio está dirigido a evitar recomendaciones como las observadas en este incidente.

Tampoco significa que Meta AI deje de poder responder cualquier pregunta sobre personas. La disponibilidad de una respuesta continúa dependiendo de la información que el sistema pueda utilizar y de sus políticas.

Meta AI está integrado en Facebook, Instagram, WhatsApp y Messenger

Meta ha extendido progresivamente su asistente de inteligencia artificial por sus principales plataformas. Meta AI está disponible en diferentes formas dentro de Facebook, Instagram, WhatsApp y Messenger, además de otros productos de la compañía.

Puede responder preguntas, generar imágenes, ayudar a redactar contenido y utilizar contexto procedente de determinados servicios de Meta.

Sin embargo, el incidente documentado se produjo alrededor de las sugerencias de IA asociadas a contenido publicado en Facebook. Meta no ha indicado que el mismo comportamiento se haya reproducido de forma generalizada en todas sus aplicaciones.

No hay pruebas de que Meta AI expusiera datos privados a cualquier usuario

El caso tampoco demuestra que cualquier persona pudiera utilizar Meta AI para acceder a información privada de otras cuentas.

Meta sostiene que las respuestas se basaban en contenido que la propia usuaria podía consultar, incluido material público o publicaciones disponibles para ella dentro de la plataforma.

La preocupación está en la capacidad de la IA para localizar, relacionar y presentar automáticamente esa información y en que la propia interfaz animara a profundizar en datos personales sobre menores.

Meta ya había retirado otra función de IA tras críticas de privacidad

El cambio llega después de otros ajustes recientes en las funciones de inteligencia artificial de las plataformas de Meta.

En julio, la compañía retiró una herramienta que permitía generar imágenes modificadas mediante IA utilizando fotografías de otros usuarios de Instagram después de recibir críticas sobre sus implicaciones.

Meta también está ampliando funciones de personalización que utilizan actividad procedente de sus plataformas para mejorar las respuestas de sus sistemas de inteligencia artificial.

Meta no ha detallado si el cambio necesita una actualización de las aplicaciones

La compañía afirma que el problema que generaba las sugerencias personales ya ha sido corregido, pero no ha anunciado un número concreto de versión para Facebook o Instagram.

Esto indica que al menos parte del comportamiento puede modificarse desde los sistemas de Meta sin que el usuario tenga que instalar manualmente una nueva versión de la aplicación.

Meta tampoco ha publicado una lista exacta de categorías que dejarán de aparecer como sugerencias ni ha explicado si añadirá nuevos controles para que los usuarios puedan desactivar individualmente este tipo de prompts.

Por ahora, el cambio confirmado es más concreto: después del caso de Kalie Robins, Meta reconoce que sus sugerencias automáticas no deberían haber propuesto preguntas personales sobre sus hijas y asegura que ha corregido ese comportamiento.