Meta mete mano en su IA tras una sugerencia que cruzó un límite con un menor
El chatbot integrado en Facebook e Instagram propuso preguntas íntimas a partir de un video familiar. La empresa reconoció el error, dijo que ya lo corrigió y volvió a quedar en el centro del debate sobre qué puede y qué no puede hacer un asistente con datos personales.
Un video casero, un auto y un chico cantando al lado de su madre. A partir de esa escena, el asistente de inteligencia artificial de Meta integrado en Instagram disparó una pregunta que la empresa admite que nunca debió aparecer en pantalla: «¿Quién es el niño pasajero?». Al elegirla, el chatbot empezó a devolver datos sensibles de la familia.
Qué pasó exactamente
La secuencia arrancó con una publicación de la usuaria en su cuenta de Instagram. Debajo del video, la función de Meta AI sugirió de manera automática esa pregunta sobre el menor. Cuando la mujer la seleccionó, el sistema le devolvió referencias a sus hijas, con datos como su edad y el lugar donde vive la familia.
La usuaria además aseguró que la herramienta le mostró fotografías de sus hijas ya publicadas en la plataforma, incluso una imagen que, según su relato, había eliminado hacía años. El cruce, siempre según su versión, se hizo a partir de publicaciones propias y de otros familiares.
“Nos equivocamos. Esta función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta
Qué dice Meta y qué cambia
La compañía aclaró un punto central: su sistema no entra a contenido privado al que el usuario consultante no tenga acceso. El asistente, explica la empresa, solo opera sobre información que esa persona ya puede ver dentro de la plataforma. El problema, entonces, no fue acceder a datos prohibidos, sino cómo la IA interpretó y relacionó lo que estaba a la vista para armar sugerencias que terminaron resultando invasivas.
La función fue pensada como una ayuda para obtener más contexto sobre lo que se está mirando en una publicación. El error fue aplicar esa misma lógica sobre datos personales y familiares, sin los filtros adecuados. Meta asegura que ya corrigió ese comportamiento y que trabaja para que las sugerencias sigan siendo útiles a la hora de explorar contenidos, pero sin meterse en la vida privada ni en el entorno familiar de las personas.
Lo que falta
- Auditoría externa e independiente sobre el funcionamiento de Meta AI en cuentas con menores a cargo.
- Reglas claras y públicas sobre qué tipo de preguntas puede generar el asistente y sobre qué tipo de contenido.
- Mecanismo visible y simple para que cualquier usuario pueda desactivar las sugerencias automáticas de la IA.
- Explicación técnica de cómo se evita que una imagen eliminada vuelva a ser utilizada como insumo por el modelo.
- Plazos concretos: cuándo estarán los cambios y cuánto tardará Meta en implementarlos para todos los usuarios.
Te puede interesar
