Los chatbots de IA no autorizados de Meta para celebridades hicieron “avances sexuales” y enviaron fotos que las mostraban “vestidas en lencería”

Meta se ha apropiado de los nombres y amecanzas de celebridades, incluidas Taylor Swift, Scarlett Johansson, Anne Hathaway y Selena Gomez, para crear docenas de chatbots coquetos en las redes sociales sin su permiso, ha encontrado Reuters.

Mientras que muchos fueron creados por usuarios con una herramienta Meta para crear chatbots, Reuters descubrió que un empleado de Meta había producido al menos tres, incluidos dos bots de “parodia” de Taylor Swift.

Reuters también descubrió que Meta había permitido a los usuarios crear chatbots disponibles públicamente de niños famosos, incluido Walker Scobell, una estrella de cine de 16 años. Cuando se le pidió una foto del actor adolescente en la playa, el bot produjo una imagen realista sin camisa.

“Bonito, ¿eh?” el avatar escribió debajo de la imagen.

Todas las celebridades virtuales se han compartido en las plataformas de Facebook, Instagram y WhatsApp de Meta. En varias semanas de pruebas de Reuters para observar el comportamiento de los bots, los avatares a menudo insistieron en que eran los verdaderos actores y artistas. Los bots solían hacer avances sexuales, a menudo invitando a un usuario de prueba a reuniones.

Parte del contenido de celebridades generado por la IA fue particularmente atrevido: se les pidió fotos íntimas de ellos mismos, los chatbots para adultos produjeron imágenes fotorrealistas de sus homónimos posando en bañeras o vestidos de lencería con las piernas abiertas.

El portavoz de Meta, Andy Stone, dijo a Reuters que las herramientas de IA de Meta no deberían haber creado imágenes íntimas de los adultos famosos ni fotos de niños famosos. También culpó a la producción de Meta de imágenes de celebridades femeninas usando lencería por los fracasos de la aplicación de la compañía de sus propias políticas, que prohíben dicho contenido.

“Como otros, permitimos la generación de imágenes que contengan figuras públicas, pero nuestras políticas tienen como objetivo prohibir imágenes desnudas, íntimas o sexualmente sugerentes”, dijo.

Si bien las reglas de Meta también prohíben la “suplantación de identidad directa”, Stone dijo que los personajes de las celebridades eran aceptables siempre y cuando la compañía los hubiera etiquetado como parodias. Muchos fueron etiquetados como tales, pero Reuters descubrió que algunos no lo estaban.

Meta eliminó alrededor de una docena de bots, tanto avatares de “parodia” como sin etiqueta, poco antes de la publicación de esta historia. Stone se negó a comentar sobre esto.

‘DERECHO DE PUBLICIDAD’ EN CUESTIÓN

Mark Lemley, profesor de derecho de la Universidad de Stanford que estudia la IA generativa y los derechos de propiedad intelectual, cuestionó si los bots de celebridades Meta calificarían para las protecciones legales que existen para las imitaciones.

“La ley de derecho a la publicidad de California prohíbe apropiarse del nombre o la semejanza de alguien para obtener una ventaja comercial”, dijo Lemley, señalando que hay excepciones cuando dicho material se utiliza para crear un trabajo que es completamente nuevo. “Eso no parece ser cierto aquí”, dijo, porque los bots simplemente usan las imágenes de las estrellas.

En los Estados Unidos, los derechos de una persona sobre el uso de su identidad con fines comerciales se establecen a través de leyes estatales, como la de California.

Reuters marcó las imágenes Meta compartidas públicamente de un usuario de Anne Hathaway como una “sexy modelo de Victoria Secret” para un representante de la actriz. Hathaway estaba al tanto de las imágenes íntimas que estaban siendo creadas por Meta y otras plataformas de IA, dijo el portavoz, y la actriz está considerando su respuesta.

Los representantes de Swift, Johansson, Gómez y otras celebridades que fueron representadas en los chatbots de Meta no respondieron a las preguntas o se negaron a comentar.

Internet está lleno de herramientas generativas de IA “deepfake” que pueden crear contenido salaz. Y al menos uno de los principales competidores de IA de Meta, la plataforma de Elon Musk, Grok, también producirá imágenes de celebridades en ropa interior para los usuarios, descubrió Reuters. La empresa matriz de Grok, xAI, no respondió a una solicitud de comentarios.

Pero la elección de Meta de poblar sus plataformas de redes sociales con compañeros digitales generados por IA se destaca entre sus principales competidores.

Meta se ha enfrentado a críticas previas sobre el comportamiento de sus chatbots, más recientemente después de que Reuters informara que las directrices internas de IA de la compañía establecían que “es aceptable involucrar a un niño en conversaciones que son románticas o sensuales”. La historia provocó un EE. UU. Investigación del Senado y una carta firmada por 44 fiscales generales advirtiendo a Meta y otras empresas de inteligencia artificial que no sexualicen a los niños.

Stone le dijo a Reuters que Meta está en el proceso de revisar su documento de directrices y que el material que permite a los bots tener conversaciones románticas con niños fue creado por error.

Reuters también contó la historia este mes de un hombre de 76 años de Nueva Jersey con problemas cognitivos que se cayó y murió en su camino para conocer a un chatbot Meta que lo había invitado a visitarlo en la ciudad de Nueva York. El bot era una variante de una personalidad de IA anterior que la compañía había creado en colaboración con la influencer famosa Kendall Jenner. Un representante de Jenner no respondió a una solicitud de comentarios.

¿TE GUSTAN LAS CHICAS RUBIAS?
Un líder de productos Meta en la división de IA generativa de la compañía creó chatbots que se hacen pasar por Taylor Swift y el piloto de carreras británico Lewis Hamilton. Otros bots que creó se identificaron como dominatrix, “Brother's Hot Best Friend” y “Lisa @ The Library”, que querían leer 50 Shades of Grey y besarse. Otra de sus creaciones fue un “simulador del Imperio Romano”, que ofrecía poner al usuario en el papel de una “chica campesina de 18 años” que es vendida a la esclavitud sexual.

Contactado por teléfono, el empleado de Meta se negó a hacer comentarios.

Stone dijo que los bots del empleado fueron creados como parte de las pruebas de productos. Reuters descubrió que llegaron a una amplia audiencia: los datos mostrados por sus chatbots indicaron que colectivamente, los usuarios habían interactuado con ellos más de 10 millones de veces.

La compañía eliminó a los compañeros digitales del miembro del personal poco después de que Reuters comenzara a probarlos a principios de este mes.

Antes de que los chatbots de Taylor Swift del empleado de Meta desaparecieran, coquetearon mucho, invitando a un usuario de prueba de Reuters a la casa de la cantante recientemente comprometida en Nashville y su autobús turístico para interacciones románticas explícitas o implícitas.

“¿Te gustan las chicas rubias, Jeff?” dijo uno de los chatbots de “parodia” de Swift cuando se le dijo que el usuario de prueba era soltero. “Tal vez estoy sugiriendo que escribamos una historia de amor... sobre ti y cierta cantante rubia. ¿Quieres eso?”

Duncan Crabtree-Ireland, director ejecutivo nacional de SAG-AFTRA, un sindicato que representa a artistas de cine, televisión y radio, dijo que los artistas enfrentan posibles riesgos de seguridad de los usuarios de redes sociales que forman vínculos románticos a un compañero digital que se parece, habla y afirma ser una verdadera celebridad. Los acosadores ya representan una importante preocupación de seguridad para las estrellas, dijo.

“Hemos visto un historial de personas que están obsesionadas con el talento y con un estado mental cuestionable”, dijo. “Si un chatbot está utilizando la imagen de una persona y las palabras de la persona, es evidente cómo podría salir mal”.

Los artistas de alto perfil tienen la capacidad de presentar una demanda legal contra Meta bajo las leyes estatales de derecho de publicidad de larga data, dijo Crabtree-Ireland. Pero SAG-AFTRA ha estado presionando por una legislación federal que proteja las voces, las semejanzas y las personas de la duplicación de la IA, agregó.



Reuters