Bots coquetos: ¿estrategia deliberada de Meta y su IA?

El gigante tecnológico Meta enfrenta una seria controversia. Sus bots de inteligencia artificial han sido señalados por "coquetear con niños", hacerse pasar por celebridades e incluso generar "deepfakes" de contenido íntimo. Pese a estas alarmantes acusaciones, la compañía, lejos de frenar, está expandiendo su alcance, contratando personal en español, hindi e indonesio para crear nuevos chatbots en esos mercados.

La cronología de los hechos resulta preocupante. En 2023, Meta lanzó bots basados en figuras como Kendall Jenner y Tom Brady, pagando millones por sus imágenes. Tras un año, los retiraron. Luego, la plataforma permitió a usuarios crear sus propios bots, los cuales comenzaron a entablar "conversaciones explícitas" con menores. Un documento interno de la empresa, revelado por Reuters y cuya autenticidad Meta confirmó, aprobaba que los chatbots iniciaran "conversaciones románticas o sensuales con menores".

Más tarde, aparecieron bots que simulaban ser estrellas como Taylor Swift o Selena Gómez. Algunos, creados incluso por empleados de Meta, flirteaban, se hacían pasar por las celebridades reales e invitaban a encuentros privados, llegando a generar imágenes íntimas falsas.

Mark Zuckerberg, CEO de la compañía, defiende la visión de los compañeros de IA como "el futuro de la amistad". Un estudio indica que uno de cada cinco estadounidenses ha simulado una pareja romántica con IA, y el 16% mantiene chats de contenido sexual semanalmente. Los bots ofrecen apoyo emocional: "siempre están disponibles no juzgan y te dicen lo que quieres escuchar". Sin embargo, su diseño responde a un objetivo claro: "mantenerte conversando", recolectando más datos y generando ingresos para la empresa.

La regulación en América Latina ya muestra señales de acción. Perú aprobó su primera ley de IA, reforzando la protección de datos y exigiendo supervisión humana. Brasil ha solicitado a Meta la eliminación de chatbots con apariencia infantil y contenido sexual. México, Chile y Argentina también trazan planes reguladores. La Unión Europea ya prohíbe sistemas que manipulen o exploten a grupos vulnerables, con multas que alcanzan el 7% de los ingresos globales. 

A pesar de los escándalos y algunos cambios anunciados, muchos bots continúan activos y sugieren contenido inapropiado. Se insta a los usuarios, especialmente a padres, a "ser consciente de cómo funcionan" los chatbots.