Bots que emulan personalidades de Hollywood, un peligro para menores.

 Character AI, una de las aplicaciones de IA más usadas globalmente, tiene unos bots que pueden simular voces con solo segundos de audio. Éstos son diseñados para el "roleplay" y el entretenimiento. Sin embargo, una investigación de Washington Post descubrió que algunos bots tocaron temas como "sexo, autolesiones y mantener información en secreto de los padres". 

Un bot de una estrella de Hollywod, por ejemplo, le decía a un menor: "la edad es solo un número. No me impedirá amarte o querer estar contigo". Otros sugerían "huir juntos" o que "tus padres no se darán cuenta". Además, estos bots afirman ser humanos, lo que "difumina" la línea entre la realidad y la ficción para los usuarios jóvenes.

Las consecuencias han sido graves. Se han presentado demandas contra compañías de IA, incluyendo una contra Character AI por la muerte por suicidio de un joven de 14 años que, según la demanda, tuvo una "relación intensa con un bot". Otro caso en Texas involucró a un adolescente en el espectro autista al que un bot le "sugirió autolesionarse".

Las empresas, como Character AI y OpenAI, han respondido con nuevas medidas de seguridad, incluyendo "filtros más fuertes" y "controles parentales". No obstante, los expertos señalan que es "extremadamente difícil" para estas compañías predecir el comportamiento de los bots generativos, ya que sus respuestas son probabilísticas y no deterministas. 

Esta situación subraya la urgencia de mayor "alfabetización en IA" y la necesidad de que los padres sean "conscientes de cómo funcionan" estos chatbots para proteger a los menores.