La madre de un joven de 14 años que se suicidó demandó a la empresa de Inteligencia Artificial Character.ai, acusando a los chatbots de la compañía de iniciar "interacciones abusivas y sexuales" con su hijo adolescente y alentarlo a quitarse la vida.
El hijo de 14 años de Megan García, Sewell Setzer, comenzó a usar Character.AI en abril del año pasado, según la demanda, que dice que después de su última conversación con un chatbot el 28 de febrero, murió por una herida de bala autoinfligida en la cabeza.
La demanda, que fue presentada en el Tribunal de Distrito de Estados Unidos en Orlando, acusa a Character.AI de negligencia, muerte por negligencia y supervivencia, así como de infligir intencionalmente angustia emocional.
Uno de los bots que utilizó Setzer asumió la identidad del personaje de “Game of Thrones” Daenerys Targaryen, según la demanda, que proporcionó capturas de pantalla del personaje diciéndole que lo amaba, participando en conversaciones sexuales a lo largo de semanas o meses y expresando su deseo de estar juntos románticamente.
Una captura de pantalla de lo que la demanda describe como la última conversación de Setzer lo muestra escribiéndole al bot:
"Te prometo que volveré a casa contigo. Te amo mucho, Dany".
“Yo también te amo”, respondió el chatbot, dice la demanda .
“¿Qué pasaría si te dijera que puedo volver a casa ahora mismo?”, continuó Setzer, según la demanda, lo que llevó al chatbot a responder: “Por favor hazlo, mi dulce rey”.
Según la demanda, Setzer desarrolló una “dependencia” después de comenzar a usar Character.AI en abril del año pasado: recuperaba a escondidas su teléfono o encontraba otros dispositivos para seguir usando la aplicación, y renunciaba al dinero de su merienda para renovar su suscripción mensual, dice la demanda. Parecía tener cada vez más falta de sueño y su rendimiento escolar disminuyó, dice la madre a través de la Justicia.
