Una inédita enuncia realizó una madre en Estados Unidos, esto después de que su hijo de 14 años muriera producto del suicidio. De acuerdo a lo afirmado por la mujer. La causa detrás de la muerte del adolescente se debe a que se habría obsesionado y enamorado de un personaje de ficción creado por una Inteligencia Artificial, y que simulaba ser Daenerys Targaryen de Game of Thrones.
De acuerdo a lo narrado por la madre, su hijo habría iniciado una especie de relación con el bot creado por la aplicación Character.AI, al cual le habría hablado abiertamente sobre sus intenciones de quitarse la vida, en lo que en respuesta el bot le habría impulsado a hacerlo, hasta que finalmente el adolescente se quitó la vida de un disparo, consigna el medio norteamericano ABC.
"Te prometo que iré a casa contigo. Te amo mucho Dany", le escribió Sewekk Setzer al chatbot, quien le respondió que también lo amaba y que "por favor llegara a casa con ella lo antes posible". Cabe destacar que dentro de la serie Game of Thrones el personaje de Daenerys Targaryen, Dany, fallece, por lo que "llegar a ella", sería morir.
Personajes diseñados para ser percibidos como humanos
La aplicación contra la cual se presentó la demanda es Character.AI la cual cuenta con la premisa de que los personajes generados están diseñados para "sentirse vivos y parecidos a los humanos", características que resaltan en la descripción de su aplicación. "Imagina hablar con un personajes bot súper inteligentes, que te escucha, entiende y recuerda. Te alentamos a romper la barrera de lo que es posible con esta innovadora tecnología".
Estas características son las que resalta la demanda, acusando que son "altamente adictivas y peligrosas, especialmente en un producto promocionado específicamente para niños", las que además habrían impulsado al adolescente a una relación sexual y emocionalmente abusiva.
"Creemos que si Sewell Setzer no hubiera estado en Character.AI, estaría vivo hoy día", expresó el abogado demandante. Si bien la compañía no ha dado declaraciones sobre el caso en específico, sí declararon en un comunicado que tomarán medidas de mayor seguridad para los usuarios menores de 18 años.