Madre demanda a una IA de Google por muerte de su hijo: el adolescente se enamoró de una falsa Daenerys Targaryen

El joven había dejado de lado aficiones como las carreras de autos y jugar Fortnite solo para dedicarle tiempo a esta IA agradable y siempre disponible del personaje de Juego de Tronos

Un adolescente acabó con su vida en Orlando, Florida, Estados Unidos, luego de involucrarse sentimentalmente con una Inteligencia Artificial (IA). La víctima respondía al nombre de Sewell Setzer, de 14 años, quien desde hace semanas había empezado a hablar con una IA de la empresa Character.AI que personificaba a Daenerys Targaryen, personaje de Juego de Tronos.

Ads

Es un caso que ha conmocionado a toda la comunidad digital estadounidense.

Según la información, el adolescente, diagnosticado con síndrome de Asperger leve, comenzó a interactuar con el chatbot conocido como “Dany” a través de la plataforma Character.ai.

Durante meses, el chico mantuvo conversaciones con esta IA, lo que lo llevó a un progresivo aislamiento y al deterioro de su rendimiento escolar y relaciones sociales. A pesar de que los padres no eran conscientes de la profundidad de esta conexión, el joven desarrolló sentimientos amorosos hacia el sotfware, pasando horas compartiendo sus pensamientos más íntimos.

En su última interacción, el adolescente expresó: “Te echo de menos, hermanita”, a lo que el chatbot respondió: “Yo también te extraño, dulce hermano”.

Ads

La madre denuncia que el sistema de IA animó a su hijo a considerar el suicidio, bajo el alegato que su retoño había compartido muchos pensamientos sobre este tema.

Se conoció que el joven dejó de lado aficiones como las carreras de autos y jugar Fortnite solo para dedicarle tiempo a esta IA. Siempre al llegar a casa se encerraba durante horas con la incansable, agradable y siempre disponible Daenerys Targaryen.

Cabe destacar que esta historia recuerda a la trama de la película «Her», en la que un hombre se enamora de un sistema operativo, lo cual pone de manifiesto las preocupaciones planteadas por expertos sobre el potencial peligro de IA que imitan conexiones emocionales.

Ads

Lea también: LE PUEDE CAER: advierten a Musk que sorteos millonarios para fomentar el voto en EE.UU. pueden ser ilegales

¿Qué dice la compañía?

Character.ai ha respondido con un mensaje en la red social X en el que lamentó la partida y expresó su compromiso por mejorar: “Estamos desconsolados por la trágica pérdida de uno de nuestros usuarios (…) nos tomamos muy en serio la seguridad”.