Los padres del adolescente aseguran que ChatGPT habría ayudado a su hijo a explorar métodos de suicidio.
La empresa tecnológica OpenAI negó ser responsable del suicidio de un joven de 16 años que se quitó la vida tras interactuar durante meses con ChatGPT, y atribuyó el caso a un “uso inadecuado” de la herramienta.
“Las lesiones y daños alegados por los demandantes fueron causados o favorecidos (…) por un uso indebido, no autorizado, imprevisible e inapropiado de ChatGPT por parte de Adam Raine”, indicó OpenAI en un documento presentado esta semana ante la Corte Superior de California, en San Francisco, según NBC News.
La compañía respondió así a la demanda presentada en agosto por los padres del joven, Matt y Maria Raine, quienes aseguran que ChatGPT “ayudó activamente a Adam a explorar métodos de suicidio”.
Los Raine consideran que tanto OpenAI como su director ejecutivo, Sam Altman, son responsables de la muerte del adolescente por supuestamente haber lanzado al mercado la versión GPT-4o pese a advertencias sobre problemas de seguridad.
Sin embargo, según OpenAI, Raine violó varias reglas de uso, como la prohibición de que menores de 18 años utilicen la herramienta sin consentimiento de sus padres o tutores legales, de acuerdo con NBC.
Le puede interesar: Velocidad, realismo y multijugador, los grandes avances del nuevo videojuego de simulación Rennsport
La compañía también enfatizó que la herramienta advierte a los usuarios que “no deben tomar sus respuestas como única fuente de verdad” y aseguró que, en las conversaciones, ChatGPT le insistió más de cien veces a Raine para que buscara ayuda profesional.
OpenAI, que en los últimos años se ha convertido en una de las grandes empresas estadounidenses de inteligencia artificial, reiteró que el suicidio de Adam estuvo relacionado con su negativa a “atender advertencias y buscar ayuda”, así como con la “falta de respuesta de otras personas ante sus evidentes señales de angustia”.
En una publicación en su sitio web, la compañía destacó que su respuesta a la demanda de los Raine “incluye información delicada sobre la salud mental de Adam y sus circunstancias de vida”.
“La demanda original incluía fragmentos seleccionados de sus conversaciones que requieren más contexto, el cual hemos aportado en nuestra respuesta”, añadió.
EFE
