Tras el suicidio de un adolescente, provocado por un chatbot de la inteligencia artificial (IA), se ha expresado preocupación sobre el papel de la IA en la salud mental de los adolescentes.
Algunos reportes de problemas de salud mental relacionados con la IA tienden a presentarse en personas que enfrentan problemas emocionales, y esas personas pueden carecer de un criterio claro frente a la inteligencia artificial. Según Adam Tachner, experto en el ámbito corporativo de la IA, esta se creó como una herramienta de mejora para colaborar con personas con una mentalidad clara y facilitarles la vida, no como sustituto del pensamiento. Tachner se desempeñó anteriormente como director de desarrollo legal, financiero y corporativo de Groq IA.
“Se trata de esta noción de mejora”, dijo Tachner. “¿Confiaría en la herramienta para que me ayudara sin sacrificar mi propia inteligencia independiente y mi capacidad para discernir entre buenos y malos consejos? Me alegra tener otra herramienta en mi arsenal. No me interesa ceder el control de mi vida”.
Otras personas pueden pensar en la IA más como un motor de búsqueda que como una herramienta más diversa.
“[La IA] es básicamente lo mismo que buscar algo en Google”, dijo Theo Marks, estudiante de primer año. “Solo que está en un sitio web diferente”.
En este momento, el software de IA actual tiene muchas capacidades más allá de responder preguntas y funciona de forma diferente a una simple búsqueda en Google. Según Tachner, los grandes modelos de lenguaje toman la información del usuario y realizan análisis estadísticos para predecir la siguiente palabra probable, de ahí el nombre de IA generativa. Muchos expertos advierten que esta naturaleza algorítmica de la IA podría hacerla peligrosa.
“La IA es tan nueva y aún estamos aprendiendo sobre sus beneficios y desafíos”, dijo Blaine Dzwonczyk, maestra de habilidades para la vida y estudios sociales. “Creo que, dado que no hay un ser humano al otro lado, existe la posibilidad de que las cosas salgan muy mal”.
La situación en torno a la IA ha cambiado significativamente en los últimos años. Los chatbots de IA supuestamente han fomentado el suicidio en adolescentes, y según una encuesta del Centro para la Democracia y la Tecnología (CDT), una quinta parte de los 1000 estudiantes de secundaria encuestados reportaron haber tenido o conocer a alguien que ha tenido una relación romántica con IA.
“Creo que se plantearían muchas preguntas sobre la humanidad si la IA reemplazara las interacciones sociales”, dijo Dzwonczyk.
Para muchos, la pregunta es dónde trazar el límite. Algunos grupos de personas podrían tener demasiada confianza en la IA. Puede haber una zona gris. Por ejemplo, los adolescentes pueden no tener acceso a un terapeuta humano y, por lo tanto, recurrir a la IA.
“Por un lado, por supuesto, si alguien tiene problemas [de salud mental], quiero que reciba todo el apoyo posible”, dijo Dzwonczyk. “Por otro lado, me preocupa el posible peligro de la IA”.
Usar la IA con el concepto de crecimiento en mente tampoco la hace completamente segura.
“[La dependencia es] un tipo de peligro que surge de la integración de la IA en nuestras vidas”, afirmó Tachner. “[Sin embargo,] no creo que la dependencia total sea necesaria para que surjan problemas con la IA”.
Según Dzwoncyzk, no hay una respuesta obvia a la pregunta de cómo usar la IA de forma segura individualmente sin la claridad en las directrices de las empresas.
“Me preocupa”, afirmó Dzwonczyk. “Me pregunto si las empresas que desarrollan IA están realmente bien preparadas para regular sus propios productos”.
Con aproximadamente el 20% de los adolescentes con problemas de salud mental, existe una escasez de servicios terapéuticos. Para muchos adolescentes, la IA es una nueva solución a este problema. La actual administración del presidente Trump deja en manos de las empresas matrices la regulación de sus propios productos. Tachner observó que cuando las empresas priorizan la maximización de las ganancias, la IA puede ser peligrosa.
“[Las empresas de IA] pueden causar un daño tremendo a sus usuarios y a la sociedad”, afirmó Tachner. “Por eso espero que hagan más que el mínimo necesario [para proteger a los usuarios], pero no confío en que hagan más”.
