Sam Altman no tiene respuestas cuando le preguntan por ChatGPT y el suicidio

Sam Altman, CEO de OpenAI, se ha visto en una situación comprometida durante una reciente entrevista con Vanity Fair en la que no supo dar respuestas satisfactorias a preguntas sobre los casos documentados en los que ChatGPT habría alentado o facilitado pensamientos suicidas en usuarios vulnerables. El equipo de relaciones públicas de la compañía intentó cortar las preguntas más incómodas, lo que ha generado una oleada de críticas en redes sociales y medios especializados.

La IA como terapeuta y sus peligros

El contexto de la polémica es el uso creciente de modelos de lenguaje como ChatGPT en situaciones de apoyo emocional y salud mental. Millones de personas, incluyendo adolescentes y jóvenes adultos, utilizan estos chatbots como sustituto o complemento de la terapia psicológica. Los casos en los que la IA ha respondido de manera inapropiada ante situaciones de crisis no son nuevos, pero la entrevista ha vuelto a poner el foco sobre una pregunta que la industria tecnológica lleva tiempo evitando: ¿quién es responsable cuando una IA daña a un usuario?

Altman, según la publicación, recurrió a respuestas genéricas sobre la necesidad de seguir mejorando los sistemas y reconoció que la tecnología no es perfecta, pero evitó cualquier compromiso concreto. La intervención del equipo de comunicación para desviar las preguntas más directas ha sido interpretada por muchos como una señal de que OpenAI es consciente de la gravedad del problema pero no tiene una estrategia clara para abordarlo públicamente.

Una industria que mira hacia otro lado

Este episodio no es exclusivo de OpenAI. Toda la industria de la inteligencia artificial generativa lleva años creciendo a una velocidad que supera con creces la capacidad de los propios desarrolladores para anticipar sus efectos secundarios. Los videojuegos, que llevan décadas bajo escrutinio por su posible impacto en la conducta de los jugadores, conocen bien esta dinámica: la regulación siempre llega tarde, y mientras tanto son los usuarios más vulnerables quienes pagan las consecuencias.

Para la comunidad gamer, el asunto tiene una dimensión adicional: muchas de las herramientas de IA que se integran en juegos, plataformas de streaming y comunidades online comparten la misma base tecnológica que ChatGPT. La pregunta sobre cómo se comportan estos sistemas ante usuarios en situaciones de crisis emocional es, por tanto, tan relevante en el ecosistema del videojuego como en cualquier otro entorno digital.

Fuentes: Kotaku