OpenAI, la compañía detrás del popular chatbot de inteligencia artificial (IA) ChatGPT, ha anunciado una importante flexibilización en sus políticas de contenido, permitiendo la generación de material de naturaleza erótica para usuarios adultos que verifiquen su edad. La decisión, enmarcada en el principio de la compañía de «tratar a los usuarios adultos como adultos», busca equilibrar la seguridad con una mayor utilidad y disfrute del chatbot.
El director ejecutivo de OpenAI, Sam Altman, explicó la medida a través de su cuenta en X (anteriormente Twitter), señalando que las restricciones iniciales impuestas para abordar preocupaciones de salud mental habían hecho que ChatGPT fuera «menos útil o disfrutable para muchos usuarios que no tienen problemas de salud mental». Altman afirmó que, tras mitigar los problemas más graves, ahora pueden «relajar las restricciones de forma segura en la mayoría de los casos».
La implementación de controles más estrictos se produjo tras incidentes preocupantes, como la demanda de los padres de Adam Raine, un adolescente de California que se suicidó a principios de este año, en la que alegaron que ChatGPT le había proporcionado consejos específicos sobre cómo quitarse la vida.
La decisión de OpenAI se produce en un contexto de creciente escrutinio regulatorio sobre los efectos de los chatbots de IA en los menores. La Comisión Federal de Comercio (FTC) de Estados Unidos ha iniciado una investigación contra varias empresas tecnológicas, incluida OpenAI, para evaluar cómo estas herramientas podrían afectar negativamente a niños y adolescentes.
La compañía ha indicado que esta apertura al contenido erótico estará sujeta a estrictos controles de seguridad y verificación de edad para garantizar el acceso únicamente a usuarios mayores de 18 años, un paso que busca un delicado equilibrio entre la libertad creativa y la responsabilidad ética en el desarrollo de la inteligencia artificial.
Con información de Milenio
