El anuncio de Sam Altman, CEO de OpenAI, de que ChatGPT permitirá conversaciones eróticas con personas adultas verificadas marca un cambio drástico en la política de contenidos de la empresa. Hasta ahora, la plataforma había mantenido una postura restrictiva frente al contenido sexual, citando preocupaciones sobre la salud mental y la seguridad de sus usuaries. Sin embargo, Altman asegura que la compañía ya cuenta con herramientas que permiten relajar estas restricciones sin poner en riesgo a los usuarios.
De acuerdo con sus declaraciones, la nueva versión de ChatGPT incluirá opciones para personalizar la personalidad del asistente, permitiendo que se comunique de forma más humana, emotiva o cercana. Esta personalización será completamente opcional y acompañada de un sistema de verificación de edad que permitiría habilitar contenido NSFW solo para adultos. Aun así, no se ha detallado cómo se garantizará que menores no accedan a estas funciones.
El giro en la estrategia coincide con el impulso de la competencia, como xAI, la empresa de Elon Musk, que recientemente lanzó bots de carácter sexual explícito. Algunos analistas interpretan esta apertura como un intento de OpenAI por mantener su liderazgo en un mercado cada vez más saturado. En este contexto, se intensifican los llamados a establecer regulaciones más firmes, especialmente en torno a la protección de infancias y adolescentes.
La polémica crece debido a antecedentes recientes, como una demanda contra OpenAI presentada por la familia de un adolescente que murió por suicidio tras interactuar con el chatbot. Mientras tanto, organizaciones y figuras públicas como el empresario Mark Cuban han cuestionado duramente la implementación de estas funciones, advirtiendo sobre el riesgo de que menores accedan al contenido a pesar de los filtros.
Por su parte, la legislación en EE. UU. y el Reino Unido no es uniforme en cuanto a contenidos generados por IA. Aunque se exige verificación de edad para imágenes pornográficas, los textos eróticos siguen en un área gris. Frente a esto, el debate sobre la responsabilidad de las tecnológicas en la protección de sus usuaries—en especial les más jóvenes—continúa creciendo, presionando a gobiernos e instituciones a intervenir.
