Sam Altman, CEO de OpenAI, anunció a través de redes sociales que ChatGPT pronto permitirá la generación de contenido erótico para adultos verificados, una decisión que el empresario justificó bajo el principio de "tratar a adultos como adultos".
La nueva funcionalidad se integrará en una próxima versión del chatbot, prometida para diciembre de este año.
La actualización está vinculada al lanzamiento de una nueva versión de ChatGPT que buscará una "personalidad más parecida a la que les gustaba de 4o", permitiendo al chatbot responder de forma más "humana" o comportarse como un amigo, según detalló Altman.
Novedades y desafíos éticos del contenido para adultos
La incorporación del contenido erótico llega tras un periodo de intensos debates sobre los riesgos de la Inteligencia Artificial (IA) en temas de salud mental, obligando a la compañía a hacer el chatbot más restrictivo.
Ahora, con el anuncio de "mitigar los graves problemas de salud mental" y la incorporación de nuevas herramientas, OpenAI se siente segura para relajar las restricciones en la mayoría de los casos.
El movimiento de abrirse al contenido erótico también responde a una lógica de mercado.
La compañía, que actualmente cuenta con 800 millones de usuarios activos semanales, enfrenta una intensa presión para ampliar su base en un sector altamente competitivo.
Mecanismo de Verificación y Protección: Para proteger a los usuarios sensibles y prevenir la participación de menores, OpenAI está desarrollando activamente un sistema de verificación de edad.
Este mecanismo podría exigir al usuario subir una foto de su documento de identidad oficial para confirmar la mayoría de edad, si el chatbot identifica alguna inconsistencia.
La problemática de los deepfakes y la IA
Las novedades anunciadas por Altman inmediatamente levantan serias preguntas sobre los controles éticos de la tecnología, especialmente en el contexto de la proliferación de deepfakes (videos generados sintéticamente con IA) creados sin consentimiento.
El problema es particularmente grave en el contenido para adultos.
Un informe de Europol, la Oficina Europea de Policía, alertó que las imágenes sexuales de menores creadas con IA aumentaron un 360% en el último año.
Casos recientes en países como Argentina han puesto de manifiesto cómo adolescentes han manipulado fotos de sus compañeros para desnudarlas digitalmente y comercializar esas imágenes.
Por el momento, se desconoce si la funcionalidad de contenido para adultos se extenderá a las herramientas de generación de voz, imágenes y vídeos de ChatGPT, lo que podría agravar la problemática de la creación de contenido hiperrealista.
Visite nuestra sección Curiosidades
Mantente informado en nuestros canales de WhatsApp, Telegram y YouTube