ChatGPT, ahora para adultos: Altman dice que permitirá el contenido erótico

"En diciembre, a medida que implementemos de forma más completa el control de edad y como parte de nuestro principio de tratar a los usuarios adultos como adultos, permitiremos aún más cosas, como la erótica para adultos verificados", ha afirmado Sam Altman, consejero delegado de la startup.

El movimiento, que recuerda a la reciente introducción de dos chatbots sexualmente explícitos por parte de xAI, la empresa de Elon Musk, podría ayudar a OpenAI a atraer a más suscriptores de pago. Los ingresos de OpenAI están creciendo, pero la compañía nunca ha sido rentable.

Anteriormente, el propio Altman había criticado estas prácticas. En abril, TechCrunch informó que OpenAI estaba permitiendo que cuentas registradas como menores de edad generaran contenido erótico explícito.

Según Altman, las versiones actuales de ChatGPT se habían hecho "bastante restrictivas" para tratar de proteger a los usuarios de riesgos para la salud mental, pero ese enfoque hizo que el chatbot fuera "menos útil (y menos disfrutable) para muchos usuarios que no tenían problemas de salud mental".

"Ahora que hemos podido mitigar los problemas graves de salud mental y contamos con nuevas herramientas, podremos relajar las restricciones de forma segura en la mayoría de los casos", ha agregado Atlman.

CNBC señala que esas "nuevas herramientas" parecen referirse a las funciones de seguridad y controles parentales implementados el mes pasado para abordar las preocupaciones sobre cómo el chatbot afectaba la salud mental de los usuarios jóvenes. Aunque aún no está claro qué materiales se considerarán erotismo permitido, la medida sin duda representará un cambio importante en la política de OpenAI.

Además del lanzamiento del contenido erótico, Altman también afirmó que una nueva versión de ChatGPT se lanzará en las próximas semanas permitirá al chatbot adoptar personalidades más diferenciadas, basándose en las actualizaciones de la versión más reciente, GPT-4o.

"Si quieres que tu ChatGPT responda de una manera muy parecida a la humana, o use muchos emojis, o actúe como un amigo, ChatGPT debería hacerlo (pero solo si tú lo deseas, no porque queramos maximizar el uso)", ha detallado el ejecutivo.

El cambio de política de OpenAI llega en un momento clave para la compañía, muy cuestionada sus prácticas de seguridad. En septiembre, la Comisión Federal de Comercio (FTC, por sus siglas en inglés) inició una investigación sobre varias compañías tecnológicas, incluida OpenAI, por los posibles riesgos que representan para niños y adolescentes.

Esta investigación siguió a una demanda presentada por una pareja de California que alegó que ChatGPT contribuyó al suicidio de su hijo de 16 años. La pareja californiana criticó los controles parentales de la empresa, alegando que no fueron suficientes. La familia incluyó registros de chat entre su hijo y ChatGPT en los que el joven explicaba que tenía pensamientos suicidas.

OpenAI también anunció el martes la creación de un consejo de expertos en bienestar e IA, compuesto por ocho miembros, que asesorará a la empresa sobre cómo la inteligencia artificial afecta la salud mental, las emociones y la motivación de los usuarios. La compañía explicó que este consejo guiará a OpenAI en la definición de lo que constituyen interacciones saludables con la IA, mediante evaluaciones y reuniones periódicas.

Los críticos afirman que la decisión de OpenAI de permitir contenido erótico en la plataforma demuestra la necesidad de una regulación más estricta a nivel federal y estatal. El mes pasado, en el Senado de Estados Unidos, se presentó un proyecto de ley bipartidista que clasificaría a los chatbots de IA como productos. La ley permitiría a los usuarios presentar reclamaciones de responsabilidad contra los desarrolladores de estos sistemas.

Una reciente encuesta publicada por el Centro para la Democracia y la Tecnología (CDT), una organización sin fines de lucro, halló que uno de cada cinco estudiantes afirmó que él o alguien que conoce ha tenido una relación romántica con una IA.