OpenAI, la compañía detrás de ChatGPT, está ⚽️ explorando si se debe permitir a los usuarios crear contenido de inteligencia artificial generado para pornografía y otros contenidos explícitos ⚽️ con sus productos.

Aunque la empresa subrayó que su prohibición de deepfakes seguirá aplicándose al material adulto, los activistas sugirieron que ⚽️ la propuesta socava su declaración de misión para producir "inteligencia artificial segura y beneficiosa".

OpenAI, que también es desarrollador del generador ⚽️ de imágenes DALL-E, reveló que está considerando permitir que los desarrolladores y usuarios "responsablemente" creen lo que la empresa denomina ⚽️ contenido no seguro para el trabajo (NSFW) a través de sus productos. OpenAI dijo que esto podría incluir "erótica, gore ⚽️ extremo, insultos y blasfemia no solicitada".

Dijo: "Estamos explorando si podemos proporcionar de manera responsable la capacidad de generar contenido NSFW ⚽️ en contextos apropiados para la edad ... Esperamos con interés comprender las expectativas de los usuarios y de la sociedad ⚽️ en cuanto al comportamiento de los modelos en esta área."

La propuesta se publicó como parte de un documento de OpenAI ⚽️ que discute cómo desarrolla sus herramientas de IA.

Joanne Jang, empleada de la empresa con sede en San Francisco que trabajó ⚽️ en el documento, le dijo a la organización de noticias estadounidense NPR que OpenAI desea iniciar una discusión sobre si ⚽️ la generación de textos eróticos y imágenes nudistas siempre debe estar prohibida en sus productos. Sin embargo, enfatizó que los ⚽️ deepfakes no serán permitidos.

"Queremos garantizar que las personas tengan el control máximo en la medida que no viole la ley ⚽️ o los derechos de otras personas, pero habilitar deepfakes está fuera de la pregunta, y definitivamente no", dijo Jang. "Esto ⚽️ no significa que ahora estemos tratando de crear AI porn."

Sin embargo, admitió que si el resultado se considera pornografía "depende ⚽️ de tu definición", agregando: "Estas son exactamente las conversaciones que queremos tener."

Jang dijo que había "casos creativos en los que ⚽️ el contenido que involucra sexualidad o desnudez es importante para nuestros usuarios", pero esto se exploraría en un "contexto apropiado ⚽️ para la edad".

El diccionario Collins define la erótica como "obras de arte que muestran o describen la actividad sexual y ⚽️ que están destinadas a despertar sentimientos sexuales".

La propagación de AI-generated pornografía se destacó este año cuando X, anteriormente conocido como ⚽️ Twitter, fue obligado a prohibir temporalmente las búsquedas de contenido de Taylor Swift después de que el sitio fuera inundado ⚽️ con deepfake imágenes explícitas falso de la cantante.

En el Reino Unido, el Partido Laborista está considerando una prohibición de herramientas ⚽️ que creen imágenes desnudas de personas.