OpenAI, la compañía detrás de ChatGPT, está 2️⃣ explorando si se debe permitir a los usuarios crear contenido de inteligencia artificial generado para pornografía y otros contenidos explícitos 2️⃣ con sus productos.
Aunque la empresa subrayó que su prohibición de deepfakes seguirá aplicándose al material adulto, los activistas sugirieron que 2️⃣ la propuesta socava su declaración de misión para producir "inteligencia artificial segura y beneficiosa".
OpenAI, que también es desarrollador del generador 2️⃣ de imágenes DALL-E, reveló que está considerando permitir que los desarrolladores y usuarios "responsablemente" creen lo que la empresa denomina 2️⃣ contenido no seguro para el trabajo (NSFW) a través de sus productos. OpenAI dijo que esto podría incluir "erótica, gore 2️⃣ extremo, insultos y blasfemia no solicitada".
Dijo: "Estamos explorando si podemos proporcionar de manera responsable la capacidad de generar contenido NSFW 2️⃣ en contextos apropiados para la edad ... Esperamos con interés comprender las expectativas de los usuarios y de la sociedad 2️⃣ en cuanto al comportamiento de los modelos en esta área."
La propuesta se publicó como parte de un documento de OpenAI 2️⃣ que discute cómo desarrolla sus herramientas de IA.
Joanne Jang, empleada de la empresa con sede en San Francisco que trabajó 2️⃣ en el documento, le dijo a la organización de noticias estadounidense NPR que OpenAI desea iniciar una discusión sobre si 2️⃣ la generación de textos eróticos y imágenes nudistas siempre debe estar prohibida en sus productos. Sin embargo, enfatizó que los 2️⃣ deepfakes no serán permitidos.
"Queremos garantizar que las personas tengan el control máximo en la medida que no viole la ley 2️⃣ o los derechos de otras personas, pero habilitar deepfakes está fuera de la pregunta, y definitivamente no", dijo Jang. "Esto 2️⃣ no significa que ahora estemos tratando de crear AI porn."
Sin embargo, admitió que si el resultado se considera pornografía "depende 2️⃣ de tu definición", agregando: "Estas son exactamente las conversaciones que queremos tener."
Jang dijo que había "casos creativos en los que 2️⃣ el contenido que involucra sexualidad o desnudez es importante para nuestros usuarios", pero esto se exploraría en un "contexto apropiado 2️⃣ para la edad".
El diccionario Collins define la erótica como "obras de arte que muestran o describen la actividad sexual y 2️⃣ que están destinadas a despertar sentimientos sexuales".
La propagación de AI-generated pornografía se destacó este año cuando X, anteriormente conocido como 2️⃣ Twitter, fue obligado a prohibir temporalmente las búsquedas de contenido de Taylor Swift después de que el sitio fuera inundado 2️⃣ con deepfake imágenes explícitas falso de la cantante.
En el Reino Unido, el Partido Laborista está considerando una prohibición de herramientas 2️⃣ que creen imágenes desnudas de personas.
