¿AL PORNO O NO AL PORNO? Las principales empresas de IA generativa son estrictas en el uso de filtros y barreras de seguridad para evitar que los usuarios generen pornografía y otros contenidos explícitos, pero OpenAI, el desarrollador de ChatGPT y DALL-E, está considerando permitir esta práctica. Sin embargo, habrá algunas restricciones, incluida la prohibición de la creación de deepfakes.
OpenAI lanzado recientemente Especificaciones del modelo El documento revela que la alguna vez dura postura de la compañía contra la generación de pornografía y otro material NSFW pronto podría suavizarse.
“Estamos explorando si podemos brindar de manera responsable la capacidad de generar contenido NSFW en contextos apropiados para la edad a través de API y ChatGPT”, escribe OpenAI. “Esperamos comprender mejor las expectativas de los usuarios y de la sociedad sobre el comportamiento del modelo en esta área”.
La compañía dice que el tipo de contenido que los usuarios podrían crear “responsablemente” incluye erotismo, sangre extrema, insultos y malas palabras no solicitadas. Actualmente, las reglas de OpenAI prohíben cualquier contenido sexualmente explícito o sugerente.
La líder del modelo OpenAI, Joanne Jang, que trabajó en el documento de especificaciones del modelo, enfatizó – que los usuarios aún no podrán crear nada potencialmente ilegal, y que los deepfakes como las imágenes de Taylor Swift que se difunden en X definitivamente no estarán permitidos: Microsoft realizó cambios en su herramienta de conversión de texto a imagen Designer después de falsificaciones explícitas de El cantante apareció en Internet.
“Queremos asegurarnos de que la gente tenga el máximo control en la medida en que no viole la ley ni los derechos de otras personas, pero permitir los deepfakes está fuera de discusión, punto”, dijo Jang. “Esto no significa que estemos intentando crear porno con IA”.
Jang añadió que OpenAI quería iniciar una conversación sobre si los textos eróticos y las imágenes de desnudos deberían prohibirse siempre en sus productos de IA.
Cuando se le preguntó si los usuarios de OpenAI algún día podrían crear imágenes consideradas porno generadas por IA, Jang dijo: “Depende de su definición de pornografía. Siempre y cuando no incluya deepfakes. Estas son las conversaciones exactas que queremos tener”.
Hemos visto muchos ejemplos de personas que eluden los filtros de seguridad y las limitaciones impuestas a los servicios de IA generativa, incluido el reciente ataques adversarios. El temor es que al debilitar los filtros de sus productos, OpenAI facilite aún más la creación de deepfakes y material ilegal.
Los críticos dicen que el hecho de que OpenAI esté siquiera considerando seguir este camino es una burla de su declaración de misión de producir IA segura y beneficiosa. Renee DiResta, directora de investigación del Observatorio de Internet de Stanford, presentó un punto de vista alternativo y le dijo a – que OpenAI que ofrece pornografía legal es una mejor alternativa que las personas que utilizan modelos de código abierto incompletos que podrían crear contenido ilegal.
2024-05-10 12:20:00
#OpenAI #considera #permitir #los #usuarios #crear #pornografía #generada #por,