#IA, creatividad y sesgos. Los casos de DALL-E (OpenAI) e Imag | DHyTecno
#IA, creatividad y sesgos. Los casos de DALL-E (OpenAI) e Imagen (Google)
Probablemente la mayoría de ustedes haya leído sobre el sistema DALL-E para crear imágenes basadas en texto (al final del mensaje tienen un link para probarlo. Funciona mejor con texto en inglés).
Unos días después del anuncio de OpenAI sobre DALL-E 2, Google Brain reveló su propia IA de creación de imágenes, denominada Imagen que funciona incluso mejor que DALL-E 2.
En esta nota de MIT Technology Review cuentan un poco cómo se seleccionan las imágenes que llegan a los resultados para filtrar imágenes cargadas de violencia, racismo, sexismo, odio...
"La mayoría de las imágenes que OpenAI y Google hacen públicas son cuidadosamente seleccionadas. Las imágenes bonitas que coinciden con sus indicaciones con una precisión asombrosa que llegan al público, son de esperar. Pero no se ven imágenes con estereotipos de odio, racismo o misoginia. No hay imágenes violentas o sexistas. No hay porno panda. Y por lo que sabemos sobre cómo se construyen estas herramientas, debería haberlas."
"Si se busca al final de la página en el sitio web de Imagen, en la sección sobre el impacto social, se puede leer esto: 'Aunque se ha filtrado un subconjunto de nuestros datos de entrenamiento para eliminar ruido y contenido indeseable, como imágenes pornográficas y lenguaje tóxico, también utilizamos el conjunto de datos LAION-400M que se sabe que contiene una amplia variedad de contenido inapropiado, incluidas imágenes pornográficas, insultos racistas y estereotipos sociales dañinos. Imagen se basa en codificadores de texto entrenados en datos a escala web no filtrados y, por lo tanto, hereda sesgos sociales y limitaciones de los grandes modelos de lenguaje. Como tal, existe el riesgo de que Imagen haya codificado estereotipos y representaciones dañinas, lo que explica nuestra decisión de no lanzar Imagen para uso público sin más salvaguardas'".
Para "jugar" con DALL-E: https://huggingface.co/spaces/dalle-mini/dalle-mini
Sobre DALL-E 2: https://openai.com/dall-e-2/
