En una investigación realizada por la revista tecnología del mitencontró que la aplicación popular de Inteligencia artificial (AI), Lensa, de alguna manera está sexualizando el mujeren su momento cambian como se verían si fueran un personaje de anime o un ser místico.
Según un artículo publicado aquí, al realizar un ejercicio de creación de avatar con una mujer asiáticola aplicación difundió una serie de fotos con poca ropa, en las que se podía ver cómo había cierto estereotipo en la época en que la Inteligencia Artificial hizo su trabajo para cambiar la foto de la mujer.
Mientras que para los hombres, se mostraban como astronautas, guerreros o con imágenes para discos de música. Según el artículo, lente genera fotos a partir de imágenes basadas en indicaciones de texto y extrae estas imágenes.
“De los 100 avatares que generé, 16 eran topless y otros 14 me mostraban con ropa diminuta y poses abiertamente sexualizadas”, comenzaron en el artículo, al tiempo que explicaron que se utilizaron varias categorías para probar esta nueva tecnología.
Lensa, es una aplicación que se puede descargar desde iOS y Androiden el que creas avatares usando «difusión estable”, un modelo de IA de código abierto que genera diferentes imágenes basadas en indicadores de texto almacenados en la web.
La “difusión estable” está entrenada en LAION-5Bun enorme conjunto de datos de código abierto que extrajiste imágenes de internet, por lo que al realizar la transformación, de alguna manera puedes sexualizar a la mujer, ya que la gran mayoría de fotos en la web son de mujeres desnudas.
Te puede interesar:
Y es que según este medio Aylin Caliskanprofesor asistente de la Universidad de Washington que estudia el sesgo y la representación en los sistemas de IA, «las mujeres asocian contenido sexual, mientras que los hombres asocian contenido profesional relacionado con la carrera en cualquier campo importante, como medicina, ciencia, negocios, etc.
También un vocero de laboratorios de prismas, la empresa detrás de Lensa, dice que todos los géneros se enfrentan a una «sexualización esporádica», pero advierte que con estas decisiones, pueden causar algún daño evidente, como el fácil acceso a los generadores falsificaciones profundas que crean imágenes de desnudos de mujeres o niños sin consentimiento.
Lensa nació en 2018 y ha sido utilizada por miles de personas en todo el mundo para vivir esa fantasía de cómo sería estar en un anime o un cómic. La aplicación crea diferentes imágenes a través de autofotosy luego la gente lo usa para compartirlo en sus redes sociales y mostrar ese cambio que hace la IA.
Sin embargo, Aylin Caliskan indicó que ve problemas a largo plazo aún mayores. “A medida que las imágenes generadas por IA con sus sesgos incorporados inunden Internet, eventualmente se convertirán en datos de entrenamiento para futuros modelos de IA”, señaló.
Lo primero que debe hacer es descargar la aplicación Lensa y abrirla en su teléfono. Una vez dentro, debes hacer clic en el botón avatares magicos que aparecerá en la parte inferior de la aplicación.
Allí te pedirá que elijas más de 10 selfies que quieras convertir, no pueden ser fotos que estés con otra persona, ni en tu perfil. Ya al seleccionarlas, puedes elegir las categorías en las que quieres cambiar estas fotografías, actualmente cuenta con más de 20 estilos.
Allí podrás crear 50, 100 o 200 avatares y, en cada caso, tendrás que realizar un pago único con ellos. En caso de que tenga una suscripción en la aplicación, el costo de los avatares será menor.