Hombres compran fotos de mujeres desnudas sin notar que no son reales, sino generadas por IA
Miércoles 19 de Abril de 2023, 21:37
Los imágenes fueron difundidas en la red social Reddit. Descubierto el engaño, la plataforma decidió implementar un paso de verificación para sus miembros.Usuarios de la red social Reddit han estado comprando fotos de mujeres desnudas, sin darse cuenta ni siquiera sospechado que en realidad no eran mujeres reales sino producto de una inteligencia artificial.
Todo empezó hace algunos meses cuando comenzaron a circular en esa red social unas fotos de una "mujer" llamada Claudia. Y muchos usuarios explotaron por la belleza de la mujer.
La imagen acumuló miles de comentarios. Un usuario escribió: “Te ves muy bonita”, mientras otro agregó "carajo, sí que eres hermosa”. Y otros muchos más de ese estilo.
Claudia vendió fotos de sus desnudos en Reddit.
Y en poco tiempo fueron sumándose fotos de la misteriosa mujer, teniendo el mismo éxito que la primera foto. La belleza de la mujer tenía atrapados a todos.
Sin embargo, la mujer no era en absoluto real sino que se trata de un personaje ultrarrealista se creó con la herramienta de inteligencia artificial Stable Diffusion
Y sólo después de unos cuantos meses, algunos usuarios notaron el "engaño", aunque pocos los tomaron en serio. "Para aquellos que no lo saben, voy a matar su fantasía”, escribió un usuario.
“Literalmente es una creación de IA, si alguna vez has trabajado con modelos de imágenes de IA y has creado los tuyos, puedes detectarlo al 10000%. Lamento arruinar la sorpresa”, agregó.
Las imágenes creadas por IA.
Los creadores de la IA de Claudia afirman haber ganado alrededor de mil dólares vendiendo sus desnudos a usuarios de Reddit que parecen creer que es una persona real.
“Se podría decir que la idea de la cuenta es básicamente una prueba para ver si puedes engañar a las personas con imágenes de IA”, dijeron los creadores de Claudia a la revista Rolling Stone.
“Podrías compararlo con los vtubers, o youtubers virtuales. Ellos crean sus propios personajes y juegan como una persona completamente diferente. Honestamente, no pensamos que recibiría tanta atención”.
Los investigadores de IA dijeron que las fotos de Claudia tenían signos reveladores de haber sido generadas por IA, incluidos detalles de fondo extraños e imperfecciones que aparecían en diferentes posiciones.
El personaje de Claudia forma parte de una nueva tendencia facilitada por la reciente aparición de modelos de difusión de inteligencia artificial. Las últimas versiones han hecho posible crear representaciones fotorrealistas de personas, tanto ficticias como reales.
A diferencia de la pornografía deepfake que se basa en herramientas de IA para editar vídeos existentes, los modelos de difusión generan imágenes completamente nuevas a partir de miles de millones de imágenes que han procesado.
El sub-reddit r/amIhot, donde apareció por primera vez la imagen de Claudia, implementó desde entonces un paso de verificación para sus miembros, que requiere que los usuarios envíen un videoclip de 10 a 15 segundos como prueba de identidad. /Clarín
Más leídas hoy
Más leídas en la semana
.gif)
