Leí un artículo en Mashable la semana pasada que me enfadó tanto que tuve que quedarme un buen rato en silencio, ardiendo por dentro, antes de poder escribir sobre ello de una manera que me pareciera responsable y adecuada. A veces, simplemente estoy muy cansada. Absolutamente agotada, hasta los huesos, del mundo en el que vivimos hoy y de los usos que algunas personas le están dando a la IA.

¿Has oído hablar de Secret Desires? Es una web donde adultos mantienen conversaciones “picantes” con acompañantes de IA. Funciona desde el navegador, como Character.ai, solo que es únicamente para adultos. Pero bueno, son adultos, ¿verdad? Si quieren tener una conversación subir de tono con una IA, pueden hacer lo que quieran, ¿no?

Ese fue el razonamiento que utilizó Sam Altman cuando anunció que ChatGPT introduciría conversaciones picantes con verificación de edad este diciembre.

  • Los adultos deben ser tratados como adultos, ¿verdad?
  • Hay que dejar que los adultos hagan lo que quieran, ¿verdad?

Si entras en la web de Secret Desires, tienen una lista de acompañantes entre los que elegir. Puedes explorar hombres, mujeres o ambos. Los acompañantes van desde versiones realistas hasta anime, todos de dieciocho años en adelante. Si no ves una novia o un novio cuyo aspecto te guste, no pasa nada: puedes crear el tuyo propio.

Vi “crea el tuyo propio” y pensé en el proceso de creación de un avatar. Elige el color del pelo, elige el color de los ojos. A veces me sorprende darme cuenta de lo ingenua que todavía puedo ser. Es como si, por mucho que aprenda, siguiera siendo capaz de quedarme impactada por la forma en que algunos seres humanos tratan a otros.

La realidad detrás de la pantalla

Secret Desires sufrió una filtración de datos que dejó expuestos casi dos millones de imágenes y vídeos. Al parecer, habían dejado sus contenedores de almacenamiento en la nube vulnerables y abiertos al público. Lo descubrió 404 Media.

Al revisar casi dos millones de imágenes y vídeos, los periodistas aprendieron mucho sobre cómo los usuarios estaban utilizando realmente la web. ¿Sabes qué encontraron? Muchísimas víctimas que no sospechaban nada.

Secret Desires se lanzó a principios de 2024 y lleva casi dos años funcionando. Hasta hace poco, tenían una función llamada intercambio de rostro. Sí, significa exactamente lo que estás pensando. Los usuarios podían tomar una foto de cualquier mujer e “intercambiarla” para convertirla en el rostro de su acompañante de IA. Su acompañante adulta.

Los acompañantes de Secret Desires pueden chatear, enviar mensajes de texto, vídeos y mensajes de voz, e incluso hablar por teléfono.

Al revisar los archivos, 404 Media encontró imágenes sexuales de todo tipo de mujeres: desde celebridades y artistas famosas hasta mujeres que no son figuras públicas de ninguna manera y que apenas tienen presencia digital. Veían una foto inocente, como un selfi o una foto de redes sociales. ¿Andrés y después? La IA generaba fotos y vídeos explícitos a partir de esa imagen.

La gente podía subir las fotos que quisiera. Piénsalo un momento, ¿vale?

Encontraron una foto de una representante estatal dando un discurso en público, fotos de mujeres tomadas hace años con teléfonos plegables antiguos y BlackBerrys, capturas de Snapchat y más. Simplemente fotos aleatorias de mujeres. Una de las fotos era de una joven posando con orgullo con su título universitario. Algunos nombres de archivo incluían el nombre y apellido completos de las mujeres.

Una mujer sin presencia digital tuvo su foto del anuario del instituto convertida en pornografía. Algunos archivos parecían ser de personas “muy jóvenes” y tenían nombres de archivo que incluían términos como “17 años”.

Solo hay una razón por la que todas esas fotos estaban en la carpeta de “intercambio de rostro”. Los usuarios de Secret Desires las subieron para crear imágenes y vídeos explícitos. Usaron esas fotos como modelo para sus “acompañantes adultas”.

La epidemia del "desnudo" digital

Usar fotos de mujeres y niñas sin su consentimiento no es algo nuevo. Existen aplicaciones para desnudar o quitar la ropa que permiten a los usuarios subir una foto y la herramienta “desviste” a la persona. Las imágenes que generan son sorprendentemente precisas.

La IA generativa fue entrenada prácticamente con todo lo que existe en internet, incluyendo millones, quizá miles de millones, de imágenes explícitas e ilícitas. Así que la IA puede mirar una foto de una mujer completamente vestida y hacerse una idea bastante aproximada de cómo se vería bajo la ropa.

El Institute for Strategic Dialogue (ISD) encontró treinta y un programas distintos para desnudar personas activos en internet. Ni siquiera hace falta entrar en la dark web para encontrarlos. Esas treinta y una webs recibieron, en conjunto, veintiún millones de visitas al mes, con hasta cuatro millones de visitas en un solo mes.

Están ganando miles de millones. La mayor parte de su tráfico proviene de Twitter, pero también se pueden encontrar en Google y Bing.

Las webs de “nudify” promocionan esto como algo “divertido”. Diviértete, mira cómo se vería alguien desnudo. Estudiantes las usan para desnudar a sus compañeras de clase, y un psiquiatra infantil fue encarcelado por crear imágenes y vídeos de pacientes menores.

El Institute for Strategic Dialogue (ISD) tiene varios nombres para la práctica de desnudar a mujeres y niñas sin consentimiento. Además de “deepfake”, lo llaman:

  • NCSII: Difusión no consentida de imágenes íntimas.
  • IBSA: Abuso sexual basado en imágenes.
  • NCIIMM: Imágenes íntimas no consentidas y material manipulado.
  • TFGBV: Violencia de género facilitada por la tecnología.

¿Ese último término? Eso es exactamente lo que es. Violencia de género basada en tecnología. ¿Hace falta que diga que el noventa y nueve por ciento de las personas que aparecen en fotos y vídeos deepfake son mujeres y niñas?

Las "novias de IA" y el control absoluto

Las imágenes y los vídeos ya son suficientemente graves. La idea de que cualquier hombre al azar pueda tomar una foto de una mujer y crear imágenes y vídeos que parezcan realistas es aterradora y provoca un trauma profundo en las víctimas.

Pero ¿las novias de IA? Eso lo lleva a un nivel completamente distinto. Porque ahora es interactivo. Ella hace lo que tú le dices que haga. Y nunca dice que no.

Secret Desires publica anuncios en YouTube en los que promociona la posibilidad de crear versiones sexualizadas de personas reales.

“Las chicas de IA nunca dicen que no”, dice una novia de IA en un vídeo corto de YouTube. “Puedo parecerme a tu celebridad favorita, a esa chica del gimnasio, a tu personaje de anime soñado o a cualquiera con quien fantasees”.

Hará cualquier cosa que le pidas. Incluso hará un vídeo si se lo pides.

No sé cómo procesar eso sin romper a llorar. La idea de que cualquier hombre pueda crear una cuenta y, por 19,99 dólares al mes, cualquier mujer haga todo lo que él le pida y cree vídeos para él. Y puede estar basada en una mujer real. Puede chatear, puede enviar mensajes, puede enviar fotos y vídeos haciendo cualquier cosa que él le pida. Incluso puede llamarlo por teléfono.

Todo lo que necesitan es una foto. Y si él tiene un fragmento de su voz, también hablará con su voz.

Secret Desires tiene un modo de clonación de voz, en el que los usuarios pueden subir un archivo de audio, y la herramienta clona esa voz para usarla en su novia de IA. Hacer cualquier cosa que le pidas y crear vídeos subidos de tono para ti si los quieres. Llamarte, susurrarte al teléfono.

Me gustaría que al menos un hombre me explicara cómo eso puede estar bien.

En la investigación de 404 Media, enlazaron a un hilo de Reddit donde los usuarios se quejaban de que la función de intercambio de rostro había desaparecido.

Un usuario dijo que había subido una foto de su esposa y que los vídeos eran geniales. Me quedé horrorizada, preguntándome si su esposa sabía que había hecho eso. Si ella lo sabía, entonces bueno, eso queda entre ellos. Pero ¿tuvo ella alguna posibilidad de opinar al respecto?

Otro usuario preguntó qué otros programas tenían intercambio de rostro. Alguien enumeró otros ocho sitios. Ocho. Un tercer usuario escribió para decir: “Gente, este hilo aparece en una noticia, así es como lo encontré”. Debajo había una serie de comentarios eliminados. Eliminado, eliminado, eliminado.

La gente no elimina comentarios si cree que lo que está haciendo está bien.

Según un grupo de Discord para usuarios de Secret Desires, el “intercambio de rostro” seguía siendo una función de pago a fecha del 3 de noviembre, pero a fecha del 11 de noviembre ya no aparecía como una función de pago. Sin embargo, siguen promocionando la clonación de voz y la posibilidad de “crear tu propia” novia para conversaciones picantes.

El Institute for Strategic Dialogue (ISD) dice que a menudo estas webs desaparecen después de la cobertura mediática, pero simplemente vuelven a aparecer con otro nombre.

ONU Mujeres dice que este tipo de abuso digital puede trasladarse a la vida real y escalar hasta convertirse en acoso o violencia física. Dicen que detenerlo es urgente. Lo que no dicen es cómo. Salvo mediante regulación, no conozco ninguna forma de detenerlo.

Después de encontrar las imágenes accesibles públicamente y revisarlas, 404 Media contactó con Secret Desires para solicitar un comentario. Una hora después, la filtración fue corregida y los archivos dejaron de estar accesibles públicamente.

Ni siquiera se molestaron en responder.

Gracias por leer Código en Casa.
Si esto te a ayudado y te sumo algo Dale un 👏 , compártelo con tu red o dejame un comentario para saber tu opinión.