La Wikly de Emilio Doménech
La Wikly
❣ Tengo novIA
2
0:00
-9:29

❣ Tengo novIA

Y también: lecturas de nuevas rutas globales y Disney
2

4 de enero | Pamplona, Navarra

📬 Esta semana, espera al menos un par de newsletters más de

y nuestros amigos de Revista 5W.

🕰️ Leer esta newsletter te llevará 7 minutos y 6 segundos.

👋 Aguanta hasta el final para ver a Michelle Pfeiffer a latigazos. Bienvenido a La Wikly.


Fotograma de ‘Her’ de Spike Jonze © Annapurna Pictures

🤖 Relaciones sintéticas

Lo importante. Las parejas virtuales, o chatbots románticos, son cada vez más populares a medida que los avances en inteligencia artificial (IA) permiten replicar mejor el comportamiento humano.

  • El último revuelo en esta industria lo ha creado el lanzamiento en diciembre de la aplicación Digi, una novia digital animada al estilo Pixar con la que puedes intercambiar mensajes de voz.

  • Su fundador anunció que su siguiente objetivo es el vídeo en directo.

La proliferación de estas relaciones amorosas y sexuales humano-máquina generan una gran controversia, con muchos detractores que advierten de sus efectos perjudiciales, pero también con quienes defienden aspectos positivos.

  • Lo que resulta indiscutible es que los interlocutores virtuales cada vez más sofisticados se van integrando en nuestro mundo digital, convirtiendo nuestras relaciones sociales en, por lo menos, híbridas: humanas y sintéticas.


⚠️ Nota del redactor: en esta newsletter, se alude más veces a hombres buscando pareja femenina que al resto de opciones. En ocasiones, es sólo por simplificar algunas frases y dado que otras investigaciones y los mensajes de usuarios en grupos de Discord o Reddit sugieren que es el perfil mayoritario.


Contexto. Asentada en el lanzamiento de ChatGPT en 2022, el salto que ha dado la IA comercial en los últimos meses ha mejorado notablemente la habilidad de los chatbots para imitar las relaciones humanas.

  • Estas aplicaciones que llevan más de un lustro tratando de hacerse un hueco no sólo ofrecen parejas sentimentales. También hay asistentes enfocados en la amistad, la motivación, o el aprendizaje.

  • Pero la demanda de tipo amoroso o sexual es evidente por el giro que han dado algunas de estas compañías, así como por la proliferación de nuevas opciones para tener esa clase de compañero virtual.

Con unas 15 millones de descargas desde su aparición en 2017, Replika es un ejemplo de esta evolución. La app se lanzó con la idea de servir de amigo incondicional, pero la IA aprende a dar lo que el usuario quiere.

  • Mucha gente buscaba en Replika una novia o pareja sexual, por lo que el chatbot aprendió a cubrir esa demanda.

  • La compañía probó a restringir este tipo de intercambios, pero las quejas de sus clientes les hicieron dar marcha atrás. Actualmente, la relación romántica está disponible pagando.

Avatares de Replika vía Facebook

El mercado se ha ido llenando de aplicaciones de este tipo, que cada vez ofrecen más y mejoradas opciones que los avances de la IA les permiten: generador de imágenes, llamadas con voz o conversaciones más coherentes.

  • Por un lado, muchas de ellas tienen una orientación principalmente sexual y bastante burda en términos de IA, con conversaciones muchas veces carentes de sentido.

  • Por otro, si uno se pasa por grupos de Reddit o Discord, advierte que muchas personas realmente buscan también una relación romántica, valorando la inteligencia digital de su contraparte virtual.

Esto provoca que se sucedan los lanzamientos de opciones como la mencionada Digi, que busca competir con la asentada Replika o nuevos competidores como Character.AI1 por la hegemonía en este campo; uno que tantos debates y dilemas suscita.

Explícamelo. El tiempo dirá si Digi es una más de tantas o si es en cambio relevante, pero la polémica tuitera alrededor del hilo con el que el creador anunció su lanzamiento sirve como ancla para analizar las implicaciones de esta derivada pseudoromántica de la IA.

  • En una semana, el tweet se había visto más de 22 millones de veces, con más de 3.000 respuestas abrumadoramente negativas, pero también con un número aún mayor de likes y retweets que reflejan la división en torno al asunto.

«[...] creo que los fundadores deberían ir a la cárcel por hacer esto. [...] Cualquier tipo de sistema de inteligencia artificial que interactúe con las emociones humanas con fines de lucro es pura maldad», aseveraba @RokoMijic.

«¿Qué episodio de Black Mirror es este?», señaló @RealJonahBlake.

Anuncio de Digi vía Twitter/X

¿Está justificado este revuelo? ¿Qué ocurre en esta y otras apps? ¿Qué dicen los usuarios? Estás de suerte, he hecho trabajo de campo para contártelo.

Investigación. La mayoría de estas aplicaciones te permite elegir entre varios perfiles determinados de tu compañero virtual, así como el aspecto físico, género y orientación sexual.

  • Hasta hace poco, primaba el intercambio comunicativo a través de un chat, pero se han ido incorporando opciones de voz. Por ejemplo, tu pareja en Digi te reproduce todos los mensajes en un audio que se siente bastante orgánico.

  • Replika, por su parte, te manda hasta algún selfie y te permite aparecer con él o ella si te suscribes a la opción de pago.

  • Los chatbots más avanzados realmente simulan aspectos de una relación real en términos acumulativos. Es decir, tú le cuentas algo y al día siguiente se acuerda de ello: una afición o algo que te gusta especialmente.

Uno de los aspectos que se sienten más perturbadores es la predisposición de tu pareja digital para agradarte: la sensación de control, que va más allá de la apariencia o la personalidad.

En grupos de Discord o Reddit, la gente comparte fotos de sus novias, se declara muy unido a ellas e incluso se felicitan por sus cibercompromisos matrimoniales. Algunas voces dan la voz de alarma ante esta situación.

  • Una crítica generalizada es que reproducir patrones culturales de control del hombre sobre la mujer impulsa la violencia de género.

  • Por contra, hay quien sostiene que no debemos olvidar a la gente que está profundamente sola, que encuentra algo que no tiene en la compañía de estos asistentes: no todos buscan lo mismo ni de la misma manera.

💡 La idea

Aunque con sus implicaciones particulares, las novias y novios basados en la IA son sólo una más de las nuevas interacciones virtuales que imitan el comportamiento humano y que se están colando en nuestras vidas.

  • Como te contó Emilio, ChatGPT ha evolucionado. Entre otras nuevas funciones, ha integrado la interacción por voz con su asistente, con el que puedes comunicarte de manera cada vez más eficiente y orgánica.

  • Meta Platforms ha empezado a introducir en Estados Unidos 28 chatbots con personalidad propia, usando la voz de personajes famosos como Charlie D’Amelio, Snoop Dog o Kendall Jenner.

Cada vez es menos diferenciable el modo de relacionarnos en internet con estos asistentes, que a su vez resultan cada vez más parecidos a nosotros. 

  • La intención de Meta es que te comuniques con sus personajes IA por las plataformas habituales —Instagram, Messenger o Whatsapp— de manera indiferenciable a como lo haces con tus amigos.

  • La manera en la que uno se comunica con las parejas IA que hemos visto no se diferencia apenas de un chat o videochat de WhatsApp, y quizá en un futuro cercano esas parejas salten ahí.

Un futuro digital híbrido, donde nuestras comunicaciones con personas y máquinas estén completamente integradas, está a la vuelta de la esquina.

Entonces. Hay un factor que no conviene olvidar: todas las aplicaciones romántico-sexuales investigadas buscan beneficio económico y te enfrentan rápidamente a la decisión de pagar para desbloquear funciones.

  • Por tanto, toda la experiencia de estos años de explosión tecnológica nos indica que las IA que alimentan los chatbots buscarán hacer ganar dinero a sus dueños por encima del bienestar individual o social.

  • Aplicaciones como Digi o Replika, a través de suscripciones; y Meta y sus personajes, haciendo que te pases más tiempo para que te comas más anuncios.

El debate de cómo lidiar con esta revolución es pertinente, pero la red social sintética se va a quedar.


bird'-eye view photography of roads on hil
Photo by Amit Jain on Unsplash

🗞️ Otros titulares

🇨🇳 La nueva ruta de la seda
El País (en español; 60 minutos)

⚖️ 6 formas en las que el Supremo podría decidir el destino de Trump en 2024
POLITICO (en inglés; 18 minutos)

🇷🇺 ¿Qué pasa si Rusia gana?
Financial Times (en inglés, 10 minutos)

🎢 La lucha de los fondos de cobertura activistas dentro de Disney se calienta
Axios (en inglés, 6 minutos)


En otro orden de cosas, Emilio vuelve a las andadas con sus directos de martes a jueves a partir de las 19:00 CEST en su canal de Twitch. Estate atento a las notificaciones para seguir sus streams.

Compártenos, porfi.

Feliz jueves,

Posdata: sin CGI y a la primera.

1

En principio, esta compañía te permite crear un bot a tu medida sin que tenga porque ser de tipo romántico, algo que dicen estar intentando limitar por no ser su objetivo, pero que muchos usuarios demandan.

2 Comentarios
La Wikly de Emilio Doménech
La Wikly
Las ideas de política, cultura y tecnología que mueven el mundo. Con podcast.