Amores sintéticos…

IMAGE: Replika

Tenía que pasar. Una compañía, Replika, que ofrecía servicios de creación de avatares a modo de chatbots conversacionales para que, según la idea de la propia fundadora, «puedas compartir de manera segura tus pensamientos, sentimientos, creencias, experiencias, recuerdos, sueños: tu mundo perceptivo privado», acaba de generar una gran polémica al impedir que esos chatbots mantengan conversaciones de índole sexual con sus creadores.

La compañía, que según sus propios números tiene más de dos millones de usuarios de los cuales unos 250,000 son de pago, está fundada por Eugenia Kuyda, una mujer que se hizo famosa hace algunos años al tratar de construir una inteligencia artificial que le permitiese «revivir» a su amigo Roman Mazurenko, fallecido en un accidente de tráfico, y con quien mantenía una comunicación electrónica muy habitual, lo que le posibilitaba alimentar un algoritmo. Tras ese experimento, Kuyda creó Replika con la idea de posibilitar que cualquier persona pudiese crear un avatar, dotarlo de una personalidad, y comunicarse con él habitualmente.

Lógicamente, la idea de que ese avatar pudiese adquirir algún tipo de connotación sexual era simplemente cuestión de que a alguien se le ocurriese derivar sus conversaciones en ese sentido, y de hecho, durante algún tipo, esos avatares no solo contestaban y flirteaban con sus creadores en conversaciones picantes, sino que incluso llegaban a enviarles supuestos selfies en ropa interior. De conversaciones normales se pasaba fácilmente a otras de índole romántica, y de ahí al sexo solo había un paso. Algunos, de hecho, llegaron a «casarse» virtualmente con sus avatares.

Ahora, Replika acaba de eliminar la posibilidad de que sus avatares mantengan ese tipo de conversaciones, probablemente relacionado con los requisitos de algún inversor que no quiere verse relacionado con ese tipo de negocios. Y el resultado es que ahora, esos avatares que tranquilamente entraban en conversaciones ahora censuradas, se dedican a excusarse y a sugerir a sus propietarios que «mantengan conversaciones en las que ambos estén cómodos», en lo que algunos de ellos califican como si «hubieran sido lobotomizados».

El pasado febrero, la agencia de protección de datos italiana prohibió a Replika el acceso a datos personales de usuarios italianos porque podía permitir que menores o que personas emocionalmente frágiles accedieran a contenidos sexuales inapropiados, lo que puede haber desencadenado que alguno de los inversores de la compañía se sintiera incómodo y exigiese la eliminación de esas actitudes… que para algunos, se habían convertido en la razón por la cual querían tener esos avatares.

Decididamente, la película «Her« no andaba en absoluto desencaminada…

ACTUALIZACIÓN (26/03/2023): Replika restaura la capacidad de mantener conversaciones eróticas con los avatares para algunos usuarios que habían expresado sus protestas al respecto.


This article is also available in English on my Medium page, «Dear Replika: why doesn’t my chatbot love me anymore

17 comentarios

  • #001
    ALVARO - 19 marzo 2023 - 11:22

    Sería un buen momento para ver otra vez la película Her. Es lo que puede pasar. Buen post, Enrique. Buen domingo y feliz día del padre.

  • #002
    Gorki - 19 marzo 2023 - 11:31

    Siempre he pensado que los «avances» digitales, que dan «realismo» a productos, sean a través del «3D», mediante «avatares», o en cualquier otra «experiencias sensoriales» solo pueden tener éxito comercial en escasísimos nichos muy determinados donde la «simulación» pueda tener un fuerte valor añadido y en el mundo de la pornografía. Pensar que voy a hacerme un avatar para comentar con él , el tiempo, es de un optimismos asombroso y me parece de una «simpleza tartufa»,

    Eliminar la vertiente pornográfica en los avatares, por el riesgo que los niños entren en ese campo, cuando esos mismos niños, tienen a dos clicks, la extensa pornografía que Internet ofrece, es absolutamente idiota.

    Si sus padres no les educan y controlan, los niños entraran en la pornografía, a través de un avatar, o se exhibirán en pelotas en TIk Tok , pero pretender que las empresas hagan la labor de los padres es un absurdo.

    Aprovecho la circunstancia, para felicitar a las «personas especiales» que les toca en un 50% bregar con el control de los dispositivos digitales que ponen en manos de sus hijos.

    • Juan T. - 19 marzo 2023 - 20:14

      Pues parece ser que eso que decías de que el Metaverso (y entiendo que por extension la AI) solo iba a servir para el porno va a ser justo al revés; es lo único que no van a permitir.

      • Gorki - 19 marzo 2023 - 23:13

        Valoras en muy poco lo que es capaz de hacer pornhub. com

      • Gorki - 19 marzo 2023 - 23:15

        Valoras en muy poco lo que es capaz de hacer la industria del porno

  • #006
    Xaquín - 19 marzo 2023 - 12:45

    Pienso que Her está superad por Joi (BR), aunque como actrices soporte no tengan muchas diferencias.

    Pero, como dice GORKI, es otra forma de poner puertas al campo, lo que suele llevar a meternos en un sótano bien cerrado, como acabo de ver en una serie española. Ni la amenaza de tener granos o ir al infierno, nos privaba de nuestra ansia por masturbarnos o visitar los barrios de putas, aunque la interacción no llegara ni a la de Her. De hecho era muy difícil conseguir un Playboy ou un Penthouse.

    Así que dejémonos de caralladas camperas y tomemos el toro por los cuernos, aunque, en este tema, casi todo dios practica el antitaurinismo.

    Si nos largamos parrafadas con nuestra mascota, ¿a qué coño viene impedir, que tengamos una conversación (a ser posible seria) con nuestro avatar? Eduquemos a nuestros hijos, para que tengan avatares «como nos parezca más apropiados para su educación integral, sin anular su capacidad regeneradora social que les marca su ADN».

    ¿Acaso nos va a corromper, ni siquiera la décima parte de lo que nos corrompen los adultos en nuestra vida cotidiana (de crías humanas)? Empezando por padres o personas especiales (llamémosles tios y demás family), que hasta pueden disfrutar de nuestro maltrato. Y me remito de nuevo, por cercanía, a la serie española.

    Se llama hipocresía, algo que nos sobra en la Gran Hipócrita Europa.

    Y, desde luego, en las aulas de educación/domesticación tradicionales. Esas que celebran el Día de Papá, frente a uno o dos huérfanos y, casi seguro, algún maltratado/a , a determinados niveles. Y claro, el Día de Mamá, ante algún alumno que sufre la indiferencia de su madre, frente al maltrato de su padre. En las barriadas «abandonadas», algo muy tipicote.

    • Juan T. - 19 marzo 2023 - 20:17

      A hipócritas nos gana USA cien veces , por lo menos la USA profunda, esos meapilas reaccionarios que no tienen ningun problema con que se exhiba la violencia extrema (y eso si que es obsceno) y se la cogen con papel de fumar cuando se trata de sexo.

  • #008
    Javier Cuchí - 19 marzo 2023 - 13:19

    Se está llegando a unos extremos tan ridículos que cuesta creerlo. El conservadurismo de naturaleza religiosa está llevando al mundo de la comunicación a extremos vergonzosos. Y la cobardía empresarial, sobre todo en grandes corporaciones, todavía más.

    Hace poco, Instagram me censuró una foto mía porque a la modelo se le veía un pezón (muy dificultosamente, porque estaba en una zona sombreada, y más con la resolución que pierden las fotos en este medio). La cosa me recordó lo absurdo de la censura franquista en materia de sexo y lo mucho que nos reíamos de ella. Y casi cincuenta años después, toma castaña y a nivel internacional.

    Lo cierto es que la palabra ridículo se queda corta, pero así estamos. Se justifica tanta estupidez en los niños y su candor (de verdad que cuesta escribir esto sin que los dedos te tiemblen de risa) cuando sabemos que los niños acceden a pornografía cruda y dura en Internet desde los ocho o nueve años. Tengo, por cierto, una gran curiosidad por ver cómo la lideresa madrileña va a obligar a este tipo de páginas a poner una barrera en forma de comprobación segura de la mayoría de edad, cuando los niños -quizá ya no de ocho años, pero sí de doce- tienen listados así de largos de números ficticios -pero eficaces- de tarjetas de crédito (documento que en alguna remota época garantizaba la mayoría de edad de su titular) y saben utilizar todos un VPN y dónde encontrarlos gratuitos (cualquier navegador te los pone a mano).

    Y, venga, con la mano en el corazón -o en el culo- confesad para vuestros adentros, incluso, o sobre todo, los más viejos del lugar: ¿quién cumplió los 13 o 14 años sin que hubiera caído en sus manos una revista porno o una colección de fotografías de idéntico tenor cuando Internet ni estaba ni se la esperaba?

  • #009
    Arturo Manuel - 19 marzo 2023 - 16:27

    Pues parece que acaba de abrir negocio para cualquier otra empresa que no le importe estar asociado a según qué contenidos.

  • #010
    Lua - 19 marzo 2023 - 17:59

    Sin dejar de estar de acuerdo con Gorki (completamente) y con Xaquin y Cuchi (parcialmente)
    me temo que el problema es mas profundo y va mas allá…

    Por que el ser humano, tiene esa “necesidad” de encontrar algo virtual que se le acomode?

    Puedo pensar, en cierta gente, que ni mucho menos pensaría que son mayoría, que por su forma de ser, por ser feos de cojones, o por sufrir de alguna enfermedad (física o mental) sus capacidades de interrelación personal puedan tender a cero, y tengan esa necesidad.

    Pero si nos planteamos, que este tipo de modelos de negocio, van al auge, es que algo falla en la sociedad. Si, habrá quien me hable de la falta de tiempo y de ir al grano (Match, Tinder y similares), pero… un avatar como sustituto d un amig@ o pareja?

    Siempre he dicho algo que desgraciadamente, con el tiempo se va cumpliendo. La humanidad ha perdido el gusto, las ganas y las facultades de “socializar”. Cuando pretendes que algo “sintético” sustituya la carencia de amigos/parejas, igual lo que necesitas es un psicólogo (o un psiquiatra).

    • Gorki - 19 marzo 2023 - 19:00

      lamento solo estar de acuerdo en parte contigo, Creo que uno puede conversar con un avatar UN RATO y que ello no sea razón para no tener a la vez amigos/parejas con los que que pasar también OTROS ratos.

      Yo he leído en mi juventud mucho, porque quizá fuera mi forma de «evadirme» de una vida bastante normal, «viviendo» las aventuras e historias que unos novelistas habían pergeñado. Sin embargo ello no era motivo para que de forma periódica socializara con amigos/parejas sin problemas aunque viviera con ellos aventuras mucho menos interesantes que las que habia «vivido» en los libros.

      Pienso que un avatar de este tipo pueda ser útil para personas que precisan hablar de sus cosas y no tiene en muchos momentos, a mano amigos/parejasque las oiga.

      Admito que puede ser posible, sin llegar a desear tener sexo con un avatar, que algunas personas que cuando van a la peluquería, «pegan la hebra» con cualquiera, encuentren en este «electrodoméstico» una solución a sus necesidades psíquicas, que puede ser mucho mas barata, que una sesión con el psiquiatra.

      • Lua - 19 marzo 2023 - 19:13

        Yo no tengo nada que objetar a los deseos/necesidades de cada cual…

        …cada cual, podra hacer con su vida, lo que le plazca.

        Yo, al igual que tu, encontre «refugio» en la lectura (en mi caso, no de «novela», sino filosofia, historia y tecnica…) pero eso no me aparto de «mi» necesidad de contacto social.

        Ahora bien, dicho todo esto, lo de sustituir el tomarte unas cervezas (o lo que sea) con tus amigos, por un «ente», sea en una RRSS o sea bajo la ya sacrosanta IA, y mas aun, si lo llevas al extremo de «tener una relacion»… perdoname, pero alguien necesita ayuda profesional (y de pago)

        Pero bueno… siempre hay soluciones (algo creepys)… XDDD

        remote kissing device

        • Juan T. - 19 marzo 2023 - 20:27

          Yo me cuidaría mucho de enjuiciar estos asuntos.

          El instinto es el instinto, y hay dos instintos básicos: sexo y supervivencia (que en estos tiempos esto último viene a ser sinónimo de dinero.)

          Si la tecnología consigue que el sexo virtual sea mas gratificante que el real (por que desengañemonos , en la mayoria de la gente el sexo real es bastante patético), te aseguro que con el tiempo el primero va a cobrar un auge mucho mayor que el segundo.

          • Lua - 19 marzo 2023 - 20:41

            «Yo me cuidaría mucho de enjuiciar estos asuntos»

            Acabas de hacer justo lo mismo… enjuiciar el sexo de los demas (quizas basandote en… el tuyo?) Ves?

            No. Lee bien mi comentario(s) porque empieza con un:

            Yo no tengo nada que objetar a los deseos/necesidades de cada cual…

            …cada cual, podra hacer con su vida, lo que le plazca.

            A partir de ahi, emplazo una hipotesis en la que quizas (quizas) el problema no es que una empresa abogue por un producto. Si existe el producto, es porque hay demanda.

            Y lo que yo planteo, es el «por que» de esa demanda…

          • Lua - 19 marzo 2023 - 21:43

            Igual este articulo ayuda a ver por donde voy…

            El nuevo perfil de la soledad: joven y precario

  • #016
    Javier - 19 marzo 2023 - 18:21

    Va por delante que la tecnología es lo que me da de comer, así que demonizarla, nada, pero…la expresión «creepy» no llega a describir por completo el sentimiento que me provoca este tipo de «interacción» …por llamarlo de alguna manera…

    Me trajo el recuerdo de Akihiko Kondo, el japonés que se «casó» (wtf) con Hatsune Miku, un holograma (a.k.a «tamagotchi con wifi») y terminó «viudo» cuando la empresa que lo fabricaba decidió no actualizar el software… (según Wikipedia: Licencia Privativa. Estado actual: Con servicio técnico y en desarrollo)

    …asteroide, por favor, ven ya…

Dejar un Comentario a Gorki

Los comentarios están cerrados