Cuanto más voy viendo los desarrollos de Meta en el ámbito de la inteligencia artificial y, en particular, en la algoritmia generativa, más me convenzo de que tenemos un serio problema.
Hablamos de la que ha sido probablemente la compañía más irresponsable de la historia reciente de la tecnología, con escándalos en su haber que van desde la manipulación electoral en múltiples países hasta el genocidio. Que además, tras fracasar miserablemente en su intento de apropiarse del término «metaverso» con un intento de vendernos una plataforma cerrada y propietaria sobre la cual muy pocas compañías se plantearon desarrollar nada, cree haber aprendido la lección y pretende convencernos de un supuesto compromiso con el open source y el desarrollo abierto lanzando LLaMA, un algoritmo generativo que, por mucho que pretenda la compañía, ni es open source ni se le parece.
Y ahora, en su reciente presentación en su evento Meta Connect, empezamos a ver que los desarrollos a los que parece apuntar tienen cada vez más que ver con la creación de personajes generativos que adoptan una personalidad con unos rasgos determinados, mucho más ambiciosos que lo que conocimos en nuestras interacciones con asistentes como Siri, Alexa y similares, que pueden adoptar la imagen y personalidad de famosos como Charli D’Amelio, Dwyane Wade, Kendall Jenner, MrBeast, Snoop Dogg, Tom Brady, o Paris Hilton tras llegar a acuerdos económicos con ellos, y que pueden comportarse como «amigos» del usuario.
¿De qué estamos hablando? Básicamente, de la red social sintética. Un desarrollo que no es nuevo, todos probablemente hemos tenido alguna vez «amigos virtuales» en algún servicio online además de, seguramente, muchos más «amigos imaginarios» en forma de perfiles creados en alguna fábrica de bots en un país con bajos costes laborales unitarios, pero que ahora, con la llegada de algoritmos generativos capaces de llevar estas personalidades a extremos razonablemente creíbles, puede, en manos de una compañía sin ningún atisbo de ética como Meta, convertirse en un problema.
¿Quién desengancha de la red a un fan de una personalidad concreta que se encuentra, ahora, con una atención completamente personalizada, que le contesta 24×7, y que además le vende cosas? Estos modelos pueden evolucionar para convertirse en compañeros con rasgos de personalidad, que podrían brindar apoyo emocional, entrenamiento, tutoría o terapia a los usuarios, algo especialmente valioso para personas solitarias o aisladas. Pero de repente, la idea de una personalidad sintética que pueda proporcionar compañía a quienes están solos o necesitan asistencia en algún tema se convierte, en manos de Meta, en la perfecta herramienta para colocar a sus anunciantes, con embajadores de marca sintéticos armados con un excelente poder de convicción.
A poco que desarrollemos la idea, nos encontraremos con personajes capaces ya no solo de vendernos algo, sino también de compartir nuestros miedos o, por qué no, de convencernos para votar a un partido o a otro. Y con la posibilidad, incluso, de no revelar qué personalidades son sintéticas y cuáles reales, con el fin de poder simular e impostar movimientos sociales determinados, crear estados de opinión, etc. Nada, recordemos, que esta compañía no haya hecho antes.
¿Ciencia-ficción? ¿Paranoias de hater? Tecnológicamente, las herramientas ya están ahí, y en manos de una compañía que nunca ha tenido el más mínimo escrúpulo para desarrollar herramientas similares y venderlas al mejor postor. La misma compañía que hace años ensayaba maneras de influenciar el estado de ánimo de sus usuarios mediante el filtrado selectivo de sus timelines.
Una herramienta capaz de crear personalidades sintéticas creíbles y de ponerlos a interactuar a través de redes sociales puede ser interesante, e incluso potencialmente inevitable. Podría tener muchas posibles aplicaciones, muchas de ellas interesantes y positivas, y muchas otras cuestionables que, seguramente y en función de su potencial, deberíamos pensar en regular. Pero si de algo estoy seguro es de que ese tipo de herramienta, en manos de una compañía que ha dado ya tantísimas pruebas de ser lo que es, puede convertirse en un verdadero problema. Y estoy desgraciadamente seguro de que tendré unas cuantas oportunidades de volver a vincular este artículo más adelante.
This article is also available in English on my Medium page, «Too much power in the wrong hands«
Se nota que eres un fan de Meta, jajaja.
Da lo mismo que empresa sea, demasiado poder en una sola mano, es muyyyyyyyyy peligroso, sean las manos que sean.
Se trata de regular lo potencialmente negativo de esta tecnología pero veo que al metaverso le va a salvar la simbiosis de la realidad virtual con las IAs generativas, que es lo que le va a hacer interesante de verdad, desde lo que propone Meta, que puedas ver un personaje fotorealista al otro lado, como la creacion de escenarios virtuales generados por IA, la interacción hablada con los personajes en tiempo real (al final la pelicula «Her» se quedará corta).
Vamos que el autismo Metavérsico va a ser una epidemia generalizada.
…jajaja soy el único loco al que esto le hizo recordar al personaje de Max Headroom?
1980’s Some of the best max headroom quotes (from the 80’s man)
…la realidad (…nuevamente…) supera a la ficción…
«una compañía sin ningún atisbo de ética», también conocido como «compañía» a secas. Recordemos los escándalos de volkswagen (o tu artículo sobre automovilísticas en general), los de las petroleras (que directamente no trampean con las democracias porque están por encima)…etc.
Facebook te (me) cae mal por cuestiones estéticas que en absoluto la diferencian del resto de compañías.
Quizás deberíamos plantearnos desde cero TODAS las tecnologías relacionadas con internet. Porque la verdad es que su contribución a la humanidad es LAMENTABLE. Cuanto más le dedicamos atención, poro es toda la realidad.
Peeeero, es lo que tiene una sociedad libre, que cada cual puede destruir su mente como le plazca.
Ah, y se me olvidaba. Si vamos a censurar facebook por intentar desviar las mentes de la sociedad (menos favorecida intelectualmente, todo sea dicho), cerremos abc, elmundo y larazon (a ratos elpais también, entre otros, pero con mucho menos desparpajo e intencionalidad criminal, claro)
Meta es una empresa cada vez mejor, como lo es también por ejemplo Microsoft.
Siempre mencionas los mismos escándalos pasados de empresa joven.
Puedes decir lo que quieras, pero toda esta inversión en IA y VR es buena para todos a largo plazo.
Lo siento, Carlos, pero lo de Meta no son «pecadillos de juventud». Hablamos de un psicópata peligroso que desde sus inicios, bromeaba con lo imbéciles que eran los que le entregaban todos sus datos, que montó conscientemente una maquinaria para explotarlos hasta el límite, y que no se ha detenido nunca a pesar de las infinitas sñales de peligro que recibió. Es una persona peligrosa que debería sin ninguna duda estar en la cárcel por todo lo que dejó que ocurriese mientras dirigía su compañía, pero en su lugar, lo dejamos que dirija una de las compañías que controla la interacción con más seres humanos. Es simplemente demencial.
Ya, pero si con él tuviesen que estar en el trullo todos los demás peligrosos psicópatas que, como él, pertenecen a la elite, (del campo que sea) directamente no cabrían… pero de eso se habla menos.
Saludos
Estoy de acuerdo con que Meta y la inteligencia artificial es poco menos que poner un lobo a cuidar corderos. Pero ¿qué hacer? En muchas ocasiones se ha dicho que lo que se puede hacer tarde o temprano alguien lo hará, y que tratar de regular el avance de la tecnología no es muy efectivo
Si solo fuera Meta aun pero no nos engañemos, todas las compañías haran lo mismo. No hay una sola compañia tecnologica poderosa que tenga el menor atisbo de ética y que no estará dispuesta a cualquier cosa para incrementar sus beneficios.
A como veo las cosas, y porque tú lo has expresado de varias compañías, el desazón es generalizado. Si no es ChatGPT siendo abusado para entregar trabajos universitarios, es Midjourney robando derechos de autor por el hueco legal de no poder culparse a una máquina, o un Meta que intenta crear un mundo Black Mirror-esco.
El analfabetismo digital es imperante, es el verdadero problema, el usuario promedio es inconsciente, una víctima.
¿Qué será más viable? ¿Construir una serie de leyes que regulen, aunque por lo visto nada ha sucedido en esos espacios de lo intangible? ¿O hacer una campaña de conciencia a través de los mismos usuarios?
Una cosa sí es notoria, todo lo relacionado con los LLM, generadores y etc, han ido bajando su furor con los consumidores. Por lo poco que he leído, algo similar al fenómeno de los NFTs y al boom y caída del “cripto-market”. La gente se va saturando, se acaba la novedad y a lo que sigue. Pero con la misma probabilidad de nuestra memoria corta masiva, podría entrar Meta a un mismo mercado.
Yo percibo cierto sector cansado del excesivo uso de los dispositivos. Ya hasta hay, como dices, quienes pretenden cambiar la pantalla por solo y únicamente un asistente de voz.
Mi duda es… en esta serie de ciclos tecnológicos, de booms y caídas… ¿seguiremos hiperconectados o más bien nos iremos alejando? Se generará una revalorización del arte a manos del sobre uso de AIs? ¿Comenzaremos a usar menos internet? ¿O seremos los obesos que alguna vez nos planteó Pixar en Wall-e?
Lo que es seguro es que el concepto fundamental de comunicación, quedó olvidado hace muchos años.
¿Alguien sabe qué ha sido de Gorki? Si no me equivoco, su último comentario fue el pasado 17 de septiembre. «Hoy toca Facebook», habría escrito él ante el artículo de hoy sobre la empresa de Zuckerberg. Ya el 21 y el 24 de septiembre hacia notar también C3PO esta inusual ausencia. ¿Está de vacaciones? ¿Está enfermo? ¿Decidió sencillamente hacer una pausa? ¿Tiene alguien alguna información al respecto?
Gorki/Félix, está abroncando a Juan Soto Ivars, lo que demuestra un envidiable ejercicio de sus facultades intelectuales.
https://twitter.com/fmaocho/
(Su hijo tiene un Airbnb en Madrid)
–
Esperaba sus comentarios en la publicación del muro de pago de Twitter (20/9) y me llamó la atención que no se supiera más nada de él.
Gorki publicó algo hace 11h en Facebook. Creo que es su perfil…
Otra vez Facebook !!
Nada nuevo bajo el Sol, se podría llamar Síndrome del Emperador y sus Fanáticos Seguidores… existe la adicción química, la virtual (religiosa y política, entre variedades diversas)… y al ser humano le encanta probar «cosas nuevas».
Aunque sean tan viejas como la prostitución de las ideas y la querencia por tener algo de poder.
Demasiado poder en las manos equivocadas es lo wue cada día me hace pensar Elon Musk con Twitter. Hay bastante evidencia de que xon él han aumentado los mensajes de odio y las campañas de desinformación rusas, entre otros regímenes autoritarios.
Además como negocio no ha hecho más que reducir ingresos y aumentar pérdidas.
Aún con todo tu falta de crítica hacia él y solo centrada en META me asusta. Uno puede ser muy bueno en algo, SpaceX o Tesla y un mierda en otras muchas cosas. Me dan más miedo X que ninguna otra red social.
No puedo estarmas de acuerdo…
El problema es que cuando se dice algo en contra de el, reaccionan todos como los crios pequeños diciendo que le tenemos «mania»…
Trump me atacó. Después, Musk lo hizo. No fue casualidad
Elon Musk sigue despidiendo: ahora recorta un departamento esencial. También echa a un jefe por dar likes a publicaciones críticas
Musk pregunta si los alemanes saben que su Gobierno rescata migrantes y Exteriores responde: “Sí. Se llama salvar vidas”
Os dejo esta otra de regalo mas acorde con el articulo