Deepfakes e identidad corporativa

IMAGE: Open Clip Art Library (CC0)

El auge de los deepfakes, vídeos obtenidos mediante la aplicación de deep learning y técnicas de Generative Adversarial Networks (GANs), comenzó generando una gran preocupación asociada fundamentalmente al mundo de la política, como corresponde al hecho de que, como una derivada de su elevada visibilidad general y de la gran disponibilidad de vídeos potencialmente utilizables mediante manipulaciones sencillas, la gran mayoría de personajes utilizados para las demostraciones iniciales fuesen personajes de ese ámbito específico.

Rápidamente, se empezó a hablar de la posibilidad de la nueva «era de la desinformación«, que los deepfakes destruyesen la confianza en la sociedad, de que llegasen a jugar un papel importante en futuros procesos electorales, y el pánico ante esos hipotéticos escenarios llevó a sucesivos intentos de desarrollo de herramientas para tratar de discernir si un vídeo es verdadero o falso, si ha sido manipulado o no, algo que, además, tiende a funcionar como una GAN más, dando lugar a una auténtica carrera armamentística entre quienes aspiran a capturar vídeos falsos y los que intentan generar falsificaciones cada vez más difíciles de capturar. Adiestrar a los periodistas y a la sociedad en su conjunto para detectar deepfakes o desconfiar ante toda información potencialmente falsa es, en cualquier caso, algo positivo y que marca la importancia de enfatizar la importancia del pensamiento crítico en la educación.

Sin embargo, estaba muy claro que la política era únicamente la primera fase del problema. De hecho, las primeras fases de desarrollo de los deepfakes tuvieron más que ver con la inserción de rostros de famosos en vídeos pornográficos – algo que Scarlett Johansson definió directamente como «causa perdida» – , para crear espeluznantes vídeos falsos de revenge porn, para imaginarte desnuda a cualquier mujer de la que tengas una fotografía de cuerpo completo, o para poner tu cara en cualquier GIF animado.

Todo indica que la siguiente fase es la aplicación de los deepfakes al mundo corporativo: desde manipulaciones inocentes y divertidas basadas en el uso de dobles hasta técnicas mucho más sibilinas o complejas, la manipulación siempre ha estado presente de una u otra manera en la comunicación empresarial, y la posibilidad de presentar a un directivo mostrando un comportamiento poco edificante, diciendo algo que socave la confianza en su producto o generando atención sobre algún punto débil de su compañía es no solo sencilla, sino que se interpreta como una de esas fronteras que muchos publicistas o estrategas del tres al cuarto gustan desafiar.

¿Cómo puede defenderse una compañía del posible uso de deepfakes para perjudicar su imagen o su comunicación? La respuesta es sencilla: siendo rápida y asegurándose ser el interlocutor preferente para despejar cualquier duda. Esto implica no solo ser capaces de ofrecer respuestas rápidas a quienes las buscan, sino además, ser capaz de difundirlas a la velocidad adecuada, sin depender de notas de prensa o de la participación de terceros.

La secuencia es clara: si veo un vídeo sorprendente sobre una compañía, es posible que tenga el reflejo de acudir a su página web, página de Facebook o Twitter corporativo para ver si han dicho algo al respecto. Si esas páginas no dicen nada, muestran el mismo aburrido aspecto de ayer con únicamente un espacio marginal dedicado a una aburrida pestaña de noticias, o carecen de información alguna al respecto porque el director de comunicación está esperando a que sea lunes para tratar de organizar una reunión con su agencia de comunicación y ver, si eso, si se ponen a preparar una nota de prensa que enviar a los medios, lo normal será que mi propensión a creerme ese vídeo sorprendente crezca.

En una sociedad en la que cualquiera puede crear un vídeo del CEO de tu compañía diciendo sin pestañear que utiliza el producto de la competencia porque le gusta más, y eso es solo por poner un ejemplo relativamente inocente, las compañías tienen que repensar su presencia en términos de comunicación para ser capaces de apalancar su página web y sus redes sociales en ese sentido. Las que solo saben utilizar esos medios para lanzar aburridos mensajes despersonalizados, vacíos y estándar, lo tendrán mucho peor que aquellas compañías que hayan sido capaces de crear una presencia que haga que cualquiera se plantee, por pura lógica, acudir ahí cuando se trate de despejar cualquier tipo de duda.

¿Qué tipo de comunicación tiene tu compañía? ¿Serviría de algo si tuviese que apalancarla ante un caso de crisis comunicativa, debida a un deepfake o a otra circunstancia? ¿Tienes suficiente agilidad y legitimidad comunicativa como para defenderte de este tipo de cuestiones, o sigues enviando notas de prensa y dependiendo de que el medio de turno decida publicarlas o no?


This post is also available in English on my Medium page, «Deepfakes: targeting your company very soon!«


14 comentarios

  • #001
    Gorki - 21 julio 2019 - 14:12

    La imagen , fotografía y video, siempre tuvo una injustificada credibilidad frente al texto, Parecía que un periodista siempre podía mentir pero que si mostraba una prueba visual lo que mostraba era cierto. De eso se han valido las televisiones y los reporteros para darnos imágenes mas falsas que el alma de Judas.

    Mi estupefacción fue inmensa al ver que las cataratas de Niágara tienen como paisaje opuesto a la imagen que se enseñan, una barrida de Buffalo que en poco se difiere del barrio de la Concepción de Madrid. Por las imágenes que yo había visto hasta entonces me las imaginaba en medio de un Parque Nacional,

    Bueno es que la manipulación digital haga perder credibilidad a las imágenes, y pongamos distanciamiento crítico, ante cualquier imagen que se nos enseñe. y aprendamos a ver que una manifestación fotografiada desde el lado de los policías que estoicamente reciben pedradas, es la misma manifestacion que se puede fotografiar desde el otro lado, donde los manifestantes soportan gases lacrimógenos. Ni los manifestantes son energúmenos, ni la policía asesinos y lo que e cuenta el periodista es solo SU verdad, (o la de su amo)

    Responder
    • Matt - 22 julio 2019 - 01:33

      Sí, que se pueda desprestigiar o criminalizar a cualquier persona o que ya no sepamos qué es verdad y qué mentira va a ser algo bueeeeeeeenísimo …

      Responder
      • Gorki - 22 julio 2019 - 12:13

        ¿Cómo lo sabes ahora? – Ayer leí que Mao mato 45. millones de personas en cuatro años. ¿Cómo estar seguros si es una a exageración o no?

        https://www.esglobal.org/la-utopia-fracasada-mao-tenia-precio-45-millones-muertos/

        Responder
        • Matt - 22 julio 2019 - 14:21

          No saber la cifra exacta de gente que mató Mao hace varias decadas es una cosa, no saber si las escandalosas declaraciones que estoy viendo en estos momentos del presidente del gobierno o de ese político de la oposición que tiene posibilidades de llegar al poder son ciertas, si ese delito que estoy viendo cometer a una persona lo ha cometido de verdad o es un montaje o que se pueda simular que una mujer sea protagonista de un video porno con las consecuencias que traería para ella (y mas aun si vive en un país musulman, por ejemplo) es una cosa bastante diferente.

          Responder
  • #005
    menestro - 21 julio 2019 - 14:21

    El deepfake es la amenaza social de Internet de moda.

    La realidad; no han alcanzado un grado de realismo que suponga más de unos minutos el desmentirlo.

    Sucede lo mismo que con el rellenado de multitudes digital, en su momento parecía una receta de éxito para falsear imágenes, pero el análisis de cualquier profesional puede desvelar la manipulación.

    Los deepfakes que circulan son muy toscos, y siempre requieren de la manipulación de fuentes de imágenes reales con una técnica bastante ramplona y evidente.

    Solo tienes que pensar en la cantidad de tiempo de computo y renderizado necesaria para realizar las películas de moda, con actores cubiertos de pies a cabeza con marcas de captura de movimiento y puntos de enlace por todo su rostro, para comprender la complejidad de crear una replica realista y natural de su rostro.

    Hasta ahora, los deepfakes no se alejan mucho de los stickers que hacían hablar a un perro. Se basan en la misma tecnología de mascaras.

    Es un Hype. Como el crédito social Chino y Blackmirror. Otra vez.

    Si os interesa el tema del Face Hacking podéis ver el trabajo que Nobumichi Asai lleva realizando con escáner láser 3D, desde 2014.

    (El primer Tuiter y experimento de Microbloggin fue expuesto en el MoMa en los 90)

    Omote – Real-Time Face Tracking

    Disclaimer

    No participo accionarialmente en ninguna empresa de ML SaaS o face stickers.

    Responder
    • Gorki - 21 julio 2019 - 16:02

      No debe ser tan chapucero el deeofake o no seria posible «resucitar» a la princesa Leia

      https://www.clarin.com/espectaculos/cine/actriz-actua-pelicula-despues-muerta-segunda-vez_0_H1Fq8HqVm.html

      Responder
      • menestro - 21 julio 2019 - 17:17

        Se utilizó un sosias, un actor, sobre el que se compuso una versión renderizada de la cara de la actriz. No fue el único personaje. Y es algo recurrente en el cine desde hace años.

        No se trata de la misma tecnología GAN de lo que se denomina deepfakes.

        El renderizado solo puede hacerse por todo el «face motion tracking» del actor que presta su cara y actuación a ese «maquillaje digital».

        El deepfake es un término viral que implica una suplantación en el mundo real de una persona, y lo es, a causa de la reciente moda de las fake news.

        No porque sea una tecnología de suplantación especialmente buena.

        Mot-Cap Tech on Leia VFX

        Responder
        • Gorki - 21 julio 2019 - 17:58

          ¿Hubiera valido el sistema para poner la cara de Trump? – Si la respuesta es si, cualquier video de Trump puede en principio ser un «deepfake». Aunque yo creo que en este caso no hace falta, se desacredita el solo.

          Responder
  • #009
    Xaquín - 21 julio 2019 - 19:10

    La historia de la Química sin el papel de filtro sería desde luego una historia muy diferente. Pero hay mucha gente que prefiere no esforzarse en filtrar. Y así les va. No hay forma de que entiendan que la palabra censura es de doble sentido. Y no solo negativo.

    El otro lado del problema está en que la confianza no es mercancía de supermercado. Que un profe, policía, médico, cura… goce del privilegio de ser receptor de informanción confidencial, lo tiene que ganar en el día a día profesional (o lúdicoexistencial). Hasta para ser informante de tipo «vivir en la calle» se tiene que ganar a pulso.

    El día que los empresarios entiendan el papel social (realmente social) de su empresa, puede que los rumores y falsas noticias pasen a peor vida. Para ser cotilla creíble no se necesita título universitario, solo gozar de cierto nivel de credibilidad entre la fauna del barrio.

    Y desde luego, para filtrar materia en un laboratorio o filtar la información recibida en el día a día, se necesita una educación (formal e informal) adecuada.

    Responder
  • #010
    Garepubaro - 21 julio 2019 - 20:46

    Hombre pues los videos falsos o se desmienten rapidamente o la gente ya no va a creyendose nada, mas bien. Lo mas grave y que ha venido para quedarse Y NO TIENE REMEDIO es cuando en rne, television española etc primero presentan a uno asi; «catedrático en nutricion, doctorado en sistema digestivo treinta masters en tecnologia de alimentos» etc etc en ese estilo …

    y ya sabes lo que va a decir a continuacion, el supertitulado este;» la pasta no engorda, los macarrones no engordan» con 60 por ciento de carbohidratos …

    y cosas asi obviamente opiniones compradas por el oligopolio mundial de la pasta, que igual que la informatica, mueble, ropa, chocolates refresco etc cualquier sector pues otro logopolio mundial mas como todos los que forman hoy todos los ambitos del consumo, en este caso de una empresa italiana.

    Con millones y millones de pasillos llenos en todos los supermercados del mundo con sus productos de trigo, que a los flacos no les afecta para nada y que con ellos se alimentan bien, pero para los gordos es la ruina de su regimen…

    pues le pagaran muy bien al «ultrasupertitulado que lo mandan a informar a la poblacion» y nadie le puede toser, estan mandando ya hasta premios Nobel comprados, pero claro de que viven hoy los periodicos digitales, muchos ultratitulados que no sacan bastante rendimiento economico de sus multiples doctorados o si, y toda la informacion, pues o subvenciones o de opinion comprada, patrocinadores que se esconden detras a «informar» asi a la poblacion, osea a favorecer sus increibles negocios, y no pueden salir a la luz porque todo es trola, ya solo queda el boca oreja «me quite de los macarrones y perdi tantos kilos y menos cansado», es todo lo que ha quedado para informarse

    Responder
  • #011
    Gorki - 22 julio 2019 - 02:26

    Respecto de tener una pagina empresarial que de respuesta a los «deepfake», es mas fácil decirlo que hacerlo,

    En primer lugar, tienes que tener un seguimiento muy exhustivo de Internet para detectar cuando en un video, una texto o una imagen te están atacando, pues es relativamente sencillo tener alertas sobre palabras específicas, de marcas o nombres propios, pero alertas sobre imágenes y sonidos no lo es tanto.

    Si por ejemplo, aparece un video en Yooutube de un señor delante de un local de una cadena de haburgueserías fácilmente identificable por los logotipos, mostrano una cucaracha dentro de un ch bito de hielo y diciendo que el jamás volvera a un local de esa cadena y el video se vuelve viral, no saltará ninguna alarma pues no ha dicho ni la marca, ni hamburguesa, ni nada, fácil de controlar hasta que el clamor sea tan intenso. que la noticia llegue a la compañía y ya sera tarde para poner tu respuesta en tu página web, y yo ademas veo muy poco probable que nadie vaya en un caso así a la página web institucional a confirmar si la noticia es verdadera.

    Yo creo que la única defensa es que a los que han intervenido en un hecho así se les caiga el pelo en responsabilidades civiles.

    Responder
    • Garepubaro - 22 julio 2019 - 10:22

      Ya hace muchos años de lo del mito del que fue a urgencia o murio porque «se le habia clavado un anca de rata en el paladar» comiendo una de esas hamburguesas, habia unos videos de «como las fabricaban» con unos operarios con trajes blancos y mascaras anti productos quimicos en supuestas cocinas industriales, que limpiaban la hamburguesa con unos toxicos … todo esto en videos con produccion seria no barata … habia alguien detras para difamar … pero el caso es que las hamburgueserias nunca demandaron y ya tras tantos años tanta difamacion no tiene efecto real, sino al contrario todos los dias abren nuevas hamburgueserias cuya pagina de Facebook se llena de gente diciendo «no es sana»»es no se cuantos» y mañana abren otra hamburgueseria completamente llena de gente con su correspondiente web en Facebook, osea es un caso donde ya no hace nada efecto …
      Mi video favorito es el de una familia que va a comer a un restaurante caro de Londres, de estos de un cocinero español y 300 euros el cubierto, entonces van como un dia especial le sacan fotos y videos a los platos burlandose del restaurante que es real, se rien del diseño de las mesas y las luces raritas , se van a medio comer y entran en un McDonald donde todos estan contentos y con risas y si logran comer felizmente no como en el anterior …

      Responder
      • Gorki - 22 julio 2019 - 10:33

        Vale si, Como las hamburguesas de Casa Lola, nada. Y con aceite de colza.

        Responder
  • #014
    Rafael Espejo - 22 julio 2019 - 17:20

    Hola Enrique,

    En este sentido lo tengo muy claro, una empresa que se preocupe de su reputación on-line, lo primero que debe tener es la escucha activa de determinadas palabras clave relacionadas con su marca. Lo siguiente, tener una persona de total confianza a cargo de la web y redes sociales 24/7 con suficiente criterio para actuar de forma adecuada ante una circunstancia así sin necesidad de pedir permiso, eso se hace después y se asumen responsabilidades ;)

    Saludos,

    Responder

Dejar un Comentario

Los comentarios en esta página están moderados, no aparecerán inmediatamente en la página al ser enviados. Evita, por favor, las descalificaciones personales, los comentarios maleducados, los ataques directos o ridiculizaciones personales, o los calificativos insultantes de cualquier tipo, sean dirigidos al autor de la página o a cualquier otro comentarista. Estás en tu perfecto derecho de comentar anónimamente, pero por favor, no utilices el anonimato para decirles a las personas cosas que no les dirías en caso de tenerlas delante. Intenta mantener un ambiente agradable en el que las personas puedan comentar sin temor a sentirse insultados o descalificados. No comentes de manera repetitiva sobre un mismo tema, y mucho menos con varias identidades (astroturfing) o suplantando a otros comentaristas. Los comentarios que incumplan esas normas básicas serán eliminados.

 

XHTML: Puedes utilizar estas etiquetas: A ABBR ACRONYM B BLOCKQUOTE CITE CODE DEL EM I Q STRIKE STRONG IMG