Asesinatos en vídeo y la responsabilidad de Facebook

FB timeline El pasado domingo, en Cleveland, un individuo utilizó su smartphone para filmar el asesinato de una persona escogida completamente al azar, que caminaba por un parque. Simplemente, detuvo su coche, escogió a una persona de 74 años, y le pegó un tiro, supuestamente para llamar la atención de una mujer. Después, subió el vídeo a Facebook y filmó otro, esta vez en vivo, explicando el anterior y confesando su autoría. En estos momentos hay un enorme operativo policial de cara a la busca y captura del sujeto, aunque en el momento de escribir esta entrada aún continuaba en libertad.

Tras los hechos, se ha desencadenado una discusión sobre la responsabilidad de Facebook en la publicación y diseminación del horroroso vídeo. Se plantea hasta qué punto es la compañía responsable por no eliminar el vídeo más rápidamente, o incluso si se debería cerrar íntegramente Facebook Live hasta que exista una tecnología suficientemente madura como para evitar que vídeos como ese sean publicados.

En la ilustración que acompaña la entrada podemos ver la secuencia temporal de los hechos desde la publicación del primer vídeo, previo al asesinato, hasta su retirada y el cierre de la cuenta del autor de los hechos. En total, un poco más de dos horas. El sistema utilizado por Facebook está basado en las denuncias del contenido hechas por los usuarios, y de la secuencia temporal se deduce que la compañía fue razonablemente rápida y competente a la hora de reaccionar. El vídeo es claramente un contenido que no debería ser hecho público y que obviamente origina un enorme dolor a cualquier persona relacionada con la víctima, pero… ¿cuál es la base de las reclamaciones exactamente? Facebook no puede, por mucho que lo intente, evitar que alguien mate a alguien, y tampoco puede evitar que suba el vídeo a su plataforma: lo máximo que se le puede pedir es que lo retire lo antes posible y que evite su posible redifusión.

De alguna manera, algunos parecen estar reclamando a Facebook, una empresa tecnológica, una responsabilidad que la tecnología, simplemente, no es capaz de abarcar ni lo será durante mucho tiempo. De acuerdo, Facebook, junto con algunas otras compañías como YouTube o Twitter, ha conseguido que todo aquel que tenga un smartphone se convierta potencialmente en una emisora de televisión con capacidad de emitir en directo lo que quiera. Antes, cuando para emitir en directo era necesario tener un costoso equipo, unos enlaces y unas licencias determinadas, ya había discusión sobre qué se podía hacer si, por ejemplo, una cámara recogía escenas inapropiadas o si una periodista se suicidaba en directo. Ahora, esas discusiones deberían ser idénticas: ¿qué debe hacer Facebook? Nada. Intentar que sean retiradas lo antes posible, y que no vuelvan a ser redifundidas. Hacer responsables a las empresas tecnológicas de todos los males del mundo es absurdo y no va a ningún sitio: esos males ya estaban allí mucho antes de que las empresas tecnológicas apareciesen en la escena, y desgraciadamente, seguirán estando después de tal aparición.

Ningún sistema de machine learning puede evitar que alguien emita en directo o suba a una plataforma un vídeo de un asesinato. Se podría intentar llegar a reconocer ciertos patrones, pero la tarea es enormemente compleja y, aún así, habría infinidad de circunstancias en las que un asesinato podría no parecerlo, resultar confuso o dar lugar a un falso positivo. Pedir a la tecnología que haga algo imposible es típico de quienes no entienden nada de tecnología, y un recurso fácil cuando se pretende que un nuevo escenario es culpable de algo que no nos gusta. No, a nadie le gusta que se mate a personas inocentes ni que eso pueda ser publicado en un vídeo, pero Facebook, siempre que actúe con prontitud para retirar esos contenidos y evitar su redifusión, no es culpable de nada. Las herramientas solo definen escenarios, lo que los actores decidan hacer en ellos es responsabilidad de ellos mismos.

Podríamos llegar a pensar, incluso, que la posibilidad de emitir en directo algo como un asesinato podría llegar a funcionar como un perverso incentivo a la comisión del mismo. Una mentalidad de ese tipo es la que a otro nivel lleva, por ejemplo, a los responsables de retransmisiones deportivas, a escoger cámaras que miran hacia otro lado cuando alguien salta al campo buscando “su minuto de gloria”: si privamos a esa persona del supuesto “privilegio” de aparecer en directo ante millones de telespectadores, podremos llegar a desincentivar su comportamiento (aunque muy posiblemente sea suficiente con el incentivo que suponen los miles de espectadores presentes en el propio evento). Sin embargo, incluso en esa comparación, la conclusión se sostiene: ni las televisiones son consideradas responsables de nada, ni se les pide nada más que el que intenten, en la medida de lo humanamente posible, no mostrar los hechos.

Facebook, dentro de sus posibilidades y entendiendo, lógicamente, que no tiene un realizador ni un director al pie del cañón para cada vídeo que es subido a su plataforma o emitido en directo, pone todos los medios lógicos a su alcance para intentar minimizar el tiempo que un vídeo inapropiado se mantiene a la vista de los usuarios. Eso supone tener personas preparadas 24 horas al día, 7 días a la semana para recibir denuncias de usuarios y tomar una rápida decisión sobre su posible retirada, evitando falsos positivos y tratando de hacerlo lo mejor posible. Si dentro de unos medios razonables, se puede minimizar ese tiempo desde las dos horas del pasado domingo por la noche a tan solo media hora, genial. Pero mucho me temo que, por el momento, eso vendrá de incrementar el número de supervisores humanos disponibles, no tanto del desarrollo de algoritmos de machine learning (aunque algo, posiblemente, puedan hacer). El momento en que una plataforma sea capaz de detectar que en un vídeo se está cometiendo un asesinato o un hecho violento y decida, de manera autónoma, interrumpir su emisión está aún muy lejano. Hablamos de tecnología, no de magia.

Como tantas otras posibilidades convertidas en realidad por la tecnología, el lifestreaming no es ni bueno ni malo: lo es el uso que se haga de el. Por cada uso siniestro o execrable que se hace de una tecnología así, pueden buscarse mil ejemplos de posibles usos positivos. ¿Se ganaría algo eliminando Facebook Live porque cualquiera podría hacer algo así, o limitando su uso únicamente a determinados usuarios? Seguramente, perderíamos más de lo que pretendíamos ganar. Demonizar a Facebook porque su plataforma fue utilizada por un asesino para mostrar su crimen al poco tiempo de cometerlo es absurdo, y equivalente a culpar al fabricante de cuchillos por los robos o asesinatos que se cometen con ellos. Los hechos son terribles y dolorosos, sí. No es bueno que se muestren en público, de acuerdo. Pero no se puede exigir a Facebook más responsabilidad que la que tiene: eliminar el contenido lo antes posible con los medios humanamente a su alcance, y evitar su redifusión.

 

 

This post is also available in English in my Medium page, “Just what does anybody expect Facebook to do when somebody commits a murder and posts it online?

 

12 comentarios

  • #001
    menestro - 18 Abril 2017 - 12:04

    Más morbo sobre el fabricante de cuchillos suizo de disoluta vida, aquí la cuestión, es la responsabilidad de Facebook en un asesinato. Sin más. No importa, si no hay ninguna causalidad.

    En cuanto a un criminal reivindicándose en los medios, un clásico.

    15 minutos

    Pero la culpa es de Facebook, que va provocando.

    Tiene que existir alguna forma de hablar de cómo la tecnología afecta a la sociedad, sin que exista un delito o sensacionalismo de por medio ¿verdad, Enrique? Algún día, tal vez, sería posible verlo.

    Pero la cura para corregir la maldad del mundo, sin duda, está en el machine learning.

    Responder
    • menestro - 18 Abril 2017 - 12:42

      Por cierto, se ha corregido la información del artículo que enlazas. No se difundió a través de FaceBook live. Fue subido como una publicación más.

      E igualmente, podría haber hecho un Live Streaming en Youtube o cualquier otro servicio de emisión en directo, pero demonizar a Facebook es la moda de este año.

      Sí, probablemente se produzca un efecto imitación y algún desequilibrado retransmita en vídeo su hazaña en el futuro.

      Pero eso no es ninguna predicción acertada, fruto de un intelecto avezado, es lo que se conoce como Sesgo de confirmación.

      Responder
      • Enrique Dans - 18 Abril 2017 - 12:50

        Gracias. En todo momento he dicho que era una publicación más, lo que fue en Live fue la explicación del crimen. Está hasta en la ilustración… :-)

        Responder
        • menestro - 18 Abril 2017 - 16:20

          Todos los enlaces hablan de “Facebook Stream a Murder” o que hay que ‘cerrar Facebook Live’ en lo que es evidentemente una forma, por decirlo así, de hacer más llamativa la noticia.

          Una de las cosas que caracterizan una Fake news o un Hype News, permíteme ampliar la nomenclatura, es precisamente el efecto bola de nieve; lo que empieza como un incidente impactante pero aislado, empieza a escalar hasta convertirse en una ‘categoría irrefutable’ de autoridad incuestionable, que implica el cataclismo cercano de la humanidad.

          Creo que engordar las noticias, y hacer indistinguible los hechos de las conclusiones o conjeturas, es una forma de alimentar un Fud, de forma inadvertida quizás, pero que contribuye a esa desinformación.

          En cuestión de 6 horas, ya tienes a todos los medios de este país, haciéndose un pobre eco de la noticia original, para captar clics, y llamándole “el asesino de Facebook Live” o “Facebook entona el mea culpa”.

          Así es como se fabrica una Fake news en los medios de periodismo tradicional, y por eso, Google está extendiendo la etiqueta de “Fact Check” en los Snippets de Google Noticias.

          ¿Cuál es el problema? que en España no es posible utilizar este etiquetado, porque Google News fue forzado a cerrar y los periodistas no pueden aplicarlo a las noticias, al no existir ya el ‘Centro de Editores de Google‘ y no poder incluir fuentes de diarios de nuestro país.

          Así que nuestras noticias son más fake y menos actualizadas que la de otros países, que sí disfrutan de la verificación de hechos de Google News.

          Y así además, contribuimos a deformar una información y engordar un interpretación falsa de esa noticia.

          De hecho, Facebook tiene ya en su versión inglesa una herramienta de verificación de hechos (fact Checking) basada en The International Fact-Checking Network (IFCN) que etiqueta las noticias que no son acreedoras de demasiada credibilidad.


          Google to display fact-checking labels to show if news is true or false

          Responder
  • #005
    Rodrigo - 18 Abril 2017 - 14:50

    Por lo que dices parece claro que es bueno eliminar este tipo de videos, pero que me dices de multitud de videos que hay por ahí:
    – Guerras retransmitidas en directo con montones de muertos.
    – Atentados terroristas con montones de muertos.
    – Maltratos en sus diversas modalidades.

    Y podríamos seguir …

    Responder
  • #006
    Alex - 18 Abril 2017 - 15:41

    De acuerdo con todo y para mi entender falta un punto importante.
    El video después de ser eliminado de FB empieza a ser emitido en todos los informativos . Si pedimos responsabilidades a FB ¿q responsabilidad tendriamos que pedir entonces a estos informativos?
    Saludos

    Responder
  • #007
    Gorki - 18 Abril 2017 - 18:19

    Ha habido asesinatos en directo, suicidio en directo. por ejemplo el embajador ruso en Turquia, ha habido ejecución de rehenes y actos terroristas retransmitidas en directo por televisión. Jamás se ha considerado la responsabilidad de las cadenas de televisión en la publicación y difusión de esos horrorosos sucesos, que no fueron planeados ni organizados ni apoyados por los medios, sino que sus autores han planeado y buscado con el fin de conseguir mayor difusión a su “hazaña”.

    ¿Por que se juzga con otra vara de medir a Facebook? — Porque está de moda, Por lo mismo que se le culpabiliza de la difusión de noticias falsas que no ha hecho ella, o de la perdida de privacidad de jóvenes que se exhiben en pelotas al público por ese medio.

    Responder
    • menestro - 19 Abril 2017 - 07:31

      ¿Quién no ha vivido una situación de toma de rehenes, verdad? :-)

      “Haz lo que digo, o los gatitos de la redacción sufrirán”

      Responder
  • #009
    Xaquín - 18 Abril 2017 - 19:29

    Más de lo mismo. Si una casa tiene ventanucos o grandes ventanales y se producen en ellla violaciones a las que atiende atontado el público que pasa por la calle… solo hay responsables dentro y fuera de la casa, pero ninguna responsabilidad tienen las ventanas o sus diseñadores/montadores.

    En este caso ni siquierea está el periodista morboso que busca la noticia “normal” para hacerla morbosa…

    FB colabora en sacar la tendencia humana al espectáculo que todos llevamos dentro, pero no es responsable del institno de imitación (el negativo!) y otras lindezas que caracterizan a la especie humana.

    Responder
  • #010
    Iñigo Pons - 18 Abril 2017 - 23:34

    Más culpa tendrá la disponibilidad de pistolas que la disponibilidad de emisión de vídeo en Facebook…

    Responder
  • #011
    Garepubaro - 19 Abril 2017 - 00:19

    La cuestion es que en EEUU hay un tiroteo al dia con victimas, puede que mas que ahora que la cosa económica y de drogas se ha puesto peor para las clases medias y bajas, y si alguno llega a internet y es conocido, cosa rara hasta ahora evidentemente, al menos tendra mas dificultades para esconderse el agresor incluso tratandose de un montaje con su propia cámara … osea la publicacion en internet seria mas bien un freno

    Responder
  • #012
    petardas - 19 Abril 2017 - 05:02

    El armamentista es el culpable de esta situación, recordar que las armas lo único que ocasionan son desastres

    Responder

Dejar un Comentario

Los comentarios en esta página están moderados, no aparecerán inmediatamente en la página al ser enviados. Evita, por favor, las descalificaciones personales, los comentarios maleducados, los ataques directos o ridiculizaciones personales, o los calificativos insultantes de cualquier tipo, sean dirigidos al autor de la página o a cualquier otro comentarista. Estás en tu perfecto derecho de comentar anónimamente, pero por favor, no utilices el anonimato para decirles a las personas cosas que no les dirías en caso de tenerlas delante. Intenta mantener un ambiente agradable en el que las personas puedan comentar sin temor a sentirse insultados o descalificados. No comentes de manera repetitiva sobre un mismo tema, y mucho menos con varias identidades (astroturfing) o suplantando a otros comentaristas. Los comentarios que incumplan esas normas básicas serán eliminados.

 

XHTML: Puedes utilizar estas etiquetas: A ABBR ACRONYM B BLOCKQUOTE CITE CODE DEL EM I Q STRIKE STRONG IMG