El problema no es internet: es otra cosa mucho más preocupante

SimpleFunsEl artículo que posiblemente leas y veas comentado hoy si tus listas de suscripciones están mínimamente completas es este de James Bridle titulado  Something is wrong on the internet, un texto largo y detallado en el que el autor se preocupa por la proliferación de determinados vídeos en YouTube Kids, un producto diseñado por la compañía para proporcionar vídeos adecuados a los niños y que muchos padres tienden a emplear como auténtico “dispositivo apaganiños”, con contenidos completamente inadecuados desde múltiples puntos de vista, y apoyándose en los algoritmos de recomendación de la plataforma para encabezar las listas de popularidad y obtener ingresos publicitarios.

La presencia de este tipo de vídeos inapropiados ha sido puesta de manifiesto en otras ocasiones: contenidos que aprovechan personajes muy conocidos por los niños y los hacen protagonizar escenas violentas o de otros tipos, habitualmente con grafismos extremadamente simples, confeccionados con muy poco esfuerzo. El análisis de Bridle incide no solo en los vídeos como tales, sino más bien en el mecanismo de una plataforma que no solo posibilita este tipo de comportamientos, sino que los recompensa mediante sus algoritmos y el sistema económico de premiar la atención al que da lugar. Un análisis interesante, que pone el peso en la plataforma, en una YouTube que no parece hacer mucho de cara a la eliminación de este tipo de contenidos más allá de ofrecer sistemas que permiten que sean denunciados o marcados como inapropiados, y que no ha tenido ningún éxito por el momento de cara a su erradicación.

Sin embargo, el verdadero análisis, para mí, es todavía más desasosegante: indudablemente, internet tiene un problema. La combinación de factores como el desarrollo sin límites de la economía de la atención, los algoritmos que premian el sensacionalismo o el contenido más impactante, las posibilidades de anonimato o de trazabilidad compleja y otra serie de características de la red han dado lugar a un sistema en el que constantemente nos sorprendemos encontrando cosas que, si hacemos caso a la gran mayoría de observadores, no deberían estar ahí. Pero en realidad, el verdadero problema no está en internet: está en la naturaleza humana.

Me explico: todo sistema es susceptible de ser utilizado de diversas maneras. La ausencia de regulación para evitar comportamientos definidos o considerados nocivos, o los sistemas de regulación ineficientes, generan abusos de numerosos tipos. Podemos constatarlos en todas partes: a la popularización del correo electrónico sigue la proliferación del spam. ¿Es el spam un problema de diseño, algo de lo que debamos hacer responsables a los inventores del protocolo del correo electrónico o a los que comercializan herramientas para que los consumidores lo usen? No, es un problema de que una serie de actores descubren que pueden utilizar los protocolos del correo electrónico para enviar con un coste bajísimo mensajes comerciales a una gran cantidad de usuarios incautos, inexpertos o directamente idiotas, y aprovechar para separarlos de su dinero. Ese comportamiento es constante: cada servicio que surge cuenta con su caterva de aprovechados dispuestos a utilizarlo para engañar, robar, manipular o retorcer su propósito original. Las redes sociales son plataformas para compartir contenidos, pero convenientemente retorcidas, se convierten en herramientas para manipular un proceso electoral. YouTube sirve para ver vídeos, pero si la retorcemos adecuadamente, podemos conseguir que sirva para engañar a niños con contenidos inadecuados y ganar dinero a costa de exponerlos a contenidos a los que no deberían ser expuestos. Da igual el ejemplo que propongas: todos cuentan con usos inadecuados, inmorales o directamente delictivos que algunos pretenden utilizar para su beneficio. ¿Surgen los ICOs? Rápidamente proliferan personajes nocivos dispuestos a confundir a potenciales inversores y robarles su dinero.

¿Estamos hablando de un problema de internet? No, hablamos de un problema de la naturaleza humana. En ausencia de una regulación efectiva debido a la velocidad con la que se desarrollan y popularizan las nuevas herramientas, los delincuentes evolucionan y se convierten en los primeros colonizadores de cada nuevo nicho ecológico que surge en el planeta red. Para cuando se defina como delito subir vídeos a YouTube y aprovechar sus algoritmos para incrementar su popularidad, los delincuentes estarán haciendo otras cosas completamente diferentes. Probablemente un buen abogado encuentre siempre suficiente indefinición en esos comportamientos como para conseguir que salgan absueltos, y el simple principio de “no sé como definirlo pero lo reconozco cuando lo veo”, el I know it when I see it que podría contribuir con algo tan inherentemente humano como el sentido común a aliviar el problema, no se utiliza lo suficiente. No parecen existir tribunales ni jueces suficientes como para solventar los problemas que detectamos en internet todos los días, y si existiesen, se verían confrontados con una realidad compleja de fueros y sistemas judiciales nacionales tratando de mala manera de operar en un entorno global y sin fronteras. Lo que un estado intenta definir como un comportamiento execrable y encuadrar en un tipo penal evidente que sin duda ya existía, en otro estado está completamente sin legislar, o se sitúa en un limbo en el que las leyes resultan de imposible aplicación. Los mecanismos sociales de control, elementos como la reputación o la censura social que a otra escala y en otros períodos históricos se han convertido en elementos que ponían relativo coto a determinados comportamientos, tampoco funcionan, porque no se desarrollan con la necesaria velocidad. Cuando un individuo malintencionado encuentra una manera de aprovecharse de una plataforma determinada, la mayor parte de la sociedad ni siquiera es capaz aún de entender qué es lo que está haciendo.

Hemos construido una herramienta que no sabemos controlar, y que muchos consiguen retorcer para su beneficio incurriendo en comportamientos que cualquiera con un mínimo sentido común encontraría castigables, pero que en rarísimas ocasiones son castigados. Y de nuevo: el problema no está en la red, sino en la naturaleza humana, en las más profundas miserias de nuestra condición. ¿Cómo definir a un tipo que convierte en medio de vida el exponer a niños a contenidos completamente inadecuados y censurables? ¿Qué castigo debería encontrar si la justicia funcionase? ¿Cómo plantearse desincentivar un comportamiento semejante? ¿Cómo adaptar la legislación y los sistemas que tratan de poner bajo control lo peor de la naturaleza humana en un marco que evoluciona tan rápidamente?

 

 

 

This post is also available in English in my Medium page, “The internet is not the problem: it’s something much more worrying”  

 

20 comentarios

  • #001
    Beatriz - 7 noviembre 2017 - 13:54

    Hola, precisamente este fin de semana estaba viendo vídeos de youtube con mi sobrino. Abrimos uno que salía Mickey Mouse y Minnie y me horroricé. Eran unos dibujos bastante mal hechos pero populares porque los personajes tenían caras de personajes de Disney. En él se envenenaban unos a otros y sacaban sierras mecánicas. Como los Rasca y Pica de los Simpsons. Mi sobrino tiene 4 años y suerte que estaba yo con él y los quité. Pero lo cierto es que te cuelan vídeos de personajes infantiles famosos y luego el contenido es tremendo. Gracias por comentar este tema, pero será complicado ponerle puertas al campo. Un saludo.

    Responder
    • Pedro Torres Asdrubal - 7 noviembre 2017 - 14:27

      El campo está lleno de puertas, como hemos visto con el compañero Juan Clavero que le metieron 47 gramos de coca en el coche por molestar pidiendo que se quiten esas puertas donde la ley dice que no deben estar.

      Me temo que una cosa es lo imposible y otra la dejadez. Youtube está jugando a muchas bandas y una cosa es que no pueda y otra que no quiera.

      Responder
    • Krigan - 8 noviembre 2017 - 08:29

      El caso es que los dibujos animados del Correcaminos, con el pobre Coyote sufriendo de todo, sí los considerados adecuados para niños. ¿Por qué unos sí y otros no? Si no somos capaces de decir cuál es la diferencia, no es extraño que los algoritmos se confundan.

      Responder
    • gmrmo - 16 noviembre 2017 - 20:16

      Estamos aquí por un trabajo de computación saludos, la verdad este tema fue muy horrible ya que internet no es del todo seguro. Hasta luego y SALUDITOSSSS A MIS FANS!! c: <3 :v

      Responder
  • #005
    Luis Hernández - 7 noviembre 2017 - 13:56

    Supongamos que un creador decide dedicar tiempo y esfuerzo a producir un vídeo para niños. El contenido es didáctico, entretenido y de una calidad aceptable con una temática escogida.
    Ello requiere esfuerzo, tiempo y a menudo una inversión ya sea en software, cámaras, etc. Si decide publicarlo en YouTube, no tiene garantía alguna de que el contenido vaya a ser rentabilizado, ni siquiera visualizado por un número apreciable de usuarios infantiles.
    Por otro lado, un oportunista, investiga cuáles son las temáticas más buscadas en YouTube, o más de moda entre los peques y produce un montón de vídeos de baja calidad y contenido más que cuestionable que inundan la red con el único objetivo de rentabilizarlos con publicidad. Un número elevado de visualizaciones está casi garantizado.
    Yo entiendo que el problema si es en parte de la herramienta que no es capaz de promocionar la calidad para darle un primer impulso.
    Mis sobrinos, con apenas 11 años, crearon un vídeo del álbum de cromos de la liga de fútbol el primer día que salió a la venta y tuvieron decenas de miles de visualizaciones.

    Responder
  • #006
    Pedro Torres Asdrubal - 7 noviembre 2017 - 14:23

    Ayer un gran canal de youtube Cody’s Lab, dedicado a la divulgación científica principalmente, esta bloqueado por tener dos “strikes”. Me sorprende que no hayas hablado del adpocalypse. Esta empezándose a hacer una bola de nieve con “creadores” siendo despreciados por youtube. Hablamos de canales que son incluso empresas con empleados, y ven como la monetización de sus vídeos depende de un bot que falla mas de la cuenta, por ejemplo, a Casey Neistat le desmonetizó una entrevista que le hizo al presidente de Indonesia.

    Mientras tanto, meten 200 millones de USD en YoutubeRED, de pago, mientras Netflix esta gastandose 8,000 millones USD. ¿No sería mejor que contraten “censores” humanos en vez de confiar en un bot que fracasa en algo tan básico como no saber que está ahí? Es lo que ha pedido Casey para aquellos canales con decenas o cientos de miles de seguidores, y la respuesta de youtube ha sido digna de Rajoy: la ignorar la pregunta.

    Se huele miedo y asco en youtube desde hace 6 meses y lejos de desaparecer, cada vez apesta un poco mas.

    Responder
  • #008
    Xaquín - 7 noviembre 2017 - 15:42

    Parece que los bots tienen problemas. ¿Y el ser humano no lleva mucho mucho tiempo teniendo problemas (y grandes)?

    Estamos con la cantinela de siempre: las armas son responsables de las guerras (y, por qué no, de los gunmen).

    El sistema político español (valga de ejemplo) no es responsable del malhacer de un homo sapiens llamado Puigdemont y un homo sapiens llamado Rajoy (aparte otros actores secundarios). El sistema político español, como internet, es bastante democrático. Es mejorable, pero eso depende de los españoles que siguen chutándose franquismo en vena como posesos.

    Salvados o GH dependen de un núcleo ejecutivo, pero también de una audiencia adicta. Y Youtube lo mismo. Cuando se pedía más libertad en España (y en el mundo) no era para que se descansara la responsabilidad paterna en los hombros de educadores, policias y políticos. Tener y educar un hijo se devaluó como si fuera moneda bananera. Nunca pedimos que se confundiera libertad con abandono!

    Acaso esa fieras tan despreciadas por muchos humanos, ¿dejan a sus crías solas, a merced de los depredadores? Así se pueden concebir (directa o indirectamente) hijos con 50 e incluso 60 años!!

    Responder
  • #009
    JJ - 7 noviembre 2017 - 16:40

    Creo que en Youtube no hay pornografía. Y los vídeos para adultos están clasificados como tales y solo accesibles con advertencia.

    Entonces, no entiendo por qué no se puede hacer lo mismo con este tipo de dibujos animados inapropiados para niños.

    Otro problema son los dibujos animados directamente pornográficos en webs para adultos y que al parecer son muy visionados sin poder saberse exactamente la edad de los espectadores.

    Responder
    • Pedro - 7 noviembre 2017 - 20:57

      El fallo está en que los vídeos para adultos se clasifican en primera instancia por quien los pone en su canal: creo que nada te impide calificar como “para todas las edades” un vídeo pornográfico en el momento en que lo añades a tu canal.

      Otra cosa será si después la plataforma verifica o no tu calificación, y si te sanciona de alguna manera por falsearla; algo que sin duda deberían hacer.

      Responder
  • #011
    Cristina - 7 noviembre 2017 - 19:35

    Cuando te refrieres a controlar, atino a comprender que es una afirmación por principio. Organizarse para monitorear la red, no debe ser muy práctico? Si se abre la puerta a demandar al proveedor de servicios, serviría para minimizar las conductas? Seria viable un organismo “regulador audiovisual” que genere standares de contenidos nocivos clasificados como advertencia al padre/madre? Los símbolos/no recomendado para, que siempre han advertido. Y funcionado? Se puede monitorizar y registrar sin denunciar? Se puede advertir de las sanciones/codigo de conducta a una cuenta con la vulneracion de una clasificación de contenido, a través de la desmonetización futura? Algunas ideas…..

    Responder
  • #012
    Pedro - 7 noviembre 2017 - 20:52

    No sé si es fácil o difícil que una plataforma lleve buena cuenta de si los contenidos son apropiados para quien los visiona.

    Algo están haciendo: después del lamentable atentado en Las Ramblas de Barcelona intenté compartir en Facebook un vídeo que circulaba por la red grabado con un móvil justo después del atentado, y Facebook me mostró un aviso en el que me avisaba de que “el vídeo que quieres compartir parece que contiene escenas que podrían ser violenas. ¿Seguro que quieres compartirlo?”. Yo hice clic en “Compartirlo de todos modos” y el vídeo se podía ver en mi “biografía”, aunque la vista previa era un recuadro negro en lugar de una imagen del propio vídeo. Lo que no sé es en qué criterios se basó el algoritmo para identificar el vídeo como posiblemente violento.

    Creo que el problema fundamental está en identificar bien al usuario -edad, país desde el que está visionando…- porque imagino que no es nada fácil comprobar la enorme cantidad de contenidos que se añaden cada día en cualquier plataforma. Solo se puede saber a ciencia cierta si una persona debe acceder a un contenido identificando inequívocamente a esa persona, mediante el DNI electrónico o algo así.

    Y, claro, si para ver contenido exclusivo para adultos nos pidiesen comprobar con el DNIe si debemos o no debemos verlo… adiós ganancias de la plataforma, creo que nadie se dejaría identificar así.

    Responder
  • #013
    Gorki - 7 noviembre 2017 - 22:04

    Creo que puede que los videos sean inapropiados, (como no los he visto no lo se) , pero también puede, que A ALGUIEN LE PAREZCAN INAPROPIADOS.

    La mayoría de los cuentos clásicos, El patito feo, El gato con Botas, Gulliver, Pulgarcito, Blancanieves, hoy parecen a muchos inapropiados por un motivo o por otro, macabros, racistas, sanguinarios, las brujas son siempre mujeres, sádicos, etc. etc. y a mi no me lo parecen- Me parece sólo cuentos, llenos de emoción, miedo y misterio y que acaban bien, que es lo que les gusta y divierte a l@s niñ@os. (pongo esta horterada, para que algún alma sensible no me tachen de machista)

    Por otra parte, los cuentos que lee mi nieta, ( Una serie de animales del la selva que colaboran para alcanzar la luna, El Hada Agua y Jabon, que la invita a que sea limpia, o Guille en la escuela, un cuento sin texto de unos niños, portandose de maravilla en una guardería, a mi me parecen aburridos y sin la menor emoción y llenos de moralina. Yo no puedo saber si quien considera adecuados los anteriores cuentos, (por ejemplo mi hijo), es el que tiene razón o soy yo el que la tiene, .Tampoco importa, porque él es el responsable de la educación de su hija como yo fui de la de él.

    Pero el problema es, ¿Quien es el encargado de decidir si por ejemplo “Correcaminos” es adecuado o no para los niños.?

    Porque lo que yo noto, es que cada vez con mas fuerza y por un motivo o por otro, (noticias falsas, rumores sin confirmar, cuentos inapropiados), cada vez con más fuerza se esta pidiendo que algún censor oficial ponga nuevamente el sello de “Nihil obstat” a todos los contenidos y sinceramente yo que he vivido media vida con censores y otra media sin censores. ( o al menos menos estos son menos videntes), consideramos que de los dos peligros existentes, un mundo de Gran Hermano censurado y dirigido o un mundo anárquico y sin control, prefiero con mucho el segundo, pues puede que sean igual de peligrosos, pero el segundo es mucho más divertido.

    Responder
    • Krigan - 8 noviembre 2017 - 08:36

      Jejeje. Ambos hemos puesto de ejemplo al Correcaminos.

      Responder
      • Enrique Dans - 8 noviembre 2017 - 08:52

        A ver, no seré yo el que empiece con clasificaciones y rankings de violencia, pero jamás tuve la impresión de que el Correcaminos me dañase psicológicamente. Sí, al coyote le pasaban auténticas perrerías (cánido al fin y al cabo :-) pero no veíamos sangre, ni vísceras, ni sesos esparcidos por el suelo como vemos en los Happy Tree Friends, que no están definidos como para niños, pero que representan una categoría que sirve de ejemplo para muchas de las barbaridades que a día de hoy hay en YouTube Kids… de verdad que lo de la oreja de Mickey es de lo más suavecito que encontré para ilustrar la entrada sin pretender ser sensacionalista, había desde porno con princesas Disney hasta auténticas barbaridades sádicas, temas obsesivos con el coleccionismo o la comida y cosas parecidas que creo que no es que sean susceptibles de provocar trastornos psicológicos a un crío, es que creo que me los podrían llegar a provocar a mí, que no soy precisamente joven ni impresionable!!

        Como el juez aquel. No sé cómo definirlo, pero lo reconozco cuando lo veo…

        Responder
  • #016
    Alex RP - 8 noviembre 2017 - 10:05

    Al leer el artículo no me ha sorprendido nada, tengo dos hijos de tres años y les gusta ver vídeos de Disney – Pixar en Youtube, cierto día pensé en la idoneidad de instalar Youtube-Kids. Lo quité a los diez minutos. En contra de lo que pensaba los contenidos que aparecía no eran para nada los más adecuados, incluso aparecía en masa aquellos que personalmente “esquivaba” en la página general (Youtube). Más que el contenido violento o poco apropiado a la edad me pareció deleznable cómo en la aplicación para los niños se multiplicaba la publicidad, se premiaban los vídeos caseros relacionados con el consumo (tiendas – unboxings – anuncios de tiendas) y desaparecían o se diluían todo el contenido que pudiendo ser formativo, creativo o mínimamente edificante. Quizás estos últimos porque infringían alguna licencia.

    Como padre me preocupa la exposición a la publicidad, la rueda consumista y la pérdida de ciertos valores. Como os comento no me gusta Youtube Kids, ahora menos, visto que sus algoritmos tampoco pueden frenar estos ataques tan directos y brutales a una infancia sana y digna.

    (modo indignado -off-, disculpad el sermón pero necesitaba soltarlo)

    Responder
  • #017
    Jaime Puig - 8 noviembre 2017 - 23:23

    Yo creo que un sistema de calificaciones que preguntara a los usuarios sobre la edad recomendada, la calidad y la temática del vídeo que acaban de ver ayudaría bastante a filtrar los mejores contenidos..

    (Un sistema así también podría estar bien para mejorar los servicios públicos.)

    Responder
  • #018
    Daniel - 9 noviembre 2017 - 07:24

    Primero dices que los empresarios deben ser disrruptivos, audaces, creativos… y luego te quejas porque lo fueron…

    Responder
  • #019
    Ivan - 9 noviembre 2017 - 15:43

    Yo he percibido el cambio en el contenido de los dibujos hace unos años y cada vez me sorprender como un dibujo que esta orientado a niño puede contener informacion fuera de contexto con escenas de agresion y ofensas, cuando antes era mas sano e inocente.

    Como dicen en los comentarios y respetando sus opiniones, la creatividad de algunas personas debe haber llegado a un limite y han buscado otra direccion para su propuesta tal vez olvidando el publico a quien se dirije lo que a mi parecer es una falta de tacto.

    Pedir que regulen este tipo de contenido es una guerra que tomara años pero siempre se buscara el vacio legal para que aun se pueda mostrar al publico, creo que por el momento y siendo su obligacion los padres deben velar por lo que sus hijos estan viendo, aunque se lo dificil que es en estos tiempos, pero hay que recordar que es y sera su principal responsabilidad, saludos.

    Responder
  • #020
    juancarlos - 9 noviembre 2017 - 19:15

    Ya se que youtube es una plataforma que puedes subir videos con total normalidad pero habeses no controlan lo que gente sube y como no lo controlan todo el mundo tiene acxeso ha este tipos de videos como los niños que son los que más usan esta plataforma

    Responder

Dejar un Comentario

Los comentarios en esta página están moderados, no aparecerán inmediatamente en la página al ser enviados. Evita, por favor, las descalificaciones personales, los comentarios maleducados, los ataques directos o ridiculizaciones personales, o los calificativos insultantes de cualquier tipo, sean dirigidos al autor de la página o a cualquier otro comentarista. Estás en tu perfecto derecho de comentar anónimamente, pero por favor, no utilices el anonimato para decirles a las personas cosas que no les dirías en caso de tenerlas delante. Intenta mantener un ambiente agradable en el que las personas puedan comentar sin temor a sentirse insultados o descalificados. No comentes de manera repetitiva sobre un mismo tema, y mucho menos con varias identidades (astroturfing) o suplantando a otros comentaristas. Los comentarios que incumplan esas normas básicas serán eliminados.

 

XHTML: Puedes utilizar estas etiquetas: A ABBR ACRONYM B BLOCKQUOTE CITE CODE DEL EM I Q STRIKE STRONG IMG

Logo de Enrique Dans

Blogestudio S.L.   
Logotipo de Creative Commons