Entendiendo la psicología del abuso en la red

Image: Ochikosan - 123RFEl CTO de The Huffington Post, John Pavley, avanza algunas de las ideas de cara al plan de acabar con los comentarios insultantes o abusivos en su página, y continúa vinculando el abuso en la red con la necesidad de un sistema consistente de autenticación, y de avanzar con proveedores de correo electrónico y de conectividad para evitar, o cuando menos dificultar, la obtención de una nueva identidad virtual.

El problema, que avanzamos ya hace pocos días en una entrada titulada “El anonimato como derecho“, radica desde mi punto de vista en una inadecuada comprensión de la psicología del abuso en la red. El problema, sin duda, es serio: hablamos de tragedias personales y de víctimas reales y potenciales, no simplemente de una palabra más alta que otra, pero debemos ser muy cuidadosos y resistir, como en tantas otras ocasiones, la tentación de hiperlegislar y de crear monstruos.

En efecto, una parte del fenómeno asocia los comportamientos abusivos, los insultos, las amenazas y el trolling en general con factores relacionados con el efecto Giges, o efecto de desinhibición online provocado por la ausencia de retroalimentación en el córtex orbitofrontal, como el psicólogo Daniel Goleman detalló en un artículo de 2007 en The New York Times titulado Flame first, think later: new clues to e-mail misbehavior.

Sin embargo, mi impresión es que el aspecto neuropsicológico es tan solo uno de los factores implicados en el fenómeno. Eliminar o dificultar el anonimato puede contribuir a reducir el abuso, pero también se lleva por delante importantes derechos, desde empobrecer de facto el diálogo en la red suprimiendo posturas que solo pueden expresarse desvinculadas de una identidad, hasta desproteger a las mismas personas a las que pretendía supuestamente proteger. Es preciso avanzar en una línea diferente: la que afirma que cualquiera, incluso personas educadas y bien ponderadas en su vida cotidiana, pueden convertirse en trolls o escribir comentarios inadecuados si se dan determinadas circunstancias.

La pregunta es tan fundamental como “¿el troll nace o se hace?” ¿Es adecuado, una vez identificada la persona que ha cometido abusos en la red  – insultos, amenazas o hate speech en general – tratar de excluirla completamente del diálogo en la red? ¿Debería el hecho de haber actuado como un troll convertirse en algo, por así decirlo, vinculado a su curriculum, como si fueran unos antecedentes penales? Confieso que, en algunos momentos, he fantaseado con la idea de identificar y avergonzar públicamente a determinados trolls anónimos, pero por lo general, esa tentación desaparecía cuando veía que en muchos casos se trataba o bien de adolescentes con granos que seguían dinámicas de grupo absurdas y que solo habrían requerido de unas cuantas azotainas de sus padres en los momentos adecuados, o de personas que, en su vida cotidiana, resultaban ser perfectamente normales y educados. Si efectivamente hay circunstancias en los que casi cualquiera puede llegar a comportarse como un troll, ¿no deberíamos tal vez centrarnos en el control del contenido y no tanto en el de la persona?

Algunos temas, indudablemente, exacerban la violencia. Del mismo modo que una persona pacífica y civilizada puede soltarle una serie de barbaridades a otra por el simple hecho de ir vestida de árbitro en un encuentro de fútbol, hay temáticas y circunstancias – el deporte, la religión, la política, o incluso cosas más curiosas y aparentemente menos obvias como los sistemas operativos – en las que los comentarios tienen habitualmente mayor tendencia a salirse del tono adecuado. Además, sabemos que la violencia engendra violencia: no es lo mismo tirar la primera piedra que responder a una serie de pedradas, o que unirse a una batalla campal en la que todo el mundo está tirando piedras. Todo indica que, en realidad, lo correcto no es necesariamente etiquetar a la persona por un comportamiento que tal vez pueda ser aislado, sino tratar de poner freno al comportamiento en si.

La respuesta, en mi experiencia de más de diez años gestionando una página con abundante participación, aunque obviamente no comparable a la de un medio como The Huffington Post, está en el establecimiento de un sistema que ponga el énfasis en el control de los contenidos, no tanto de las personas. Que los contenidos deban pasar un filtro asociado con su contenido, una pre-moderación por defecto que combine elementos algorítmicos y manuales, que cubra también todo lo derivado del “factor forma”: algunos de los comentarios que más me han irritado y que, sin ninguna duda, he identificado como un abuso o incluso con un claro acoso intencionado no tenían una palabra más alta que otra. Esta pre-moderación se elimina únicamente cuando el comentarista, de forma voluntaria, decide ofrecer un elemento, nombre o seudónimo, que permite su identificación y certifica una tendencia a comportarse de manera habitualmente respetuosa o acorde a las reglas establecidas para la participación en ese foro. Eso limita el abuso a casos aislados, porque el usuario que goza de un estatus de “parroquiano habitual” no quiere perderlo y pasar por otro período de “demostración de buena conducta” para volverlo a obtener. Y por supuesto, no impide llevar a cabo un control más rígido en los casos en los que las circunstancias del abuso conlleven un posible delito: no es lo mismo un simple insulto expresado de maneras más o menos directas, que una amenaza de muerte o de violación, o un acoso sostenido.

Un sistema así, combinado con mecanismos sociales que colaboren a identificar comportamientos infractores, no elimina el derecho al anonimato: simplemente obliga al anónimo a pasar por una pre-moderación. Si el anónimo quiere pasar a un estatus superior en el que sus comentarios aparecen automáticamente tras darle al botón “Publicar”, puede optar por un pseudónimo, que pasará a obtener dicho beneficio tras un cierto período de prueba, y lo perderá en caso de abuso, o mantenerse como anónimo. Desde un punto de vista operativo, la pre-moderación supone un esfuerzo importante en el primer momento de su establecimiento, pero todas las pruebas efectuadas afirman que dicho esfuerzo disminuye notablemente cuando la comunidad generada se estabiliza: el incentivo al comentario violento desaparece, los trolls se van a otro sitio, y la autorregulación tiende, por lo general, a prevalecer. El sistema, por supuesto, no es perfecto: puede permitir ciertos esquemas de abuso, generalmente leves y que se pueden obviar mediante un incremento del componente manual de la supervisión. El problema es sin duda complejo, y no hay sistema perfecto Pero sobre todo, sus efectos, en todos los sentidos, son mucho menos perniciosos que la obligatoriedad de una identificación y el sacrificio taxativo del derecho al anonimato.

Casi veinte años después del inicio de la popularización de la red, ésta continúa siendo un entorno en el que muchos de los protocolos de uso están aún a medio desarrollar, y en el que conviven personas con muy diferentes niveles de experiencia. Los sistemas de educación mediante los cuales las personas adquieren dichos protocolos de comportamiento están, en la mayoría de los casos, aún enfocados únicamente al mundo offline: en pocas clases en los colegios se educa en temas relacionados con la participación y el comportamiento en la red, y muchas familias tienden a obviar el tema por puro desconocimiento. No hay tanto “nativos digitales” como hay “huérfanos digitales”, personas que aprenden a desarrollar sus comportamientos en la red en ausencia de toda supervisión. Con el tiempo, el desarrollo de la netiqueta se verá tan natural como se ven las reglas de educación más básicas fuera de la red, sin que nadie nos haya obligado a circular por la calle con nuestra identidad en un badge en el pecho. Mientras tanto, intentemos atajar los problemas profundizando en la psicología del abuso, sin que ello conlleve perder derechos ni desproteger a aquel al que supuestamente intentábamos proteger.

 

(This post is also available in English in my Medium page, “Understanding the psychology of online abuse“)

12 comentarios

  • #001
    Luis - 29 agosto 2013 - 14:33

    Enrique estás perdiendo el uso del castellano que ya no te salía la palabra identificación y pusiste badge ;-)
    En resumen, esto no tiene remedio, somos humanos y latinos para más INRI. Y yo empezaría a llamarles tocap… en vez de trolls… que así se entiende mejor.
    Sí es importante recordar que la educación la recibimos en casa y no en el colegio. Cosa que parece que los padres han olvidado en los últimos tiempos.
    Vou tomar un platiño de caldo á túa saúde ;-) deica.

  • #002
    Antonio Castro - 29 agosto 2013 - 15:07

    A los que no toleramos la intolerancia se nos suele tachar de intolerantes.

    La libertad de expresión es sin duda un derecho fundamental, pero una cosa es expresarse y otra usar la palabra para agredir, bien sea por un patológico placer de gente que no tiene otra forma de sentirse importante, o porque tus ideas resultan ofensivas para alguien que siente la obligación moral de que todo el mundo piense igual que él.

    Lo que sí parece que todos tenemos muy claro la necesidad de censura de los mensajes publicitarios de Spam.

    Me parece que un blog es un poco como si fuera la propia casa y habrá quien tenga la piel muy fina y otros que la tengan muy gruesa. No todas las situaciones son claras. No todo es blanco o negro, la intencionalidad o la reincidencia son factores clave a considerar.

    A los que se quejan de algunos de mis artículos de contenido ateo beligerante, y que me acusan de ofensivo y/o blasfemo siempre les digo que el ofendido soy yo, y que no considero respetables todas las opiniones. Yo no obligo a nadie a leer mis artículos, pero a mí me obligan a pagar el sostenimiento de unas creencias que considero retrógradas y socialmente dañinas.

    El problema no es solo de falta de educación sino de la mala educación. Hemos vivido 20 siglos de dominación católica en Europa y en EE.UU empezaron más tarde pero no se quedaron atrás. La inquisición supuso casi cuatro siglos de terror protagonizada por una institución que lejos de pagar por ello, aún hoy continua siendo la más poderosa del planeta.

    No solo es la religión. Hay muchas formas de mala educación y dar vía libre a la mala educación no beneficia en nada a nadie.

  • #003
    Carlos Ybarra - 29 agosto 2013 - 15:25

    En lugar de censurar comentarios, la “emprendedora” Ariana Huffington podría dedicar parte del dinero que gana a pagar a sus colaboradores, que con la excusa de la “nueva economía” se está lucrando con el trabajo desinteresado de otros… Sí, la visibilidad está muy bien, pero no se come.

  • #004
    Marco FLORES - 29 agosto 2013 - 15:49

    Estoy por convencerme de que al The Huffington Post se le está haciendo muy difícil la transición mundo on line, pretender controlar a los trolls es como querer evitar los escritos en las paredes de los baños públicos, mientras más atención se les dedique más insistentes son.

    Yo siempre apuesto por lo viejo conocido: Al troll se le ignora.

  • #005
    Cristina - 29 agosto 2013 - 17:32

    Me lo estoy estudiando :-)

    http://lasindias.net/indianopedia/Netiqueta

  • #006
    Jesus Rodriguez - 29 agosto 2013 - 18:54

    Todos los actos despropocionandos,ofensivos que a diario cometen muchas personas atraves de la Web,Red o Internet;son a mi modo de ver y entender,el producto de la Disociasion Spicotica que durante muchos años han venido generando en ellas los Medios de Comunicacion Televisivos,Radiales y Escritos en todo el Mundo.Los medios hacen creer a las personas que se puede tener poder atraves del dinero y que todo lo puedes hacer y comprar con el;puedes irrespetar,ofender,sentirte poderoso y en fin violar todas las normas Eticas y Morales, sin que te pase nada porque tienes Poder Economico, este poder se Traduce en Poder Politico,Social,Moral,Etico,Religioso y en fin todo tipo de poder, porque tienen como comprarlo.En muchos paises latinos se conoce atraves de las noticias, que muchas instituciones son permisivas, los apoyan,porque permiten que hagan lo que quieran.Ese comportamiento generado desde el hogar en la educacion de sus hijos,se lo trasmiten y los hacen sentir poderosos dueños del mundo y capaces de hacer lo que les venga en gana;todo esto corresponde a una politica del gran Capital,para hacer que los pueblos del mundo olviden su cultura y se comporten como ellos quieren que sean,peronas sin escrupulos capaces de venderse por dinero,apatridas y con toda la disposicion de entregar su patria al gran capital imperialista que se cree dueño de todo.

  • #007
    Gorki - 29 agosto 2013 - 22:28

    Creo que hablar de trolls como un problema general, es tener una vision deformada de la realidad del problema, a causa de ser una víctima de ellos. Unos pocas y privilegiadas páginas tiene trolls, muchos trolls, el resto de las páginas. o sea el 99% de las que existen, contemplan este problema desde la barrera de la falta atractivo para los trolls.

    Este blog recibe la vista de muchos trolls y de no pocos pelmazos que sin llegar a ese nivel, hacen gala de mala educación. Pero ese es el precio de la gloria. 5 años de bloguerro, 3.500.000 post leidos y 6000 comentarios, solo han tenido dos troll, es decir autemticos “tocapelotas” recalcitrantes, (el que discrepa que de esos si los hay naturalmente, no es un troll, aunque a veces te moleste), y tres o cuatro comentarios 100% soeces. pero no de trolls, sino de personas que escriben un comentario, como escribirían en un muro en blanco de la calle, si llevaran un spray en la mano.

    Como mi blog es normal, he de pensar, que de forma generalizada, no existen los troll y solo determinados medios los atraen por tres motivos. porque su editor genera envidia, (como me parece que es tu caso), porque pueda tener mucha difusión, como pu3da ser las páginas de un periódico digital incluido el Hulfinton, o que el editor o autor genera odio como pudiera ser una página de un político o de una autoridad eclesiastica.esiástico,

    Fuera de esas páginas privikegiadas, no hay trolls (o son tan estraños que hasta te hacen gracia), aunque si puede haber ataque aislados y dirigidos a una adolecente, o de un ex novio, o cosas por el estilo, más relacionadas con agresiones sexuales, o buling que con trolls y mas perseguibles por la policía que por el censor.

    Creo que una labor de moderacion es lo adecuado al caso, pero respeto que cada cuyal tome en su página las medidas que crea oportuno. Microsiercvos cerraron los comentarios, otros piden que te registres, y otros no piden nada pero borran lo que les parece, cada cual que haga lo que crea conveniente. Pero mi opinión es que internet es CONVERSACION y dificultar los comentarios es ir contra el espíritu de Internet.

    No obstante, creo que en Internet pasa como con el mundo real, los que aquí tiene trolls, en gran medidad tiene que llevar guardaespalas por que en la calle, puede igualmente ocurrir que sean atacados por individuos psicoticos, no creo que Pedro j Ramirez o Bisbal no puedan tener un mal encuentro en un bar, y creo que tu mismo tuviste que sufrir una agresión de uno de estos “enfermos”, yo encambio puedo andar tranquilamente, porque si alguien quiere romperme la cara con seguridad alguna razón de peso tendrá aun que no sea el motivo o la respuesta proporcionada.

  • #008
    José Ignacio - 30 agosto 2013 - 10:17

    La psicología del troll queda incompleta si no consideramos también la psicología del trolleado. ¿Podría Teddy Bautista (o alguien de la industria musical) haber considerado en su círculo más intimo que tu eras un troll suyo?

    Me explico, eres una persona educada, con unas ideas muy claras y que estás ejerciendo una crítica con absoluta educación y respeto a la persona pero no a las ideas de esta o a la forma de argumentarlas. Y sin embargo, estoy más que seguro que habrás sido considerado como un troll por alguien alguna vez.

    Becker ya dijo que es una lástima no tener un diccionario donde poder consultar cuándo el orgullo es orgullo o simplemente dignidad.

    Yo, sin ir mas lejos creo que soy considerado por ti un “semi-troll” tuyo. Sigo tu blog, considero muy interesantes tus reflexiones, comparto enlaces de tus artículos y participo de vez en cuando en los comentarios cuando considero que puedo aportar algo. Tampoco me escondo en el anonimato (siempre procuro identificarme) y sin embargo tengo un bloqueo tuyo en twitter desde hace varios años. (Disclaimer: Realmente importa poco eso, tan sólo lo pongo a modo de ejemplo. Ni estoy ofendido ni orgulloso como para poner en mi perfil “bloqueado por @edans”).

    Evidentemente, hay una serie de líneas rojas como insultos o descalificaciones gratuitas en la que todo el mundo está de acuerdo en calificar al troll. No obstante, hay una gran zona gris en la mitad donde el definir un troll se hace más difícil y variará según el trolleado.

  • #009
    Antonio Pineda - 30 agosto 2013 - 12:20

    Hablar del derecho al anonimato en la red es un tema que puede convertirse en una enciclopedia universal, sobre todo ante el gran desconocimiento que hay en general sobre nuestra privacidad en la red. Además, el hecho de tener una ip, ya sea dinámica o única, deja un rastro muy útil para los sistemas informáticos de los servicios secretos de cada uno de los países de este planeta. Queda mucho por hacer, sobre todo en un país donde el derecho al olvido online no lo tiene ni claro los propios jueces que firman sentencias.

  • #010
    Jos - 30 agosto 2013 - 13:24

    ¿Cual es esa otra página que gestiona Dans? ¿También es de noticias de tecnología?

    He estado buscando y no encuentro nada.

  • #011
    Carlos Ybarra - 30 agosto 2013 - 17:36

    Parece que el Nuevo Periodismo de la Red, basado en el concepto “Mis empleados trabajan gratis, ofrezco mi producto gratis y mi empresa no necesita dar beneficios para que yo me forre” empieza a dar preocupantes señales de no ser tan buena idea:

    http://www.thewrap.com/media/column-post/huffpost-live-closes-la-office-lays-staff-it-shifts-focus-114191

  • #012
    mercadder - 30 agosto 2013 - 19:20

    Sistemas de control de comentarios con o sin intervención humana no tienen ningún futuro ideal, porque no somos santos, todos, incluso tu y tu, somos malos de nacimiento, y a pesar de que nuestra educación nos controla esa parte primitiva que llevamos dentro siempre aflorará cuando menos lo esperamos.

    Hay sitios que tienen un grupo de moderadores como el muy odiado por mí: menéame,com, que no entienden de qué va la vida en internet. Bloquean o banean todo lo que se menee, leáse lo que ellos consideran spam, es decir porteros de discoteca: el poder de decidir en las manos de un tonto.

    Si enrique, por ejemplo, va a esos sitios inútiles (no hay una comunicación que satisfaga el enriquecimiento intelectual, si no que la mayoría es cotilla barata), y menea dos o tres de sus útiles posts, estos gorilas entienden que enrique esta haciendo “auto-spam”. Ellos no son expertos en analizar el contenido, así sea de un vistazo, sólo ven que un mismo usuario está posteando entradas de su blog. Solución: baneo.

    Manejar comentarios en el vasto oceano de internet es una tarea titánica, es una lucha de inteligencia en sí misma. Lo que muchos pueden considerar un troll, puede tratarse de un extremadamente inteligente usuario con un sarcasmo o ironía de la ostia (no hay de esos por estos lares, por cierto), que puede contribuir, a su manera, a los comentarios; pero que seguramente puede tocar las fibras de aquellos débiles de mente y hacerles encender irremediablemente.

    No es que haya perdido la fé en los seres humanos, es que estamos en un momento de la civilización en la que “o corres o te apartas”.

Dejar un Comentario

Los comentarios están cerrados