La sociedad, la vigilancia y sus límites

IMAGE: HTX - Singapore

La policía de Singapur anuncia el despliegue de dos robots, llamados Xavier, en las calles de la ciudad-estado, destinados a detectar lo que definen como comportamientos sociales indeseables, tales como el fumar en áreas no permitidas, la venta callejera, o la violación de las restricciones de proximidad derivadas de la pandemia. Los robots reportarán esos comportamientos que violen las normas a un panel de control central en manos de la policía, y mostrarán a los presentes mensajes informativos relacionados con ellas.

El despliegue, aún en pruebas, durará tres semanas, y sigue a otros experimentos anteriores, tales como el uso del conocido robot cuadrúpedo Spot, de Boston Dynamics, para vigilar las restricciones de distancia de seguridad en parques y jardines, los robots desplegados en hospitales para llevar a cabo tareas de desinfección, o los robots courier encargados de hacer envíos a domicilio.

Los experimentos del gobierno de Singapur permiten imaginar un futuro en el que cruzarse con un robot en una ciudad forme parte de la rutina habitual, del mismo modo que hoy ocurre cuando te cruzas con un agente de policía, pero generando una mayor escalabilidad y automatización de esas tareas de vigilancia. La gran pregunta, obviamente, es hasta qué punto son este tipo de medidas de vigilancia automatizada aceptables por parte de los ciudadanos: en muchos sentidos, lo que el ciudadano desea es que se respeten unas ciertas normas de convivencia entendidas como un consenso, y el hecho de que la vigilancia de esas normas la lleven a cabo agentes de policía o robots podría ser visto como indiferente. Sin embargo, los robots, en gran medida debido a la novedad de su uso o a su capacidad para grabar y enviar esos comportamientos, provocan todavía una sensación distópica que los agentes de policía no suelen generar, y tienden a resultar polémicos.

¿Están justificadas ese tipo de reacciones de aversión de los ciudadanos al uso de robots para vigilar el cumplimiento de las normas, o se trata simplemente de un problema derivado de la falta de familiaridad con ese tipo de tecnología? Si entendemos la convivencia social como un contrato que dicta una serie de normas, ¿debemos considerar que el uso de tecnologías como los robots para garantizarlas está más allá de los límites de lo socialmente aceptable, o es simplemente una extensión más del trabajo de los agentes de la ley, y por tanto tan aceptable como el que haya policías patrullando la calle de manera rutinaria, o cámaras monitorizadas en todos los rincones de la vía pública? Cuando comenzó su uso hace algunas décadas, las cámaras de monitorización estuvieron sujetas a cierta polémica, que en la mayor parte de los casos parece haberse normalizado, posiblemente con la posible excepción de su uso combinado con tecnologías de reconocimiento facial. ¿Hay una gran diferencia entre que nuestras ciudades estén erizadas de cámaras, y que esas cámaras vayan montadas sobre un dispositivo dotado de cierta movilidad?

¿Verán las futuras generaciones de ciudadanos el uso de robots en las calles como algo perfectamente aceptable, como una parte del paisaje urbano destinada a asegurar una convivencia social razonable? ¿O serán vistos como armas de vigilancia o instrumentos de monitorización constante en el contexto de una sociedad policial? ¿Es esa aceptación dependiente de cómo de garantista sea la sociedad en cuestión, o resulta un uso ofensivo o polémico en cualquier sitio? ¿Estamos ante un futuro que se anuncia a sí mismo y que simplemente se normalizará con el tiempo y la costumbre, o ante una ruptura del contrato social que torna nuestras sociedades en entornos de constante e inaceptable vigilancia?


This article is also available in English on my Medium page, «What are the limits of surveillance?«

27 comentarios

  • #001
    Alberto - 13 septiembre 2021 - 12:50

    Desde me punto de vista el gobierno (local, regional, estatal) no solo tiene el derecho sino también la obligación de controlar por los medios disponibles los ‘comportamiento indeseables’ dentro del espacio público.
    Para mi es inconcebible que me pase algo grave (violación, secuestro, asesinato) en mitad de una calle del centro y no se pueda saber que pasó por no tener una cámara ‘pública’ y se tenga que mendigar las grabaciones de bancos y otros comercios.
    Aquí no hay perdida de privacidad ya que es un espacio público. ¿si hubiera 100 policias humanos en cada calle tambien se quejaria la gente de que no pueden hacer no se que cosas por que los están mirando ?

    Responder
    • Pep - 13 septiembre 2021 - 19:21

      Inconcebible es que un político me grave recolocandome el paquete en mi tranquila ciudad, amparándose en delitos que se cometan raramente en una Favela Brasileña.
      #paranoia #falsoPositivo #sodiedadDelMiedo

      Responder
    • Dedo-en-llaga - 14 septiembre 2021 - 17:13

      Ah, curioso comentario, pero si eso mismo ocurre en el medio de una carretera secundaria -donde no hay nada-, y a plena luz del día, ¿entonces sí que sería concebible? En mitad de una ciudad, no sé si lo sabrá, hay lo que se llama «testigos», o sea, gente común y corriente que, desde tiempos inmemoriables, suelen actuar de registro de lo que ocurrió. ¿Son más fiables o menos fiables que una cámara o un robot? Son exactamente igual de fiables, ni más ni menos.

      Responder
  • #004
    Gorki - 13 septiembre 2021 - 14:08

    Singapur, la primera sociedad distópica, con lo bueno y lo malo que ello supone. Para mi, insoportable.

    Responder
    • meji yon - 13 septiembre 2021 - 16:07

      Hasta que no los manden a Barna a la Liada, tontería de demo…

      Responder
      • Gorki - 14 septiembre 2021 - 20:21

        Y peor aun, si además el Okupa tiene el COVID

        Responder
  • #007
    JM - 13 septiembre 2021 - 14:53

    Pienso que todas estas medidas utilizan la excusa de hacer cumplir las normas sociales para otorgarle
    un poder sin control ni supervisión a un agente externo controlado por políticos, empresas u otros desconocidos.

    Ha habido a lo largo de los últimos años muchos casos de falta de control de la información obtenida en redes sociales y otras fuentes, incluso casos de agentes de servicios de inteligencia y seguridad que la han usado para sus propios fines.

    ¿Qué haría un gobierno de ideología ultra que dispusiera de estos medios?

    Una vez que estos medios, ya sean robots, o cámaras difícilmente habría una vuelta atrás en caso de que las instituciones hagan un uso indebido de ellos.

    Además creo que no son realmente necesarios. ¿Quién no lleva una cámara encima que podría utilizar para denunciar estos mismos comportamientos antisociales? Sólo sería necesario facilitar la denuncia ofreciendo los medios para ello como hace por ejemplo el Ayuntamiento de Madrid con las denuncias de tráfico: https://pedalibre.org/2021/04/08/como-hacer-una-denuncia-a-requerimiento-por-internet-sobre-infracciones-de-trafico-en-madrid/?utm_source=pocket_mylist

    Naturalmente habría que proveer medios para que las denuncias fuesen atendidas diligentemente, algo que en España es poco frecuente.

    Esto haría que los ciudadanos tuviesen en su mano el cumplimiento de las normas en lugar de delegarlo en otras entidades que las harán cumplir o no según sus intereses.

    Responder
    • Dorado Comandante - 13 septiembre 2021 - 15:03

      Cuidado con dar a la turba el poder de denunciar con un móvil, que luego tenemos a la «policia del balcón» y ya sabemos en lo que se convierte eso. Picas y antorchas sobre cualquiera, sin pararse a pensar en lo que está sucediendo.

      Para estas cosas ya están los que deben estar, los que tienen poder y facultad para ello, los cuerpos y fuerzas de seguridad del Estado. El problema realmente es la falta de medios y personal del que disponen. Y la asquerosa burocracia y Justicia que tenemos en este país, en el que según entran por la puerta de la comisaría, están saliendo.

      Responder
      • meji yon - 13 septiembre 2021 - 16:14

        Llamar turba a los ciudadanos que cumplen con su deber me parece que es infame

        Código de Procedimiento Penal

        Artículo 67. Deber de denunciar

        Toda persona debe denunciar a la autoridad los delitos de cuya comisión tenga conocimiento y que deban investigarse de oficio.

        El servidor público que conozca de la comisión de un delito que deba investigarse de oficio, iniciará sin tardanza la investigación si tuviere competencia para ello; en caso contrario, pondrá inmediatamente el hecho en conocimiento ante la autoridad competente.

        Responder
        • Gorki - 13 septiembre 2021 - 21:43

          Realmente llamarlos turba es injusto, lo adecuado es llamarlos chivatos

          Responder
          • meji yon - 14 septiembre 2021 - 12:11

            Eso depende de tu punto de vista. Si por ejemplo okupan tu casa de Principe de Vergara y nadie avisa a la policia, y cuando vuelves de vacaciones tienes a los Picapiedra con un papelito que ellos han entregado en comisaria diciendo que ahoran viven en tu casa, seguro que pensarias que tus vecinos son unos cabrones por no chivarse a tiempo.

            Eso si, lo contentos que se ponen las empresas de seguridad, que estés cagado por si pasa eso…

          • Marcos - 14 septiembre 2021 - 21:54

            Para Yon.

            Igual en vez de esperar que un vecino vigilante avise a la policía de que han entrado en mi casa, debería de haber leyes que si se conoce como mi propiedad y mi casa, se les pueda echar rápidamente sin miramientos y cámaras.

            Arreglado.

        • Dorado Comandante - 14 septiembre 2021 - 00:27

          El camino al infierno está lleno de buenas intenciones.

          Las masas con poder para señalar nunca han traido nada bueno. Confiar en el buen hacer de la gente a la que le das un dedito acusador es, cuando menos, candorosamente pintoresco.

          Tan candoroso como creer que en medio de un delito, el perpetrador va a dejarse grabar por el fulano del móvil sin meterle un poco de sentido común en el cuerpo. Luego vendrán los lloros, «ay que me le han matado y solo grabó con el móvil como buen ciudadano»

          Otra cosa es que estés pensando en chorradas como denunciar un bordillo roto o una acera con un agujero. Que para eso no hace falta tanta parafernalia.

          Pero hijo mío, ¿gente grabando delitos con el móvil en plan justicieros de la noche para luego poder denunciar en la policia? ¿En qué mundo de florecillas vives tú?

          Responder
          • meji yon - 14 septiembre 2021 - 11:29

            Nadie habla de

            a)masas
            b)grabar con el móvil

            Simplemente

            Si una persona presencia un presunto delito su obligación es la que cita el artículo citado. Si acompañas esa denuncia con indicios, como por ejemplo una grabación, más testigos, etc entiendo que le va a ser más fácil a la justicia,

            Por otro lado si lo que te asustan son las masas que poder, no se que haces que no defiendes una dictadura, que no nos dejen votar, o que haya medios que nos informen verazmente., etc etc.. pasas de de dorado a trasnochado comandante…

  • #015
    menestro - 13 septiembre 2021 - 15:29

    Actualmente, todo lo que implica reconocimiento facial está siendo suspendido en Europa y en gran parte de las ciudades de EE.UU., tal como yo mismo comenté hace algún tiempo, cuando se puso de moda, debido a que afecta a datos de carácter sensible y no se puede aplicar ese tipo de vigilancia.

    (véase Mercadona)

    Las cámaras de vigilancia no se pueden utilizar si no existe un marco legal que lo justifique. Solo las fuerzas de seguridad tienen esa potestad, en lugares especialmente sensibles, como aeropuertos o edificios de la administración.

    Y así va a continuar. Teniendo en cuenta que Singapur es el país con las leyes más estrambóticas del hemisferio, y que tiene más en común con Corea del Norte, donde la posesión de chicle es delito y las condenas se cumplen con azotes de vara.

    Los robots y la «ciencia ficción» bueno, al margen de que no hay tiene mucha utilidad dejar que un robot vague por la vía pública, con el riesgo de ser vandalizado, al ser una cámara móvil está sujeto a la misma legislación que las cámaras de vigilancia tradicionales. No es posible su uso indiscriminado.

    Por lo demás, todos los días me cruzo con un robot y tropiezo con él, se llama roomba y no es la mucama de Los Jetsons (supersónicos).

    Esa idea antropomórfica de la tecnología y las delusiones de humanización, en el que proyectan efectos pigmalión, o se perciben amenazas del estilo del Frankenstein del siglo XIX, no son más que proyecciones y clichés.

    Teniendo en cuenta que el efecto «Frankenstein» o Golem o Pathos, tuve que estudiarlo en la facultad con 20 años, creo que los robots asesinos y los algoritmos represores políticos y morales son una seria amenaza que podrían matar de aburrimiento a cualquier profesional del tema.

    (No sé a los vigilantes de la moral y el dogma tecnológico)


    Uncanny Valley

    Responder
  • #016
    FER - 13 septiembre 2021 - 16:19

    Me pregunto si el nombre del robot de marras será intencionado

    https://es.wikipedia.org/wiki/Charles_Xavier

    Responder
  • #017
    Benji - 13 septiembre 2021 - 16:27

    En londres hay más cámaras que en todo Singapur. Y china ni las necesita para encontrar comportamientos anómalos entre sus ciudadanos

    Yo creo que la distopia ya llegó, pero no nos hemos dado cuenta aun: la privacidad es un espejismo.

    En China: WeChat
    En Londres: cámaras
    En Singapur: robots
    Es España: Hacienda

    Responder
  • #018
    Xaquín - 13 septiembre 2021 - 17:46

    Resulta curioso el ritmo de avance tecnológico, pero cada vez se hace más normal pensar en las imágenes que mostraba «Yo, robot». Que en su momento resultaban algo alucinantes.

    Pero precisamente en esa película se muestra muy bien donde está el peligro real. Que no es en los robots «ayudantes», si no en su mal uso, como siempre debió estar claro, cuando los humanos hablamos de la tecnología.

    Pero en esa peli se muestra el quid del problema con la tecnología. No es el producto tecnológico, el culpable de los problemas que plantea su uso. Porque el brazo protésico del inspector no presenta ningún problema, aparte de ser algo «superhumano».

    El problema esencial del inspector Spooner, está radicado en su cerebro natural. Una mentalidad que no admite lo positivo de la ciencia, porque sigue anclado en la falsa superioridad del cerebro humano natural.

    Que, por cierto, no es que sea falsa esa «creencia». Lo falso es no saber usar el cerebro humano con eficiencia, para filtrar lo que parece ser de lo que realmente puede ser. «Ver» una acción delictiva en una de apoyo a tu propietaria humana, no e precisamente un buen uso de tu capacidad cerebral. Como otros muchos casos, un mero ejemplo de obsesión compulsiva. Y como el mal uso de una computadora, no es para nada responsabilidad de la computadora. Porque el cerebro no se va de vacaciones simplemente porque le «da la gana». Tuvo que ganar algún tipo de boleto viajero, en las múltiples jugadas de su poseedor, cuando tomó decisiones negativas anteriores, voluntaria o involuntariamente.

    Y, ¿no es el mismo mecanismo mental, que hace a un dictador decidir que es lo bueno y lo malo, al valorar la acción de un disidente?

    Responder
  • #019
    Chipiron - 13 septiembre 2021 - 17:47

    Partiendo de la legalización de la grabación en exteriores sin necesidad de pedir permiso, creo que no hay nada especialmente nuevo salvo la propia percepción del ciudadano.

    Si que es cierto que el reconocimiento facial puede ser un aspecto polémico y hasta poderse prohibir, pues nuestra privacidad no puede quedar reducida a recintos particulares, creo yo…

    Responder
  • #020
    Echo - 13 septiembre 2021 - 18:49

    Creo que el uso de robots para control ciudadano (lo llamarán de seguridad) acabará siendo una realidad. Aunque antes de eso, supongo que los humanos tendremos que habernos habituado a su presencia en otros ámbitos menos delicados. Tareas de servicios y demás. Pero, una vez ya estemos familiarizados con ellos, fijo que sí. Aunque eso yo no lo veré.

    Responder
  • #021
    Mauricio - 13 septiembre 2021 - 20:43

    Todas estas iniciativas que pretenden, de una u otra manera, llenar de cámaras y micrófonos el mundo van en la dirección equivocada. Una de las cosas que más me gustó de Alemania cuando llegué aquí desde Ecuador es el alto nivel de confianza que hay en la gente, lo que hace que no exista algún tipo de control de boletos antes de subir al metro o al tren, que puedas entrar al supermercado sin tener que dejar en alguna casilla tu mochila o cartera o que recibas atención médica y que el recibo de pago llegue a tu buzón dos semanas después. Esa misma confianza es la que hace que mucha gente que se ha olvidado de comprar su boleto de tranvía lo compre después de haber viajado, aunque nadie se haya enterado de su error. Esta es la dirección correcta.

    Lamentablemente, lo que está haciendo el mundo es imitar la paranoia de algunos poderosos gobiernos de oriente y occidente y creer que la solución a todos los males es que todos estemos completamente vigilados. Me sorprende que en los últimos años nadie menciona a Lawrence Kohlberg y sus estadios del desarrollo moral y que pocos reparen en el hecho de que el nivel más bajo de dicho desarrollo —someterse a las reglas solo por temor al castigo— es algo que debería ser superado a los seis años de edad. Es más, muchísimas gente parece que se encuentra en los estadios dos y tres y no parece que los que quieren llenar las cárceles de infractores o las arcas fiscales de multas se encuentren ellos mismos en los estadios cuatro, cinco o seis.

    Responder
    • meji yon - 13 septiembre 2021 - 21:04

      Felicidades Mauricio por tu comentario lleno de sentido común y dejando la experiencia de un pais supuestamente civilizado como lo que es una prueba de la payasada y del autoritarismo de cuatro cutre gobernantes podridos de dinero y falatos de educación en valores de urbanidad

      Recomiendo la película

      https://archive.org/details/UnFranco14Pesetas

      para quien crea que es un «mito» lo que expone Mauricio

      Responder
  • #023
    Nexus 68 - 13 septiembre 2021 - 21:59

    Si nada haces…nada temes. Y si no quieres seguir en este mundillo…coge el móvil y te lo comes….

    Responder
    • Dedo-en-llaga - 14 septiembre 2021 - 17:19

      Ya salió el comentario del que se cree superinocente, del que mira por encima del hombro a todos los demás… No, mire usted, deme acceso a una cuentas imágenes suyas, y verá cómo le armo un proceso penal del que no se libra ni que le ayude el antiguo emérito, ese otro que nos daba discursitos cada finde como el suyo, de superincocente y ejemplo de extraordinario ciudadano para toda la humanidad… Ya está bien!

      Responder
  • #025
    Alebuyee - 14 septiembre 2021 - 00:11

    Ya mismo nos va ha multar nuestro propio coche conectado.

    Responder
  • #026
    Matt - 14 septiembre 2021 - 01:34

    Los Villarejos y las policías políticas de turno cada vez tendran que esforzarse menos.

    Responder
    • Demócrito - 18 septiembre 2021 - 07:00

      Uuufff. Miedo dan esos funcionarios públicos encargados de nuestra seguridad, al estilo Villarejo, y con estos juguetitos robóticos por las calles.

      Responder

Dejar un Comentario

Los comentarios en esta página están moderados, no aparecerán inmediatamente en la página al ser enviados. Evita, por favor, las descalificaciones personales, los comentarios maleducados, los ataques directos o ridiculizaciones personales, o los calificativos insultantes de cualquier tipo, sean dirigidos al autor de la página o a cualquier otro comentarista. Estás en tu perfecto derecho de comentar anónimamente, pero por favor, no utilices el anonimato para decirles a las personas cosas que no les dirías en caso de tenerlas delante. Intenta mantener un ambiente agradable en el que las personas puedan comentar sin temor a sentirse insultados o descalificados. No comentes de manera repetitiva sobre un mismo tema, y mucho menos con varias identidades (astroturfing) o suplantando a otros comentaristas. Los comentarios que incumplan esas normas básicas serán eliminados.

 

XHTML: Puedes utilizar estas etiquetas: A ABBR ACRONYM B BLOCKQUOTE CITE CODE DEL EM I Q STRIKE STRONG IMG