Tecnología, vigilancia y estado del bienestar

IMAGE: Betty Snake on Flickr (CC BY)

Un tribunal de los Países Bajos ordena al gobierno que deje de utilizar algoritmos de inteligencia artificial para tratar de detectar fraudes en los subsidios condicionales que el gobierno entrega a determinados ciudadanos.

El sistema de indicación de riesgos (SyRI) del gobierno holandés es un modelo de machine learning desarrollado a lo largo de la última década por el Ministerio de Asuntos Sociales y Empleo, que trata de predecir la probabilidad de que un individuo cometa un fraude fiscal, como percibir subsidios que no le corresponden, o que viole las leyes laborales, por ejemplo, llevando a cabo trabajos de diversos tipos en el contextos de la economía sumergida mientras se encuentra cobrando el subsidio de desempleo.

El uso de este tipo de sistemas es cada vez más habitual en gobiernos de todo el mundo en países que tratan de aplicar el modelo del llamado estado del bienestar: una investigación de The Guardian el pasado octubre contabilizó un gasto de más de diez millones de dólares al año en el Reino Unido en el desarrollo de algoritmos para este tipo de control del fraude. Este tipo de algoritmos parten de la consolidación de datos de distintas fuentes, tales como empleo, nivel de endeudamiento, pago de impuestos, nivel de educación, vivienda, etc. que son analizados para tratar de identificar qué individuos podrían estar en mayor riesgo de incurrir en un fraude al estado, y tienden a aplicarse fundamentalmente en zonas de bajos ingresos, las que reciben la mayor parte de este tipo de subsidios.

Una coalición de asociaciones en defensa de la privacidad, junto con el mayor sindicato de los Países Bajos, denunciaron al gobierno, argumentando que los habitantes de determinados barrios estaban siendo sometidos a un espionaje digital sistemático sin que existiese ninguna sospecha concreta de irregularidades individuales, algo que, al dirigirse de manera desproporcionadamente específica a los ciudadanos más pobres, podía suponer una violación de los derechos humanos. Según el veredicto del tribunal, que ha sido celebrado como «una victoria para los derechos de los pobres» por asociaciones como Human Rights Watch, esa legislación no posee suficientes salvaguardas contra las intrusiones de privacidad, además de tener un funcionamiento poco transparente que puede dar lugar a una discriminación en función del estatus socioeconómico o migratorio.

Los subsidios condicionales son uno de los argumentos más habitualmente utilizados para defender sistemas basados en la renta básica incondicional: la entrega de un subsidio en función de, por ejemplo, la pérdida del empleo, implica que si quien lo recibe encuentra otro empleo que le paga una cantidad similar a la de ese subsidio, tendrá un desincentivo a la hora de aceptarlo, o si lo hace, se verá sometido, al contabilizar la pérdida de ese subsidio, a una presión fiscal que puede ser, en algunos casos, superior al 50%, y que no tiene ningún sentido aplicar a una persona en un estado de necesidad. La aplicación de este tipo de esquemas incentiva comportamientos como la negativa a aceptar un empleo mientras dure el subsidio correspondiente o el intento de trabajar en la economía sumergida, al margen de toda contabilización.

Para los estados, este tipo de comportamientos implican la necesidad de establecer sistemas de vigilancia a sus ciudadanos para intentar evitar el fraude, algo que con la disponibilidad de tecnologías analíticas cada vez más potentes, puede llevarnos fácilmente desde el estado del bienestar al estado de la vigilancia. La solución propuesta por quienes apoyan sistemas basados en la renta básica incondicional supone entregar a cada ciudadano la cantidad necesaria para que no esté por debajo del nivel de la pobreza, pero en forma de un pago incondicional, al que no debe renunciar si encuentra un trabajo u otra fuente de ingresos. Este pago incondicional sería devuelto en forma de impuestos por aquellos ciudadanos que no lo necesitan porque superan un nivel de renta determinado, pero podría, en muchos casos, evitar el incentivo a recurrir a la economía sumergida o al fraude, y aliviar así al estado de esa necesidad de vigilancia permanente.

El coste de controlar y combatir el fraude en los sistemas basados en subsidios de asistencia social es muy elevado, aunque su contabilización no suele ser especialmente transparente ni suele comunicarse como tal. Incluyen desde los costes laborales de investigadores, fiscales, defensores públicos, jueces dedicados al tema u oficiales de libertad condicional, hasta costes administrativos para programas de vigilancia de desvíos de asistencia social, costes de prisión, y costes para ubicar a niños en custodia si el único padre tiene que cumplir condena por fraudes de este tipo. Se calcula que en el año 2008, California gastó tres veces más en sistemas de vigilancia del fraude de asistencia social que la cantidad de pago que resultó defraudada.

En un momento en que la cada vez mayor productividad de las máquinas inyecta niveles de riqueza cada vez más elevados en el conjunto de la economía, tratar de evolucionar hacia sociedades que evitan que sus ciudadanos caigan por debajo del nivel de la pobreza podría parecer un objetivo justo y razonable. Pensar que la alternativa es tan sencilla como poner impuestos a las máquinas resulta profundamente simplista, porque obvia que una máquina no es simplemente «un robot que sustituye a una persona», sino que en muchos casos es, por ejemplo, un programa de software, y que cuando esa máquina o programa mejora mediante una actualización y pasa a ser más potente, el cálculo de a cuántos supuestos trabajos humanos corresponde supondría un verdadero reto, o directamente sería absurda.

Los que critican los sistemas basados en la renta básica incondicional, sin embargo, afirman que podrían suponer o bien un incentivo para no trabajar, una «fábrica de vagos», o incluso un imán para la inmigración irregular, que podría tratar de acceder masivamente a los países en los que pudiesen aspirar a obtener esos beneficios, y que podría llegar a dar lugar a esquemas de subempleo para esos inmigrantes irregulares sin acceso a la renta básica.

La discusión, que tiende además a contaminarse en función de argumentarios políticos generalmente simplistas, es por supuesto compleja. Pero su aparente complejidad no debería suponer que ese tipo de esquemas no fueran sometidos a un estudio pormenorizado, sobre todo si la alternativa es prolongar el funcionamiento de sistemas de subsidios condicionados que, además de no funcionar especialmente bien, terminan obligando a los estados a aplicar tecnologías analíticas cada vez más potentes para vigilar y monitorizar a sus ciudadanos con el fin de evitar que cometan unos fraudes a los que, además, el propio sistema, en muchos casos, les aboca.


This post is also available in English on my Medium page, «Technology, surveillance and the welfare state«


18 comentarios

  • #001
    Javier Vega - 6 febrero 2020 - 16:23

    INFO ADICIONAL

    Para poder analizar en que situación estamos en los distintos municipios de España, en cuanto a calidad y bienestar, hoy publica ELPAIS un estudio muy interesante: «mapa de la mortalidad» ¿por qué es interesante? Sencillamente porque nos da una idea de que enfermedades nos afectan comparándolas con el medio donde vivimos.

    Así tenemos la idea que en las ciudades como Madrid, Barcelona, Bilbao ciertas «enfermedades» deberían tener más incidencia, por accidentes, polución, stress. Los datos están ahí y lo que si se puede ver claramente una correlación, entre las rentas y las enfermedades.

    Y parece claro que lo urgente es subir esas rentas, antes que pensar en «prohibir» lo que se supone que nos está envenenando.. que tendrá cierta incidencia, y que sin negarla, lo urgente es que hay que ir cogiendo el toro por los cuernos de las rentas, y tenemos que hablar en serio primero de esas soluciones, no sé si la RBU sería una de ellas, pero las diferencias sociales si que está matando a nuestra población.

    ———–
    https://elpais.com/elpais/2020/02/05/ciencia/1580906716_232241.html
    https://elpais.com/economia/2019/09/11/actualidad/1568217626_928704.html

    Responder
  • #002
    Jose Miguel - 6 febrero 2020 - 16:24

    Mientras alguien cobre un subsidio de dinero público veo bien que se utilice una AI para analizar los datos que LEGALMENTE se obtengan. Otra cosa es que el resultado del análisis de la AI sea concluyente y suficiente para sentenciar. El principio de inocencia no puede vulnerarse, tendrán que demostrar con datos fehacientes que efectivamente se cometió un delito.

    Responder
  • #003
    Lua65 - 6 febrero 2020 - 17:09

    Eso… me gasto millonadas en AI’s, pero te deniego un subsidio «basico» de 400€….

    Ole sus cojones…. XDDD

    Responder
    • Jose Miguel - 6 febrero 2020 - 17:26

      Ah! Vale. Luego convertimos los subsidios en RBU. No debemos dudar de nadie. Buena suerte.

      Responder
      • Lua65 - 6 febrero 2020 - 17:46

        No hombre… no seamos drasticos… mi vision del asunto es mas… mundana…

        Gastamos una millonada en «vigilar», quien puede agenciarse cuatro duros mal contados…

        …y mientras, los gerifaltes gobernantes, fijate tu, justo los que quieren controlar, se gastan los dineros publicos en putas y coca… (y me da igual el color del partido que este arriba)

        Yo tengo mi propia dicotomia respecto a la RBU, una parte de mi, me dice que es necesaria, ayuda al comercio (sobretodo al local), lo cual repercute en el mayorista…

        Otra parte, me dice, que mas de uno, se agarrara a eso como un clavo ardiendo y lo de buscar trabajo, lo dejara para su abuelo, jubilado o enterrado…

        Si he de elegir, prefiero la primera acepcion… en cualquier caso, me resulta «gracioso», invertir en una IA que busque desfalcos en gente que a duras penas, llega a fin de mes…

        …cuando sin IA que valga (solo sentido comun), podemos enjuiciar a mucho chorizo «de tomo y lomo», de nuestros organos de poder (que son los que promueven esa IA) XDDD

        Responder
  • #006
    menestro - 6 febrero 2020 - 17:10

    No acabo de ver la relación entre inmigración y renta básica, dando por supuesto que la renta básica se otorgase a personas con la residencia o nacionalidad. Es un popurrí un poco confuso.

    Sí es obvio, que cualquier renta que no responda a la realidad socieconómica o no tenga una finalidad en sí misma, no es realmente eficiente, se convierte en gasto público, y una renta accesoria que eleva los precios.

    ¿Qué es lo que sucede?

    Pues que siendo indiscriminada, se convierte en el equivalente de una inflación artificial, volviendo aún más caro el coste de la vida o IPC. Y eso no ayuda en nada a las personas con rentas más bajas, que ven como los salarios más modestos tienen que seguir afrontando ese coste adicional.

    Ese subsidio lo absorben los precios de los productos más básicos. Las rentas más bajas siguen sin llegar a final de mes, porque todo se encarece.

    Eso fue lo que Nixon se encontró cuando trato de imponer en el congreso de EE.UU. su plan de renta básica incondicional, en 1969, o en Speenhamland, en 1795, y el riesgo añadido de convertir a las personas que ya tenían dificultades en encontrar trabajo, en las principales victimas de esa renta de subsistencia básica.

    La mejor forma de afrontar una renta holgada y la calidad de vida asociada es el estimulo de la creación de empleo. Y lastrar la economía con un sobrecoste que perciben igual las rentas más elevadas y que las más bajas, no ayuda mucho a estas últimas.

    Aquí nadie se quejo del salario mínimo de 600€ mientras duro la burbuja económica. Qué cosas, ¿no?.

    Ese escenario del «fin del trabajo» producto de ‘supuestas inteligencias artificiales que sustituyen a las personas’ al estilo de la «Rossum’s Universal Robots» de Capek, que se ha puesto de moda, no es más que una ilusión, como muchas otras, producto del adanismo e ignorancia de los mecanismos básicos de la economía.

    Es como quien va a un casino y se monta una Martingala, creyendo que existe un método que sigue unas «leyes fundamentales» de la intuición.

    Es la forma más sencilla – e ignorante – de arruinarse.

    The bizarre tale of President Nixon and his basic income bill

    Disclaimer

    Los 1,4 millones de infectados por Ébola de 2014 acaban de contraer un Coronavirus.

    Pero no importa, porque el incendio de Australia habrá arrasado con toda la población de Oceanía y, en breve, podremos habilitar el cráter que va a dejar el Asteroide Apophis como zona de cuarentena, tras el tsunami, que se producirá con «una certeza matemática absoluta».

    Responder
  • #011
    Gorki - 6 febrero 2020 - 17:41

    La aplicación de este tipo de esquemas incentiva comportamientos como la negativa a aceptar un empleo mientras dure el subsidio correspondiente o el intento de trabajar en la economía sumergida, al margen de toda contabilización.

    Es cierto. Hay un subsidio, no se si nacional o especdífico de la Comunidad de Madrid, que es la Renta mínima de inserción, (RMI), una ayuda a personas para atender las necesidades más básicas, que siendo muy razobnable sobre el papel, provoca en la realidad, el efecto que tu indicas, desincentivar a las personas para la busqueda de trabajo y empujarla, o bien a la inactivdad, o buscar trabajo negro.

    El riesgo a perder el RMI, hace rechazar a quien lo recibe, trabajos, a tiempo parcial o eventuales, que pudieran suponer el primer peldaño para reinsertarse en el mundo laboral, pero que en esas condiciones no resultan de interés para el «beneficiado», empujándolos al «gueto» de la pobreza subvencionada.

    Por ello, soy partidario del RBU, aunque no tengo ni idea de si es una utopía, pues no se como encontrar los medios económicos para entregar a todos de forma universal e indiscriminada una prestación de un importe suficiente para poder vivir.

    Pero, mientras existam la prestaciones condicionadas, es razonable asegurarse de que quien las recibe, cumple las condiciones que se precisan para recibirla y el uso de la IA, (suponiendo que funcione), me parece razonable, como me parece razonable, que Hacienda la utilice para descubrir a los defrradadores en los colectivos propensos al defraude en la Declaracion de la Renta.

    Responder
    • JM - 7 febrero 2020 - 16:24

      Supongamos que un 10% de los que reciben el RMI dejan de buscar trabajo al estar percibiendolo.

      Eso significa que al 90% le está ayudando o incluso es lo único que lo separa de la pobreza más extrema.

      ¿Eliminarías ese subsidio porque un 10% no lo usa correctamente aunque salve al 90%?

      ¿Qué es lo que dicta la lógica? ¿Qué es lo que dice nuestro inconsciente?

      ¿Y si fuesen 50-50? ¿O un 90-10?

      Responder
      • Gorki - 8 febrero 2020 - 01:08

        Quizá me he esplicado mal. Excepto para los acncianos, el RMI es un impedimento para obtener un trabjo parcial, eventual o incluso, uno fijo, pues hay 6 meses de prueba.

        Porque si lo cojen, pierden automáticamente el RMI, pero si luego se acaba el trabajo, tardan meses en recuperar el RMI, si es que lo recuperan. Por tanto el miedo a quedarse sin nada, les impide cojer un trabajo legal que pudiera ser el primer peldaño para su reinserción laboral, dejandolos atados a obtener ingresos adicionales con trabajos negros, en la mendicidad, o en cosas como recojer cartones y metales, o de «gorrillas «en algun estacionamientos y en cosas por e estilo.

        El objetivo del RMI es loable, pero se efecto es perverso, (salvo en personas sin posibilidad de encotrar trabajo, como ancianos, inválidos, enfermos crónicos etc.)

        Responder
        • JM - 8 febrero 2020 - 15:05

          Muchas gracias por la aclaración. No conocía eso y estoy de acuerdo contigo.

          De todas formas mi comentario iba más bien dirigido a aquellas personas que se oponen a cualquier subsidio sobre la base de que hay gente que los cobra sin necesitarlos o no los aprovecha.

          Responder
  • #015
    Lua65 - 6 febrero 2020 - 19:08

    Igual se deberian preocupar (los gobiernos) mas de cosas como esta:

    https://www.elsaltodiario.com/deuda/que-es-empresa-zombi-vulnerable-cuantas-hay-en-espana

    Responder
  • #016
    Javier Vega - 6 febrero 2020 - 20:18

    ¿de dónde sacamos el dinero para la RBU?

    Las soluciones sencillas suelen ser simples: (como indicaba Enrique)

    1) Impuesto a los robots (y a los esclavos funcionales externos)
    Hoy Abascal se ha cargado el «neoliberalismo» económico de su partido, y nos ha contado que «aranceles» a aquellos países productores agrícolas que tienen regimenes de esclavitud con sus trabajadores.
    2) Este mismo punto de Abascal se puede ampliar a los que producen zapatillas con o sin doping y tecnología en países sin coberturas a los trabajadores. Si amigo Amancio a Zara también, por si te lo preguntas.
    3) Tasa Google, a las ingenierías fiscales

    Pues eso, si son simples, tan simples que se podrían aplicar … Y no son un America first para tontos.

    ¿Lo de ir a hablar con el canal de distribución? ¿es inteligente? que decimos, sube los precios Mercadona, para dárselo a los agricultores, que al final el pagano, prefiere pagar un 100% más por las naranjas que verlo en un impuesto a las naranjas brasileñas !!!

    Nótese que este comentario no es irónico. Cuando te enfrentas a un problema, una de las cosas que recomiendan es poner todas las ideas encima de la mesa, se hace un brainstorming, y se analizan todas las posibilidades, y a veces (solo a veces) las ideas desechadas en principio son las que dándole una vuelta son eficaces.

    ¿Proteccionismo o neoliberalismo? ¿Con que nos quedamos? De un análisis simplista parece que al neoliberalismo la RBU se la trae floja no?

    Responder
  • #017
    Xaquín - 6 febrero 2020 - 22:55

    Como hay mucho experto en Economía, dejaré al pairo toda consideración sobre el particular.

    Comentaré la parte de la entrada que habla de esa especie de Minority Report para asuntos fiscalinquisitoriales. Ya que si no lei mal ( y pude), se trata de predecir la delicuencia fiscal ( y colaterales). Simplemente por uso de una inteligencia artificial.

    Vamos, lo que «hace» el dueño de un bar, cuando ve entrar a un ser humano con las pintas que, a su inteligencia natural, le vienen a decir que «se va» a ir sin pagar o «va a» destrozar el mobiliario.

    Lo mismo que digo siempre, si los algoritmos solo vienen a suplantar un 0’2 % de los circuitos neuronales, que puede formar un cerebro humano «normal»… nos vamos de viaje, y a tomar por culo (o por el ombligo, que ya lo decía el chiste del Tarzán megaforzudo y tonto de su propio culo).

    Sobre todo, porque la inteligencia es mucho (mucho) más, que saberse el listín telefónico en directo y en inverso.

    Responder
  • #018
    Francisco Trejo - 7 febrero 2020 - 06:19

    En México, el actual gobierno está entregando pensiones a adultos mayores, creando programas para diversos sectores como «Sembrando Vida» (que incluso el modelo se está exportando https://www.milenio.com/politica/sembrando-vida-de-amlo-sera-exportado-hasta-haiti ), becas y otros y lo está haciendo DIRECTAMENTE de la Tesorería de la Federación hasta la cuenta de la persona beneficiada. Si hay supervisión, pero de las instancias gubernamentales que ya existían.

    Es el comienzo de un Estado de Bienestar que no conocemos en nuestro México. A partir de este año empezó el INSABI para garantizar el Derecho a la Salud a todos los mexicanos. Y hablamos de atender a más población que la de Dinamarca, Holanda, Suecia y Noruega juntos. ¡Saludos!

    Responder

Dejar un Comentario

Los comentarios en esta página están moderados, no aparecerán inmediatamente en la página al ser enviados. Evita, por favor, las descalificaciones personales, los comentarios maleducados, los ataques directos o ridiculizaciones personales, o los calificativos insultantes de cualquier tipo, sean dirigidos al autor de la página o a cualquier otro comentarista. Estás en tu perfecto derecho de comentar anónimamente, pero por favor, no utilices el anonimato para decirles a las personas cosas que no les dirías en caso de tenerlas delante. Intenta mantener un ambiente agradable en el que las personas puedan comentar sin temor a sentirse insultados o descalificados. No comentes de manera repetitiva sobre un mismo tema, y mucho menos con varias identidades (astroturfing) o suplantando a otros comentaristas. Los comentarios que incumplan esas normas básicas serán eliminados.

 

XHTML: Puedes utilizar estas etiquetas: A ABBR ACRONYM B BLOCKQUOTE CITE CODE DEL EM I Q STRIKE STRONG IMG