¿La manzana indiscreta?

IMAGE: Apple logo and eye peeking through keyhole

Apple anuncia una funcionalidad que le permitiría procesar imágenes en el dispositivo antes de que sean subidas a su nube para comprobar si se corresponden con materiales sexualmente explícitos relacionados con menores, y en caso afirmativo, denunciar el caso a las autoridades o avisar a los padres cuando sus hijos reciban o envíen material de ese tipo.

En la descripción del sistema, Apple ha justificado el movimiento con varias restricciones incluidas específicamente para proteger la privacidad: que Apple no adquiere información alguna sobre imágenes que se correspondan con materiales que reflejen abusos sexuales a menores, que no puede acceder a los metadatos ni a los derivados visuales de las imágenes coincidentes hasta que se supera un umbral de coincidencias determinado, que el riesgo de falsos positivos es extremadamente bajo, que todos los informes son revisados manualmente, que los usuarios no pueden acceder ni ver la base de datos de imágenes, y que los usuarios no pueden identificar qué imágenes fueron marcadas como de abusos sexuales a menores por el sistema.

Los abusos sexuales a menores son un problema que, exacerbado por la facilidad para la circulación de materiales gráficos generada por la popularización de internet, resulta preocupante. De hecho, sistemas basados en el hashing de imágenes similares a los descritos por Apple existen en otras compañías para evitar en la medida de lo posible la creación de repositorios de ese tipo de materiales, y son utilizados desde hace tiempo tanto por Apple como por Google y otras compañías para detectar su envío a través de correo electrónico. Sin embargo, implementar un sistema similar para imágenes en el dispositivo implica aplicarlo a materiales que no han sido enviados, y si bien la tenencia de materiales de ese tipo corresponde igualmente a un tipo delictivo que debe ser perseguido, entramos en un terreno complejo y, muy posiblemente, sin retorno: el de la detección de lo que un usuario tiene en sus dispositivos, que podría resultar problemático si la compañía recibe presiones para utilizarlo en otras casuísticas.

Una vez que un sistema así está disponible, las autoridades de los países pueden encontrar argumentos legales para solicitar su utilización para otros motivos. En el Reino Unido, por ejemplo, un sistema similar desarrollado hace años para que los proveedores de acceso a internet controlasen la difusión de ese tipo de materiales ha sido ya utilizado para tratar de detectar imágenes de relojes falsificados. Una vez que el sistema existe, nada impide a un gobierno forzar a una compañía a utilizarlo para la detección de cualquier tipo de imagen o material, lo que supone una auténtica carta blanca para cualquier posible abuso de la privacidad de sus ciudadanos.

Estamos, como afirma la Electronic Frontier Foundation, ante un sistema de puerta trasera desarrollado específicamente para escaneo de materiales en el dispositivo del usuario, algo que debería ser completamente inaceptable. Una puerta trasera es una puerta trasera, y las garantías que una compañía puede dar sobre su uso están siempre condicionadas al cumplimiento de la legislación que un país quiera utilizar en un momento determinado. Hoy están vigilando si tienes materiales que reflejen abusos sexuales a menores, mañana pueden estar vigilando que no tengas cualquier otra cosa que moleste al gobierno de turno. Añadir a un sistema una capacidad de escanear el dispositivo del usuario es romper el cifrado de extremo a extremo, y es algo profundamente desaconsejable desde cualquier punto de vista, aunque lo que se pretenda proteger sea algo en lo que, en principio, todos podríamos estar razonablemente de acuerdo.

La línea debería estar sumamente clara. ¿Es execrable la explotación sexual de menores? Sí. ¿Debe ser perseguida? Por supuesto. ¿Debemos desarrollar un sistema que permita monitorizar todo lo que tenemos en nuestros dispositivos para tratar de evitarla? No, y mucho menos si podemos intuir que un sistema así sería rápidamente explotado para otras posibilidades, bajo la consabida máxima de «una compañía tiene que cumplir con las leyes de los países en los que opera».

Con el desarrollo de un sistema así, Apple puede estar consiguiendo pasar, en lo que sería decididamente un mal movimiento, de ser percibida como la compañía de la privacidad y del «lo que pasa en tu iPhone se queda en tu iPhone», a convertirse en la compañía que escanea cada una de tus fotos «por si acaso» eres un pederasta, con el problema añadido de que, además, ese sistema podría ser abusado por cualquier gobierno para cualquier fin imaginable. Una posición difícilmente justificable y muy poco recomendable para una compañía que ha tenido que pasar por lo que ha tenido que pasar para llegar a donde está. Pasar de ser «el garante de la privacidad» a ser «la manzana indiscreta» sería un muy grave error.


This article is also available in English on my Medium page, «Has Apple abandoned its commitment to protecting our privacy?«


29 comentarios

  • #001
    LUA - 6 agosto 2021 - 14:02

    Cuando he leido la noticia esta mañana, me he sentido practicamente como en la explicacion del articulo…

    Debe ser perseguidas ciertas practicas delictivas? SI
    Hay que permitir la intromision a tus dispositivos? NO

    Que Apple o quien sea, verifique que subes a (no lo olvidemos) TU nube, es una cosa. Escrutar tu dispositivo, otra…

    Es la excusa perfecta, para «saber» que mas (ademas de lo delictivo) hay en tu dispositivo….

    • Manolo - 6 agosto 2021 - 14:56

      Pues si! Tienes toda la razón.

      • LUA - 6 agosto 2021 - 16:21

        AppleBoy’s echandoseme al cuello en 3, 2, 1… XDDD

        • Chipiron - 8 agosto 2021 - 02:25

          Ahí voyyyy: Apple se equivoca totalmente!

          Y máxime cuando se enfrenta y niega al FBI el acceso a los datos del iPhone de un terrorista suicida que mata a 50 homosexuales en un bar, y sin que nadie se lo pida, decide mirar nuestros móviles para saber si somos pedófilos.

          Falta de coherencia total! Nunca mejor utilizado el dicho «el fin no justifica los medios».

          Me parece una metedura de pata gravísima.

          • LUA - 9 agosto 2021 - 10:23

            HAs tardado… XDDD

  • #006
    Benji - 6 agosto 2021 - 14:10

    Hola,

    Lo difícil será luego la «escalada». Se ofrecerán apps que cambien o manipulen los metadatos y hagan modificaciones (no visibles) a la imagen que no permitan su identificación.

    Entonces borrarán las apps del iStore/GPlay por ser manipuladoras, por lo que luego se ofrecerán bots de Telegram o cualquier otra app «legal» que hagan la misma tarea. O una página web con permiso sobre tu cámara que te la modifica.

    Luego bloquearán determinados canales Telegram y webs y será como cuando Napster, Kazaa, Emule, BitTorrent, etc.

    PD: Por cierto, mis padres tienen fotos mías en la bañera totalmente desnudo y pueden querer digitalizarlas. ¿Los van a detener? Creo que aquí Apple se ha pasado de frenada.

    • michel Henric-Coll - 10 agosto 2021 - 11:14

      ¡excelente! Así son las cosas. De la primera a la última de tus palabras

  • #008
    Pedro - 6 agosto 2021 - 14:13

    Tanta buena política de privacidad de Apple (bueno, lo de la salud, los gadgets biométricos se lo guisan y comen ellos solo teóricamente?), ya me extrañaba a mí que durase lo bueno.

  • #009
    Xaquín - 6 agosto 2021 - 16:01

    «Una puerta trasera es una puerta trasera» (EDans).

    Y una cosa es que uno haga su propia puerta trasera para poder escapar, aunque pueda servir también de entrada a extraños. Y otra muy diferente, que alguien ajeno te coloque una puerta , por si quieres escapar, pero sirva sobre todo para que entren a robarte.

    ¡Lo primero se llama defensa, lo segundo ataque!

  • #010
    Ricardo - 6 agosto 2021 - 19:06

    No sé, Enrique. Me tienes muy despistado. Lo mismo defiendes que el fin justifica los medios ( vacunas obligatorias, coches eléctricos) que lo contrario ( este artículo). Depende de tu preferencia personal de fines y de medios? O lo estoy simplificando mucho?

    • Enrique Dans - 6 agosto 2021 - 20:21

      Pretender que una generalización como «el fin justifica los medios» es extrapolable a todo resulta enormemente simplista. Obviamente, unas veces será que sí, y otras que no. Pero lo que más sorprendente me resulta es que te resulte raro. ¿Vacunas? Son una maravilla, y el maldito egoísta que no se las quiera poner, debería ser excluido de la sociedad. ¿Coches eléctricos? Me dan igual, lo que quiero es prohibir los de combustión lo antes posible, porque si no, nos vamos al carajo debido a sus emisiones, y no hay ninguna justificación que me sirva para querer mantener algo que nos está envenenando. ¿Pornografía infantil? Nunca, pero tampoco usarla como justificación para cercenar nuestras libertades. ¿Con qué tienes problemas exactamente?

      • Pedro - 7 agosto 2021 - 00:54

        Estoy de acuerdo, pero demonizarnos a todos, todos sabemos hacerlo y no hay que ir de Santo como si se fuera el mejor y único ejemplo, no creo sea lo más conveniente. Se puede demonizar la Humanidad en general, pero no interesa a nivel particular o en plan misántropo como si todo el mundo te estorbara. Y actuar sin demonizar no te quita de ser gurú en tu materia.

      • Miguel V. - 7 agosto 2021 - 09:57

        Estas equivocado en esto. Acabas de escribir contra una iniciativa que en teoría tiene los mejores propósitos. El otro día escribías sobre el enorme poder de las corporaciones.

        Las tecnologías que pretenden habilitar la exclusión a los que no se han vacunados, pueden y va a ser utilizadas para otros propósitos. Que va a escribir Enrique Dans al respecto? Va a justificar o criticar ese paso inevitable?

        La gente tiene que vacunarse, por su propio bien. Pero creer que todo se justifica para que eso pase, no es entender los vientos que corren en el mundo.

        Ademas, como hemos visto en los últimos días, las vacunas no evitan la transmisión de variantes como la Delta, lo que hace de esas medidas completamente inútiles del punto de vista epidemiologico.

        • Enrique Dans - 7 agosto 2021 - 10:42

          No digas tonterías. Por mucho que lo digas, es una mentira: no, no hemos visto nada «en los últimos días». Sé científico, no hables por hablar ni en función de impresiones, no seas alarmista. Las vacunas protegen contra todas las variantes, y la mortalidad está, en más de un 90%, asociada con la población no vacunada. Déjate de propagar mentiras. La vacunación sigue siendo absolutamente fundamental.

          • Miguel V. - 7 agosto 2021 - 10:57

            Las vacunas están protegiendo contra la enfermedad. Eso es cierto. Pero la protección es mucho menor contra la transmisión. Lo que hace las medidas de segregación inútiles desde el punto de vista epidemiologico.

            https://www.forbes.com/sites/roberthart/2021/07/23/pfizer-shot-just-39-effective-against-delta-infection-but-largely-prevents-severe-illness-israel-study-suggests/

            https://sfist.com/2021/07/27/cdc-confirms-that-viral-loads-in-vaccinated-people-with-delta-are-indistinguishable-from-unvaccinated/

            https://www.forbes.com/sites/jemimamcevoy/2021/08/06/fully-vaccinated-may-transmit-delta-just-as-easily-and-new-variant-shows-signs-of-vaccine-evasion-early-uk-research-suggests/

      • javier bilbao - 7 agosto 2021 - 16:09

        Me parece muy buen artículo, corroborá el peligro de algunos derechos fundamentales.

        Y también pienso que las vacunas son una maravilla.

        Lo que desconocemos todos son los efectos de las vacunas covid a no haber pasado el procedimiento habitual de testeo, y me gustaría saber vuestra opinión.

        ¿Son egoístas los no vacunados por favorecer la propagación del virus o los vacunados por intentar que la gente se inocule una vacuna sin conocer sus efectos a medio y largo plazo?

        Gracias

      • Dorado Comandante - 7 agosto 2021 - 17:29

        Partiendo de la base de que me he vacunado. Cuidado, que eso de que el que no se vacune debe der apartado de la sociedad, es lo que hacían los nazis con los judíos.

        Ponte como quieras, pero en su argumentario estaba el mismo mantra: los judíos propagan enfermedades, son un peligro social, poco fiables y propensos al engaño y la estafa, etc… Asi que hay que meterlos en guetos para que no contaminen al resto. Luego, ya sabemos lo siguiente que vino…

        Hay que tener mucho cuidado cuando uno se cree poseedor de la razón y la verdad absolutas y promulga medidas extremas, no sea que le crezca bigotito.

        • Enrique Dans - 7 agosto 2021 - 18:24

          Con la diferencia evidente de que los judíos no infectaban a nadie, ni contribuían a crear variantes de una peligrosa enfermedad… por no decir, ni siquiera decían gilipolleces ni se inventaban teorías conspiranoicas. Vamos, que tu símil no es que esté traído por los pelos, es que simplemente es un caso de reductio ad Hitlerum de libro, pura demostración de la ley de Godwin.

          Me alegro mucho de que te hayas vacunado. Me gustaría seguir contando con tus comentarios durante muchos años :-)

          • Dorado Comandante - 7 agosto 2021 - 18:54

            Por supuesto, es evidente, pero eso no quita que, para ellos, era su verdad y su realidad y tomaron las medidas que todos conocemos. Creo que eres lo suficientemente inteligente para saber por donde voy. Si la mayoría impone SU verdad sin importar las consecuencias, poco importa que esta sea impepinablemente científica, errónea, basada en mafufadas o terrible. Ese es el tema, cuidado con los extremismos que mañana se te pueden volver en contra.

            Y no me vengas con tópicos de leyes de Godwin, que esto no es un foro de 4Chan, que aquí vamos a los que vamos. Adoptar medidas radicales contra otros, tiene un nombre y mañana puedes estar tú al otro lado si la mayoría no es la tuya, tengas o no razón, o la ciencia, de tu lado.

        • michel Henric-Coll - 10 agosto 2021 - 11:45

          «Por supuesto, es evidente, pero eso no quita que, para ellos, era su verdad y su realidad y tomaron las medidas que todos conocemos. Creo que eres lo suficientemente inteligente para saber por donde voy. Si la mayoría impone SU verdad sin importar las consecuencias, poco importa que esta sea impepinablemente científica, errónea, basada en mafufadas o terrible.»

          E X A C T A M E N T E !

          En cuanto a la llamada ley de Godwin, es un comodín para sortear todos los ejemplos más significativos de un gobierno ultra totalitario.
          Por supuesto se podrían tomar ejemplos de Pol Pot, Kim Jong II, Staline, etc. etc. pero no están tan bien documentados como el nazismo.

  • #021
    Javier Cuchí - 6 agosto 2021 - 20:00

    1. Busca una causa noble
    2. Vístete, revístete e invístete con ella
    3. Haz lo que te dé la gana, hasta lo más abyecto, so pretexto de ella.

    Esta es una historia común y habitual. Puedes aplicarla a lo que quieras: los grotescos abusos de la seguridad aeroportuaria, el fisgoneo sistemático en la privacidad de los demás, la desaparición obligatoria del dinero en efectivo para mejor controlarnos, los aparatos de seguimiento y control -¡oh, sí, voluntarios!- de las compañías de seguros con el cebo de rebajar la cuota (que, en la práctica, será subirlas bestialmente a quienes no pasen por el aro)…

    Suma y sigue

  • #022
    Matt - 7 agosto 2021 - 01:37

    Pues nada: Se acaba la imagen que Apple vendía de garante de la privacidad y pasa a ser lo contrario. No entiendo la estrategia pero en fin, ellos sabran.

    Eso sí, vemos que ha cambiado la excusa para acabar con la privacidad y tenerte permanentemente vigilado: Hasta ahora era el terrorismo, ahora es la pornografía infantil.

  • #023
    Miguel V. - 7 agosto 2021 - 09:51

    Esto es un pésimo presidente. Lo primero que se me viene en mente es el enorme numero de falsos positivos de padres tomando fotos de sus hijos en la bañera.

    Seguramente el FBI y otras agencias policiales y de inteligencia van a forzar a Apple a usar esa tecnología para detectar extremismo, terrorismo y otros crímenes. Gestores de derechos de autor van a pagar para detectar violaciones de ello. Y como estamos en modo pandemia, porque no desinformación? Pronto cada uno va a tener un espía en su teléfono móvil.

    Seguramente Amazon va a desarrollar algo similar con Alexa para detectar violencia intrafamiliar y porque no conversaciones consideradas subversivas.

    Es evidente que vamos derechito a una distopia tipo 1984. En China seguramente miran con envidia estas iniciativas.

  • #024
    Guillermo - 7 agosto 2021 - 11:11

    El eterno dilema entre Libertad y seguridad.
    Acaso creemos que porqué no nos lo digan tenemos privacidad?
    Cada vez hay menos anonimato en nuestras vidas, dejamos radios digitales de todo lo que hacemos por no hablar de que cuando algo es gratis ya sabes quien es el producto.
    Creo en el derecho a la privacidad pero si la quiero soy consciente de que me tengo que salir del sistema, únicamente nos tragamos las vestiduras cuando nos avisan pero nos gusta mirar a otro lado y Pensar que somos libres.

    • Javier Cuchí - 7 agosto 2021 - 12:37

      «Aquellos que renunciarían a la libertad esencial para comprar un poco de seguridad temporal no merecen libertad ni seguridad»
      Benjamin Franklin

      Y yo añado: además, con casi toda seguridad, acabarán perdiendo ambas.

      • Guillermo - 7 agosto 2021 - 15:10

        Totalmente de acuerdo, pero lo que creo es que ya lo hemos hecho hace muchoooo ( renunciar a la libertad), y nos es más fácil pensar que no, y cuando surgen noticias como esta, nos asombramos hipócritamente.
        Hace mucho que renunciamos a la privacidad de manera consciente o inconsciente.
        Digitalmente dejamos rastro de todo y siempre se podrá analizar.
        Quizás el problema está en, por quién y para qué?

        • Javier Cuchí - 7 agosto 2021 - 18:26

          También estoy de acuerdo en esta matización

  • #028
    Miguel Ángel - 8 agosto 2021 - 22:29

    Solo hay que recordar lo que empezó siendo «Pegasus» y en lo que se ha convertido. Una herramienta que supuestamente persigue el terrorismo, ha acabado utilizándose para la represión de la disidencia, el espionaje político y empresarial. Si no empezamos a mostrar rechazo donde más le duele, esto es, en los resultados empresariales, la visión orweliana del mundo se va a quedar corta.

  • #029
    LUA - 9 agosto 2021 - 10:26

    El autoproclamado adalid de la privacidad quizás haya ido demasiado lejos esta vez.

    «Lo de Apple es spyware gubernamental»: críticas claras contra su nuevo sistema de escaneo de fotos en Messages e iCloud

Dejar un Comentario

Los comentarios están cerrados