Apple y la privacidad diferencial

Apple privacyFue un análisis que ya hicimos en su momento: las estrictas políticas de privacidad de Apple, la compañía que considera la privacidad un derecho fundamental, que no quiere tus datos y que se niega a almacenarlos, estaba poniendo en peligro su capacidad para invertir o atraer talento en las líneas de progreso más decisivas en nuestros días, el machine learning y la inteligencia artificial.

El planteamiento de la privacidad de Apple es sin duda provocativo: los eventos de la compañía están plagados de directivos con frases radicales en blanco sobre fondo negro en los que se afirman principios inequívocos y taxativos, que pretenden claramente contraponerse a las actitudes de otros protagonistas de su industria como Google o Facebook. Sin embargo, la incapacidad para recolectar datos de las preferencias y patrones de uso se está convirtiendo cada vez más para la compañía, en un problema: todo indica que queremos terminales que aprenden de nosotros, que reaccionan a nuestras preferencias y que nos ofrecen opciones que proceden del análisis de nuestro uso repetitivo, asistentes inteligentes que, de una u otra manera, aspiran a conocernos y a adaptarse a nosotros.

Claramente, la compañía tenía que hacer algo frente a esta carencia, y la respuesta parece llegar con iOS 10, entre cuyas características anunciadas aparece el concepto de privacidad diferencial, un conjunto de técnicas utilizadas para ser capaz de procesar datos de los usuarios sin comprometer su privacidad. Específicamente, la compañía afirma que la tecnología

… ayuda a detectar los patrones de uso de un gran número de usuarios sin invadir su privacidad. En iOS 10, esta tecnología ayudará a mejorar las sugerencias de QuickType y emojis, los enlaces profundos sugeridos por Spotlight y las “Lookup Hints” (sugerencias de búsqueda) de Notas.

Básicamente, una forma de explicar al usuario que por un lado, la compañía únicamente recolectará sus patrones de uso cuando el usuario así lo permita de manera específica, y que su obsesión con la privacidad no dañará sus posibilidades de competir en el ámbito de la inteligencia artificial.

La compañía especifica que ninguno de los avances planteados por su nuevo sistema operativo tendrían sentido si viniesen a costa de dañar la privacidad de sus usuarios, y que el uso de la privacidad diferencial viene precisamente a intentar solucionar esa cuestión. Según el anuncio, Apple aún no ha comenzado a recolectar datos de sus usuarios, solo lo hará tras solicitar previamente el consentimiento de sus usuarios de manera inequívoca, y  no utilizará las fotografías que sus usuarios almacenan en su nube para entrenar sus algoritmos de reconocimiento visual, sino que se abastecerá de otras fuentes que no especifica. Según algunos estudios sobre este tipo de técnicas,  la privacidad diferencial supone una aproximación compleja que pueden llevar o bien a resultados erróneos o a protecciones simplemente inútiles, de manera que la idea de Apple de ofrecer a sus usuarios los beneficios de la analítica avanzada sin sacrificar su privacidad resulta puramente ilusoria.

La compañía, que establecerá límites específicos sobre la cantidad de información que puede utilizar de un usuario específico, está claramente tratando de navegar una delgada y compleja línea, que define claramente el eje de la ventaja competitiva: ser capaz de generar inmensas cantidades de datos para que actúen como la gasolina capaz de alimentar su machine learning. En ese sentido, resulta enormemente recomendable leer este artículo largo publicado en Backchannel titulado How Google is remaking itself as a ‘machine-learning first’ company, de lo mejor y lo más claro que he leído últimamente en torno al nuevo concepto de ventaja competitiva en los tiempos que vivimos.

Únicamente las compañías capaces de generar datos sobre todos sus procesos y de alimentar con ellos sus algoritmos de machine learning serán competitivas en la economía del futuro.

 

 

This article is also available in English in my Medium page, “Apple and differential privacy

 

4 comentarios

  • #001
    menestro - 25 junio 2016 - 16:04

    Es que, desde siempre y prácticamente sin excepción, todos los datos de los usuarios en servicios como Google, Apple – que también tenía datos de uso, pero hacían de la obviedad una virtud – o Facebook han estado anonimizados y desvinculados de cualquier identidad real.

    Pero al parecer, la idea de que las compañías tecnológicas tenían algún interés en espiar a sus usuarios, se convirtió en un lugar común y una leyenda urbana.

    Eso dice algo, acerca de la forma en que se inducen esa clase de temores, y de las razones de que muchas personas vean con miedo y suspicacia cualquier novedad o cambio y lo perciban como una amenaza.

    Por ejemplo, el repetido mantra sobre ‘El producto eres tú’ es otra de esas leyendas sobre la supuesta intrusión de las compañías en la privacidad de los usuarios, cuando en realidad, el ‘tú’ no existe en términos estadísticos.

    Afortunadamente, ahora tenemos un término con el que conjurar nuestros temores ‘privacidad diferencial’, aunque la verdad es que se usan diferentes técnicas de anonimización bajo esa nomenclatura, que fue acuñada por Cynthia Dworak de Microsoft, pero bueno.

    Hace años que la UE se están definiendo las buenas prácticas de anonimización de los datos personales en el uso de servicios, y si las prácticas de las grandes compañías al respecto, no fueran completamente transparentes, ya tendríamos otra comisión de investigación en marcha.

    Y la cosa es, que además, según la nueva normativa europea la privacidad diferencial no es suficientemente ‘anónima’ para la estricta regulación que va a entrar en vigor en 2018, ya que se aplica solo al uso de datos, no a la completa desvinculación de los mismos.

    Probablemente, es la razón de Apple haya incluido una aclaración en su acuerdo de usuario, de conformidad a la nueva ley europea.

    Así que, sólo es cuestión de tiempo que sancionen a alguna compañía española, para variar.

    .
    (Los británicos se han adelantado, y ahora ya no tienen que preocuparse de estos temas, con Noruega, Islandia, Turquía, Montenegro, Serbia y Escocia.)

    Impacts of the GDPR: Pseudonymization

    Opinion 05/2014 on Anonymisation Techniques

    Personal Data, Anonymization, and Pseudonymization in the EU

    Anonymisation: Managing data protection risk – Code of practice – ICO

    Anonymous means NO identifying element left behind – EU handbook

    Reglamento (UE) 2016/679 de 27 de abril de 2016 – Reforma de la directiva de protección de datos

  • #002
    Gorrki - 25 junio 2016 - 23:18

    ¿Cómo puede ser que Amazon me recomiende algo que me interese a mi personalmente, si no es espiándome?. Igual pasa con Youtube, si intenta aconsejarme ciertos vídeos, o Twitter, si intenta priorizar los twits que son de mi interés.

    Sea bueno o malo, la unica forma de dar un servicio personalizado, es espiar a los clientes. Podemos llamarlo de otra forma y en vez de decir que “espiamos”, que suena muy duro, llamarlo “aplicar una privacidad diferencial”, Eso es cosa de Marketing, pero ello no cambia la esencia de la acción.

    Apple puede renunciar a espiarnos, quizá sea una buena política para atraer usuarios, pero si lo hace, tiene que renunciar a tratamientos diferenciados a sus clientes, pues a parte de datos muy globales, como es el idioma, el área geográfica y poco mas, si busca mas información como las preferencias sexuales, edad, nivel cultural, o profesión, tiene que entrar claramente en el espionaje tal como hacen las demás empresas.

    Suena a intento, infantil, de disfrazar la realidad, que le venta por Internet aumentan en proporción al trato personalizado que puedas dar a tus clientes. Y que creen, que ha llegado el momento de comenzar a dar ese tipo de trato.

  • #003
    fernando buznego - 27 junio 2016 - 08:42

    Interesante. Parece lógico que si tienes un smartphone, use inteligencia artificial siempre autorizada

    • Jose Antonio Garcia - 27 junio 2016 - 10:20

      Lo lógico sería que tuviera un botoncito que dijera
      a) MODO ON
      si quieres aumenta tu experiencia de usuario, es decir enviar tus datos no confidenciales (uso, conexiones, búsquedas, etc)
      b) MODO OFF
      No se recolectan datos.

      Lo que está en juego es el marketing de las empresas y su beneficio. Pero que no lo van a hacer seguro, el caramelo es muy goloso.

      El modo off tampoco me lo creería mucho, una vez que tu envías datos a un motor de búsqueda, se puede saber tu perfil…

Dejar un Comentario

Los comentarios están cerrados