Hace unas semanas escribí sobre la llegada de los navegadores con inteligencia artificial, un territorio nuevo donde el software ya no se limita a mostrarnos páginas web, sino que empieza a observarnos, analizar lo que leemos y actuar por su cuenta. Desde entonces, el ecosistema está evolucionando mucho, y no precisamente en la dirección de tranquilizar a nadie.
Fast Company acaba de publicar un análisis demoledor sobre esta nueva categoría de productos como ChatGPT Atlas, Perplexity Comet y los nuevos navegadores con inteligencia artificial. Estos programas prometen automatizar tareas cotidianas, desde llenar un carrito de compra hasta cancelar una suscripción, y hacerlo todo con un supuesto aire de magia algorítmica. Pero detrás de esa comodidad se esconde un riesgo profundo: el navegador ya no es una herramienta que usas, sino un agente que te usa a ti.
Según la propia Fast Company, los navegadores con inteligencia artificial introducen un nuevo tipo de vulnerabilidad: las prompt injections, comandos ocultos en páginas aparentemente inocentes que pueden manipular al agente para filtrar contraseñas, mover dinero o extraer información personal. Investigadores de Brave y de Malwarebytes lo han confirmado en sendos estudios: una simple orden invisible puede hacer que un navegador como Atlas ejecute acciones sin que el usuario lo perciba.
OpenAI, consciente del problema, ha publicado una guía de privacidad que intenta explicar cómo Atlas analiza todas las páginas que visitas para «recordar tu contexto» y ofrecerte resultados más personalizados. En otras palabras, el navegador observa, registra y aprende de ti de forma permanente. La frontera entre asistente y vigilante se vuelve cada vez más borrosa.
Esto nos lleva a una pregunta central: ¿para quién trabajan realmente estos navegadores? La promesa de «ahorrarte tiempo» se mezcla con un modelo de negocio basado en extraer tu comportamiento, tus búsquedas y tus hábitos para alimentar modelos y publicidad. Search Engine Land filtró recientemente que OpenAI ya está probando una versión de ChatGPT con anuncios, lo que confirma que esa «memoria» sobre ti no es solamente una forma de porporcionarte ayuda, sino que tiene, ante todo, un evidente valor comercial.
En paralelo, Anthropic ha anunciado Claude for Chrome, y Vivaldi, en sentido contrario, ha publicado un manifiesto titulado «Vivaldi takes a stand: keep browsing human«, en el que defiende explícitamente un navegador sin inteligencia artificial integrada ni rastreo contextual. La dicotomía no podría ser más clara: unos avanzan hacia el navegador que predice y actúa, otros reivindican el que protege y acompaña.
El debate sobre los navegadores con inteligencia artificial refleja algo más grande: la enésima batalla entre control y conveniencia. Cada vez que una tecnología promete hacer algo «por nosotros», deberíamos preguntarnos qué obtiene a cambio. La historia de Internet está llena de ejemplos en los que la facilidad de uso se convirtió en una trampa de dependencia. Y como ya escribió Cory Doctorow en su lúcida descripción del proceso de enshittification, todas las plataformas tienden al mismo ciclo: primero optimizan para el usuario, luego para los socios, y finalmente para sí mismas.
La tentación del «navegador inteligente» es comprensible: ahorrar clics, automatizar tareas, todo lo relacionado con eliminar fricción. Pero la cuestión esencial es a qué renunciamos a cambio: cuando el navegador aprende todo sobre ti, el equilibrio entre privacidad y productividad se rompe. El sueño de la personalización absoluta termina, como casi siempre, en la captura total.
Posiblemente, como sugiere el manifiesto de Vivaldi, haya que recuperar una idea antigua: la de explorar, frente a la de ser guiado. Tal vez la verdadera inteligencia no consista en un navegador que te ahorra decisiones, sino en uno que te permite tomarlas con más claridad. Por el momento, el estado actual de los navegadores con inteligencia artificial no invita en absoluto a planteárselos como una opción.
Porque si el navegador del futuro deja de ser una ventana abierta al mundo para convertirse en un espejo que te devuelve lo que cree que quieres ver, entonces el problema ya no será técnico, sino filosófico. Y cuando llegue ese punto, si no ha llegado ya, tendremos que preguntarnos quién navega realmente por internet: tú, o la inteligencia que dice que te ayuda.
This article is also available on Medium, «Who’s surfing the internet, you or your browser?»
Entiendo que las empresas de IA son conscientes de esto, por la cuenta que les trae, y están tomando medidas al respecto.
Por ejemplo:
Filtros de Contenido Explícito y Regex:
Identificación y bloqueo de patrones de texto que sugieran un ataque, como frases que intentan anular las instrucciones del sistema.
Separación de Datos y Órdenes:
Implementación de mecanismos para que el LLM interprete el contenido obtenido de fuentes externas (como páginas web) solo como información (datos), y nunca como instrucciones ejecutables (órdenes).
Fortalecimiento del System Prompt:
Inclusión de directrices internas (invisibles para el usuario) que tienen la máxima prioridad y ordenan al modelo ignorar cualquier instrucción que contradiga las políticas de seguridad.
Entrenamiento Adversarial del Modelo:
Exponer al LLM a un gran volumen de intentos de inyección durante su entrenamiento para aumentar su resistencia y enseñarle a rechazar instrucciones maliciosas.
Principio del Mínimo Privilegio:
Restringir las funcionalidades y el acceso del LLM a recursos sensibles del sistema (ej. no puede ejecutar código, manipular archivos), limitando el daño potencial de una inyección exitosa.
Control Riguroso de APIs:
Limitar y supervisar estrictamente el acceso del LLM a funciones externas o API (como el envío de correos o el acceso a datos) para evitar su abuso.
Red Teaming:
Empleo de equipos de seguridad internos para atacar y probar proactivamente los modelos, identificando nuevas vulnerabilidades antes de que lo hagan actores maliciosos.
Monitoreo y Auditoría:
Registro continuo de interacciones para detectar y analizar patrones de uso anómalo o sospechoso, permitiendo una respuesta rápida ante incidentes.
Volvemos de nuevo a la evolucion de la lanza y el escudo, aunque en este caso, se utiliza la misma IA para la defensa y el ataque.
Por desgracia aunque lo que indicas sería lo deseable creo que te equivocas.
Para las empresas de IA y en general para el Silicon valley «disruptivo» lo principal es ganar cuota de mercado para aumentar la valoración de sus acciones. Eso incluye demostrar que pueden exprimir al máximo a sus usuarios para obtener información. Todo lo demás es superfluo.
La seguridad «ya si eso» se pondrán con ella más tarde.
Son cosas distintas.
Una cosa es que esas empresas vivan de la informacion que obtienen de sus usuarios, y otra que permitan que su producto sea manipulado por hackers que te roben información sensible para perjudicarte.
Lo primero lo doy por inevitable, pero en cuanto a lo segundo elegiré a la empresa de IA que mejor protección me ofrezca.
NEO, el primer robot doméstico de la empresa 1X. Dicho por el propio CEO de la compañía [min 08:42]
[Zuckerberg Mode On]
[Zuckerberg Mode Off]
…se vinieron arriba los muchachos…
No es sólo tener nuestros datos, es literalmente entrar en nuestra casa.
A ver, que si es para que un operador la la India se conecte al robotijo y me cocine un pollo al curry como dios manda*, pues igual interesa, pero temo que no sea el caso.
* Y ya de paso propongo un nuevo modelo de negocio para los más valientes: «Cocina mundial: ya cocino yo por ti».
Imagínate a tu madre haciéndole unas croquetas a un yanqui o a un finlandés… o a ti que te has ido a trabajar a Japón. XD
No quiero pecar de reducionista, pero me da miedo que los próximos «virales» en TikTok/Instagram/etc sean de estos aparatos en casa de un/a «influencer» y todo dios queriendo imitarlos y metiendo estos electrodomésticos y aceptando cualquier condición que venga impuesta:
Acepto > [Siguiente] > Acepto > [Siguiente] > Acepto > [Siguiente]
Todo el mundo está contento con su Roomba (o similar)… “uff me quita mucho trabajo” (ejem ejem)… y estamos entrando ya en esa época, que el dispositivo, con su cámara y su Lidar, te va a pillar de marrón mientras te jinchas a la vecina del tercero, y tu mujer recibirá una notificación de un gabinete de abogados ofreciendo sus servicios para el divorcio que se avecina.
Posiblemente, también tú, para defenderte, y otro mensaje de un consultorio médico, advirtiéndote que la vecina tiene unas ETS de campeonato, y que te pases para una revisión, de una psicóloga para sobrellevar la ruptura, de tiendas de moda y gimnasios, para que te pongas guapo y empezar una nueva vida…
Y todo porque no quisiste coger una escoba…
Fabricante de aspiradores inteligentes iLife los deshabilita permanentemente si no pueden mandar telemetría XDD
El final es fan-tas-ti-co:
Fantastico es poco decir… XDDDD
A mí me parece que seguimos afectados de una ingenuidad y una inocencia sin límites con toda esta gentuza, esperando de ellos cosas que nunca dieron, dan, ni darán en su put*** vida… ¿O será que estamos afectados de otra cosa mucho más inconfesable?
https://ctxt.es/es/20251101/Politica/50747/Yuval-Abraham-972-Magazine-Google-Amazon-Israel-Gaza.htm
Que las empresas de IA quieren reemplazar a los navegadores tradicionales está claro, aunque han empezado mal con uno productos totalmente inseguros.
Pero sr. Dans, se ha quedado usted corto. A lo que realmente aspiran es a reemplazar el propio Sistema Operativo.
Un SO complejo como macOS/Windows nos da un control y responsabilidad total sobre lo que hay en el ordenador.
Un SO simplificado como iOS/Android nos abstrae de gran cantidad de esa información y nos ofrece una simplificación de aplicaciones sin ficheros propios –la app se encarga– aunque tengamos una app para navegar -más o menos- por nuestros archivos.
Ahora pretenden ir más allá y ofrecer un SO à la HAL9000 en la sólo tenemos una cámara/micrófono/altavoz para interactuar con el ordenador. Opcionalmente una pantalla para mostrar imágenes o datos, pero ya no tenemos ni la posibilidad de acceder a nuestras carpetas/archivos porque de todo eso se encarga él.
https://www.historyhit.com/app/uploads/2023/02/HAL-9000_still-from-A-Space-Odyssey.jpg?x81146
Y en cuanto a la privacidad, bueno, en tres años ha cambiado la mentalidad del el móvil me espía a el móvil me comprende y se ha convertido en nuestro mejor amigo.
Sinceramente, no tengo muy claro que podamos detener esa evolución. O si querremos hacerlo.
«Sinceramente, no tengo muy claro que podamos detener esa evolución. O si querremos hacerlo.»
Exacto, ahí voy yo, o nadie o casi nadie. No se ha visto nunca que, siguiendo exactamente la estrategia del dealer que da droga gratis a la salida del colegio, una vez que te tiene enganchado, no hagas lo que se necesite para seguir enganchado, y tan ricamente.
Y, cuando un día decides dejarlo, siempre aparece otro dealer que te propone otra cosa GRATIS, para que sigas enganchado… Y aquí paz y después gloria eterna.
No se me había ocurrido pero tiene todo el sentido del mundo.
De hecho es la tendencia de muchos años en Android, Windows, Mac, consolas varias… sólo que ahora podría evolucionar aceleradamente gracias a la IA.
Imagínate que reemplazas el smartphone grandote por un simple reloj -sensores fisiológicos + información reducida- y unas gafas ligeras para mostrar la información cuando sea necesario.
¿Quién podría decir que tiene un ordenador? ¿Quién podría decir ahora que esto es sólo Ciencia Ficción?
independientemente de las «malas» intenciones que tengan nuestros asistentes digitales, (conocernos mejor para hacernos consumir sus productos), aloq ue de por si es preocupante. a mi me asusta que su «buena» intención, (hacernos sentir cómodos), nos encierre poco a poco. en nuestra propia burbuja de eco, de unas dimensiones cada vez menores, y lo mas preocupante, que nosotros mismos nos encontremos cómodos dentro de esa mini burbuja.
Gorki, es precisamente por la «suprema comodidad» que te ban a pillar por esa parte en la que estás pensando y que tanto te preocupa, y nos preocupa… Peeeeeero, no será porque nos tienen pillados por ahí otros muchos, ellos incluído,s y oye, tan contantos. Es más, más aprietan, más contentos están todos. Vaya, yo no veo q
Sorry, no sé qué paso….
Decía: ellos incluídos. Y oye, tan contentos. Es más, más aprietan, más contentos están todos. Vaya, yo no veo manifestaciones por la calle ni nada por el estilo. Al contrario, más ofrecen apretar, más se les compran la apretura… Y así vamos.
Debo ser algo corto (para estas lides), pero atisbo que estas IA, que intentan implantar los siliconados de turno, no son otra cosa que las galletitas de siempre, pero con enormes tetas a lo Fellini.
En el fondo es un poco la cantinela de que las redes sociales no valen para nada… y, por lo tanto, no hay que experimentar los filtros mentales propios (nuestro propio sistema de algoritmía)… total!!!
Me falta tiempo para que salga LadyBird
Estamos creando un navegador completamente nuevo desde cero, con el respaldo de una organización sin ánimo de lucro.
Vale,… me lo creo,… ¿De qué viven?.
Otros dealers… «Nuevo, desde cero, sin lucro…», ja, ja, ja…
No aprendemos nada, ehhh??? XDDDD
«Te espíamos por tu bien»
Pero, ¿quien podría negarse? ahorrarse el esfuerzo de teclear dos palabras más o leer el titulo de un par de enlaces lo justifica absolutamente todo, ese brutal ahorro de esfuerzo cambiará completamente tu vida. Desde lo de llenar tu casa de microfonos para no tener que levantarse a encender la luz, no había nada tan justificado.
No consigo ver de manera real el beneficio de un navegador vitaminado con IA, la verdad.
Si alguien pudiera enumerarme todas las bondades reales y no esas características de un producto que el ciudadano común, usa poco o desconoce…
Lo que no entiendo, es que permitamos que un navegador, nos ahorre cuatro clicks.
Que va a conseguir mejores ofertas? Sera entre esas empresas que pagaran por ser las primeras en sus resultados (lo cual, no significa que sean la mejor oferta, sino la más visible). Eso ya lo hace Google en sus búsquedas.
Dejar que todo cuanto hagamos, sea “supervisado” por no decir, espiado por el navegador? Para que exactamente? Cual es el beneficio?
Yo no se si el mundo, se ha vuelto loco de repente, o directamente la tecnología nos ha convertido en gilipollas. Idiocracia.
Te entiendo perfectamente Lua. Yo soy más “Paco Martínez Soria”para esas cosas.
El otro día alguien me decía que justo acababa de hablar con ChatoGpt acerca de unas cosas de trabajo (domótica y eficiencia energética) y la palabra “hablar” me llamó la atención.
Luego, me explicó que él tiene por trabajo la versión de pago (con supuestos mejores resultados y las maravillas del pago, vaya). Que le puede pedir un perfil más filosófico, por ejemplo, lo cual le brinda una serie de respuestas u opciones mucho más acordes a lo que él siente como algo estimulante.
Mi otra opción, la mía… es que prefiero encontrarme o no conversaciones o personas en la vida que me estimulen. No ir buscándolas o configurándolo. Me parece mucho más “mágico” y me genera mayor satisfacción, creo. Es más real, supongo.
Con el navegador es en esencia lo mismo. No ya el algoritmo famoso, pero está guay como por ejemplo hoy en clase, alguien ha mencionado algunas webs que nos van a resultar útiles al grupo para nuestro trabajo. Una clase que es estimulante y de la cual aprendes un montón en base a la interacción real con los compañeros.
Extendiendo esto, justo esto al navegador… ¿cómo se va a transformar mis hábitos en una mejora en la navegación? No entiendo.
Entro a mis webs de cine, diseño gráfico, tecnología.. a las cuales últimamente no tengo ni tiempo de ver. ¿Como va a generarme el navegador mejores y más satisfactorios hábitos?
¿No se supone que con herramientas como Feedly, ahorras para apartar la paja del oro en cuanto a economizacion del tiempo? Por ejemplo.
¿Me va a proponer nuevas webs de cine? Me encantaría porque no hay nada que supere la basura en la que se ha convertido weblogs y Espinof.
No acabo de ver en qué medida se puede haber una mejoría notable. Supongo que esto es como los toboganes en las empresas hace ya un par de décadas.
No es que ya me supervisen o no. ¿En qué me beneficia en el día a día, que haya un señor detrás mío viendo como navego?
No termino de verlo, la verdad.
Marcos… los tiros no van por ahi…
Amparo Babiloni te lo explica:
He probado ChatGPT Atlas y no es el mejor navegador IA, pero sí el que más amenaza el dominio de Google
El agente de ChatGPT Atlas me ha hecho la compra en Mercadona y ahora tengo la despensa llena de ajos
y Javi Pastor, pone la guinda que todos esperamos:
Los navegadores de IA tienen un problemón: que cualquiera que sepa escribir será capaz de hackearlos
(si, ya se que esta en los enlaces de eDans al principio, pero asi esta mas mascadito y entendible…) :P
«Yo no se si el mundo, se ha vuelto loco de repente, o directamente la tecnología nos ha convertido en gilipollas. Idiocracia.» Las dos cosas, Lua, las dos cosas. (Aunque loco lo haya estado siempre…).
Enrique tu cierre, sobre el navegador que se convierte en un espejo, es muy potente. Encapsula la idea de autoensimismamiento algorítmico, un fenómeno que va más allá de lo técnico para tocar la identidad digital individual.
Si quisieras llevar el argumento un paso más allá, podrías explorar dos dimensiones adicionales:
Gobernanza y regulación: cómo deberían posicionarse marcos como el EU AI Act o la FTC respecto al comportamiento “autónomo” y a la recopilación contextual del navegador.
Arquitectura de alternativas: qué modelos de IA borde podrían preservar la asistencia sin la vigilancia —por ejemplo, agentes locales o encriptados que no dependan de servidores centrales.