Enrique Dans

La decisión preliminar del Tribunal Regional de Munich contra Google por sus AI Overviews no es una simple anécdota europea más en la larga historia de fricciones entre Bruselas, los tribunales nacionales y las grandes tecnológicas norteamericanas.

Tampoco es, aunque algunos quieran presentarlo así, otro episodio de ese supuesto reflejo antimonopolístico europeo que en Silicon Valley se interpreta con una mezcla de irritación, superioridad moral y victimismo. Es algo bastante más importante: un tribunal ha dicho, en esencia, que cuando una compañía utiliza inteligencia artificial para producir una afirmación nueva, no puede esconderse detrás de la excusa de que «solo estaba organizando información».

El caso es especialmente interesante porque no gira alrededor del copyright, ni del abuso de posición dominante, ni de la remuneración a los medios, aunque todos esos temas están obviamente en el fondo: dos empresas alemanas demandaron a Google porque sus AI Overviews las asociaban con estafas y prácticas fraudulentas. El problema es que las fuentes enlazadas por Google no decían eso. La inteligencia artificial había mezclado, inferido, sintetizado y, finalmente, inventado. Y el tribunal entendió que esas afirmaciones no eran contenido de terceros: eran contenido de Google.

Esa distinción es crucial. Durante décadas, los buscadores han sido tratados como intermediarios. Un buscador rastrea, indexa, ordena y enlaza. Puede equivocarse, puede priorizar mal, puede reflejar basura, pero en principio no está hablando: está señalando. La inteligencia artificial generativa cambia radicalmente esa arquitectura. Ya no estamos ante una página de resultados que remite a otros. Estamos ante un sistema que lee, combina, resume y presenta una respuesta con apariencia de autoridad. Es decir, ante una máquina que habla en nombre de la empresa que la despliega.

Google intentó defenderse con un argumento que, en realidad, revela la magnitud del problema: los usuarios podían comprobar los enlaces. Pero si el usuario tiene que verificar cada frase de una respuesta generada por inteligencia artificial, ¿para qué sirve entonces la respuesta? La función se vende precisamente como una simplificación, como una manera de ahorrar tiempo y evitar clics. Si funciona, sustituye al proceso tradicional de búsqueda. Si se equivoca, no puede convertirse mágicamente en una simple invitación a seguir investigando. No se puede vender comodidad y, cuando esa comodidad causa daño, refugiarse en que el usuario debía haber hecho el trabajo completo.

La cuestión va mucho más allá de Google. Afecta a cualquier empresa que despliegue un sistema generativo capaz de producir afirmaciones sobre personas, compañías, productos, médicos, profesores, periodistas, políticos o competidores. Durante años hemos aceptado con una sorprendente docilidad que las plataformas no eran responsables de casi nada: ni de lo que recomendaban sus algoritmos, ni de lo que amplificaban, ni de las consecuencias económicas o reputacionales de sus decisiones automatizadas. La inteligencia artificial generativa rompe ese pacto implícito. Cuando el algoritmo ya no se limita a clasificar contenido ajeno, sino que crea una afirmación nueva, la vieja coartada del intermediario empieza a desmoronarse.

En Estados Unidos, el choque con la famosa Section 230 de la Communications Decency Act será inevitable. Esa norma, considerada por muchos fundamental para el desarrollo de internet, establece que un proveedor de servicios interactivos no debe ser tratado como editor de la información proporcionada por otro proveedor de contenido. Su lógica histórica era razonable: proteger a las plataformas frente a responsabilidades imposibles por cada contenido publicado por terceros. Pero la pregunta incómoda es evidente: ¿qué ocurre cuando la información ya no la proporciona «otro», sino un modelo entrenado, afinado, desplegado, optimizado y monetizado por la propia compañía?

La jurisprudencia norteamericana no ha resuelto todavía ese dilema. En Gonzalez v. Google, el Tribunal Supremo evitó pronunciarse sobre el alcance real de la Section 230 en relación con los algoritmos de recomendación. Pero la inteligencia artificial generativa plantea una cuestión mucho menos cómoda que la recomendación algorítmica: no hablamos solo de seleccionar qué ve un usuario, sino de fabricar una respuesta que antes no existía. Como señalaba un análisis de la American Bar Association, estos sistemas se parecen cada vez menos a intermediarios neutrales y cada vez más a autores que sintetizan, interpretan y generan contenido propio.

Ahí está el núcleo del asunto. Si una persona escribe una acusación falsa, responde por ella. Si un periódico publica una acusación falsa, responde por ella. Si una empresa utiliza una inteligencia artificial para producir una acusación falsa y colocarla en la parte más visible del buscador más usado del mundo, ¿de verdad vamos a aceptar que nadie responde? ¿Que el perjudicado debe resignarse porque «el modelo se equivocó»? Esa idea solo resulta defendible si seguimos tratando a la inteligencia artificial como una especie de fenómeno natural, como la lluvia o el viento, y no como lo que realmente es: un producto diseñado, controlado y explotado comercialmente por una empresa.

Además, este debate se cruza con otro igualmente importante: el de la extracción de valor. Los editores europeos llevan meses denunciando que AI Overviews les roba tráfico, visibilidad e ingresos. La Independent Publishers Alliance presentó una queja antimonopolio ante la Comisión Europea argumentando que los medios no pueden excluir sus contenidos de las respuestas de inteligencia artificial sin desaparecer también de Google Search. En Italia, los editores describieron la función como un «traffic killer». Y la Comisión Europea ya investiga el escenario conocido como «Google Zero», en el que Google utiliza contenidos de terceros para responder dentro de Google, sin enviar tráfico fuera de Google.

Pero la resolución alemana introduce una dimensión más profunda que la competencia o la compensación. No se trata solo de si Google abusa de su posición dominante. Se trata de si una empresa puede convertir internet en materia prima, destilarlo mediante algoritmos opacos, vender la destilación como respuesta autorizada y, al mismo tiempo, negar responsabilidad cuando esa respuesta destruye reputaciones, altera decisiones de consumo o daña negocios.

La respuesta debería ser obvia. La responsabilidad no puede evaporarse en la arquitectura técnica. Si el sistema está diseñado por Google, desplegado por Google, optimizado por Google, integrado en Google Search y monetizado por Google, entonces sus errores no son simples accidentes del ecosistema informativo: son fallos de producto, fallos editoriales o ambas cosas a la vez. Y eso cambia por completo el debate.

La inteligencia artificial no necesita una impunidad especial para innovar. Necesita incentivos correctos. Si las empresas saben que no responderán por nada, desplegarán sistemas cada vez más agresivos, opacos y baratos de mantener. Si saben que responderán por los daños que causen sus afirmaciones inventadas, invertirán en verificación, trazabilidad, mecanismos de corrección, límites de uso y evaluación de riesgos. Exactamente lo que cualquier industria responsable debe hacer cuando sus productos pueden causar daño.

La sentencia alemana es preliminar, sí. Google recurrirá, matizará, minimizará y repetirá que la inmensa mayoría de las respuestas son correctas. Pero ese no es el punto. El punto es que el viejo contrato de internet, basado en plataformas que decían no ser responsables porque solo alojaban o enlazaban contenidos de terceros, ya no encaja con sistemas que generan lenguaje propio a escala industrial. La inteligencia artificial no es un enlace. No es una lista. No es una ventana neutral al mundo. Es una máquina de producir afirmaciones. Y quien pone esa máquina en marcha debe responder por lo que dice.

Durante demasiado tiempo, las grandes tecnológicas han disfrutado de una asimetría extraordinaria: capturan el valor cuando sus algoritmos funcionan y socializan el daño cuando fallan. La decisión de Múnich apunta justo contra esa asimetría. Y por eso es importante. No porque sea europea. No porque sea contra Google. Sino porque empieza a formular la pregunta que definirá la próxima década: cuando una inteligencia artificial habla, ¿quién está hablando realmente?

Y la respuesta, por mucho que incomode a Silicon Valley, no puede ser «nadie».

This article is also available in English on my Medium page, «No more alibis: why generative AI can’t hide behind Section 230 any longer»