Una corte local en Alemania emitió un fallo que podría reconfigurar la operación de los motores de búsqueda y los chatbots basados en inteligencia artificial (IA) en todo el mundo. El Tribunal Regional de Múnich determinó de manera preliminar que Google es responsable de una serie de declaraciones falsas generadas por su función AI Overviews, obligando a la compañía a impedir la difusión de afirmaciones erróneas o imprecisas mediante esta herramienta integrada en su motor de búsqueda.
La resolución deriva de un caso reportado por The Decoder, en el que dos editoriales descubrieron que los resúmenes generados por IA de Google las vinculaban, en determinadas búsquedas, con prácticas comerciales cuestionables, estafas y engaños relacionados con suscripciones, sin que existiera fundamento para ello.
La disputa legal de Ulrich Richter contra Google podría transformar las reglas del entorno digital al definir si las tecnológicas deben responder legalmente por la información que alojan en sus servicios.
A principios de este año, las empresas afectadas enviaron a la tecnológica una carta de cese y desistimiento, según el informe. Sin embargo, Google rechazó la responsabilidad argumentando que su función de resúmenes automáticos advierte a los usuarios que la información puede contener errores y que debe ser verificada de manera independiente.
Durante su análisis, el tribunal concluyó que la IA de Google combinó información correspondiente a otras compañías señaladas por posibles prácticas ilícitas con datos de los demandantes, generando asociaciones que no aparecían en ninguna de las fuentes enlazadas por el buscador.
Las autoridades consideraron que, a diferencia de los motores de búsqueda tradicionales, que se limitan a mostrar listas de enlaces con declaraciones elaboradas por terceros, la herramienta de Google producía “declaraciones independientes, nuevas y sustanciales” basadas en una interpretación equivocada de la información disponible en internet.
Según la corte, corregir este problema no depende de terceros. Google es la única entidad con capacidad para modificar la tecnología que sustenta sus resúmenes generados mediante IA y, por lo tanto, “debe rendir cuentas”. Además, el tribunal consideró que la línea de defensa presentada por la empresa carecía de sustento, ya que la síntesis cuestionada “contiene declaraciones que no aparecen en absoluto en los resultados de búsqueda”.
Una nueva (y contundente) interpretación de la IA en la web
La interpretación que los jueces realizaron sobre el papel de la IA en la presentación de los resultados es lo que podría convertir este caso en un precedente histórico respecto a la responsabilidad que tienen las grandes compañías tecnológicas sobre la influencia de sus desarrollos más avanzados dentro de plataformas ampliamente utilizadas.
Hasta ahora, en la mayoría de los sistemas jurídicos, los motores de búsqueda han sido considerados herramientas que únicamente facilitan el acceso a contenidos creados por terceros y disponibles en la web. Esta condición les ha otorgado cierto nivel de protección cuando la información publicada resulta falsa, inexacta, engañosa o incluso difamatoria.
No obstante, el tribunal alemán sostuvo que dicha salvaguarda deja de aplicarse cuando los buscadores incorporan sistemas de IA generativa. De acuerdo con su razonamiento, esta tecnología es capaz de producir afirmaciones inexistentes a partir de múltiples fuentes y, en consecuencia, las empresas responsables de operarla deben asumir la responsabilidad por su contenido.
Los jueces también señalaron que, aunque Google invita a los usuarios a verificar la información debido a las posibles alucinaciones propias de los modelos de IA, esta advertencia no elimina la responsabilidad de quien difunde el contenido. De lo contrario, las víctimas de afirmaciones falsas quedarían prácticamente indefensas, ya que las fuentes originales nunca realizaron esas declaraciones y, por ende, no podrían ser objeto de acciones legales.
Asimismo, el tribunal sostuvo que los resultados generados por un sistema de IA no pueden ampararse bajo los principios de la libertad de expresión, debido a que son el producto de un algoritmo diseñado, entrenado y administrado por una empresa, y no la manifestación de una opinión individual.
