Tribunal alemán ordena a Google retirar afirmaciones falsas del modo IA sobre ex médico

Un tribunal de Aquisgrán, Alemania, ha impuesto a Google una orden para que evite que su modo de IA difunda afirmaciones falsas sobre un médico. El fallo se basa en una sentencia de Múnich de mayo, donde se consideró que las respuestas de la IA son declaraciones propias de la empresa. La medida, aún cautelar, permite a Google apelar.

El caso del médico acusado por error

El demandante, ex médico jefe de un hospital alemán, descubrió en agosto que el resumen de IA de Google le atribuía un delito de agresión sexual. El texto decía que había acosado a su secretaria, había sido despedido y había recibido una condena condicional, además de una indemnización de seis cifras. Ninguna de estas afirmaciones era cierta. Los hechos estaban vinculados a otro exdirectivo de la clínica, y los enlaces proporcionados por Google no mencionaban al médico en cuestión.

El médico solicitó a Google que retirara el contenido a finales de agosto. La respuesta de la compañía fue que había revisado la reclamación y que no tomaría ninguna medida. Incluso una carta de advertencia de su bufete de abogados en Colonia no alteró la situación.

La orden del tribunal de Aquisgrán

El tribunal dictaminó que los textos generados por la IA vulneraban el derecho general de la personalidad del médico, al atribuirle acusaciones penales y consecuencias laborales que no le correspondían. Se emitió la orden en un procedimiento de urgencia, sin escuchar primero a Google, alegando daños a su reputación profesional y social. Google enfrenta una multa de hasta 250.000 euros por cada infracción.

Precedente en Múnich

En mayo, el Tribunal Regional I de Múnich dictaminó que Google puede considerarse directamente responsable de sus resúmenes de IA. El caso involucraba a dos editoriales que habían sido vinculadas erróneamente con estafas de suscripción. Google argumentó que los usuarios podían comprobar las fuentes a través de los enlaces y que no debían confiar ciegamente en los resultados de la IA. El tribunal rechazó este argumento, al considerar que el resumen era una declaración autocontenida y no ofrecía indicios de posible falta de fiabilidad.

Google declaró que recurriría la sentencia. Sin embargo, el caso terminó con un acuerdo extrajudicial, sin que se aclarara si hubo contraprestación económica ni por qué se cerró el caso.

Implicaciones para la responsabilidad de la IA

El fallo de Aquisgrán refuerza la idea de que las respuestas generadas por la IA de Google son declaraciones propias de la empresa. Si la IA difunde información falsa, Google puede ser sancionado. La medida cautelar permite a la compañía apelar, pero la sentencia de Múnich ya sentó un precedente importante sobre la responsabilidad de los proveedores de IA.

Hasta la fecha, no se han anunciado nuevas revelaciones ni se espera que se publiquen detalles adicionales. El caso sigue abierto, pero la orden de Aquisgrán ya impone restricciones concretas sobre el modo de IA de Google en Alemania.