Fuentes, nota a nota

En el libro · 35

1. 2024Air Canada · cap. 1
   El chatbot inventa una tarifa; nadie lo revisaba · la persona que dice que no

   Dónde

   Air Canada · Canadá · Aerolínea · Grande

   Qué pasó

   El asistente de la web dio mal la tarifa por duelo; la aerolínea alegó que el chatbot respondía de sus actos; condenada a 650,88 CAD (hechos de 2022, sentencia de 14.02.2024)

   Evidencia

   «a remarkable submission» (el tribunal, sobre el argumento de que el chatbot era responsable de sus propios actos); la política no estaba delante del asistente y nadie revisaba

   Tornillo

   la persona que dice que no · segundo tornillo: las reglas

   Resultado

   multa o sentencia: 650,88 CAD más intereses (812,02 CAD)

   Fuente

   primaria (sentencia)

   Capítulo

   1

2. 2024DPD · cap. 1
   Cambia el motor, nadie prueba, el cliente insulta · la persona que dice que no

   Dónde

   DPD (Reino Unido) · Reino Unido · Reparto · Grande

   Qué pasó

   Tras una actualización del proveedor, el chat insultó a un cliente y escribió un poema contra la empresa; apagado de inmediato

   Evidencia

   «The AI element was immediately disabled and is currently being updated.» (DPD); el cambio de versión llegó sin que nadie de la casa lo probara

   Tornillo

   la persona que dice que no · segundo tornillo: las reglas

   Resultado

   marcha atrás: Apagado del asistente; sin multa

   Fuente

   prensa (BBC, Reuters)

   Capítulo

   1

3. 2024McDonald's e IBM · cap. 2
   Tres años probando en cien restaurantes; se apaga · no se sabe

   Dónde

   McDonald's USA · EE. UU. · Restauración · Grande

   Qué pasó

   Tres años de prueba de pedido por voz en más de cien autoservicios (2021-2024); memorando que ordena apagarlo antes del 26.07.2024; sin razones oficiales

   Evidencia

   «After a thoughtful review, McDonald's has decided to end our current partnership with IBM on AOT (automated order taking) and the technology will be shut off in all restaurants currently testing it no later than July 26, 2024.»; el memorando no da razones; CNBC cita dos fuentes anónimas (acentos y exactitud)

   Tornillo

   no se sabe · segundo tornillo: el caso

   Resultado

   marcha atrás: Prueba cerrada; cifra no pública

   Fuente

   prensa con memorando literal

   Capítulo

   2

4. 2025Duolingo · cap. 2
   Acelera sin decir adónde; rectifica tres semanas después · el valor

   Dónde

   Duolingo · EE. UU. · Educación en línea · Grande

   Qué pasó

   Memorando «AI-first» (28.04.2025) que pedía automatizar antes de contratar, sin decir qué problema ni qué pasaba con las personas; críticas; aclaración el 22.05.2025

   Evidencia

   «One of the most important things leaders can do is provide clarity. When I released my AI memo a few weeks ago, I didn't do that well.» (von Ahn); el primer correo no decía qué pasaba con el trabajo de cada uno

   Tornillo

   el valor · segundo tornillo: el caso

   Resultado

   marcha atrás: Rectificación pública; «seguimos contratando al mismo ritmo»

   Fuente

   primaria (LinkedIn) y prensa

   Capítulo

   2

5. 2025LUCIE (Linagora) · cap. 2
   Prueba de concepto vendida como producto; dos días · el caso

   Dónde

   Consorcio OpenLLM-France; Linagora · Francia · Tecnología; educación · Consorcio con dinero público

   Qué pasó

   Un asistente conversacional de un proyecto de investigación se abre al público el 23.01.2025, promocionado por una cuenta del Ministerio de Educación; respuestas absurdas; cerrado el 25.01.2025

   Evidencia

   «Conscients que la phase d'instruction n'était que partielle, nous avons pensé, à tort, qu'une mise en ligne … était néanmoins possible» (Linagora)

   Tornillo

   el caso

   Resultado

   marcha atrás: Retirado en dos días; sin cifra de coste

   Fuente

   prensa de referencia y comunicado de la empresa

   Capítulo

   2

6. 2025Commonwealth Bank · cap. 3
   Despide por una cifra que nadie comprobó; rectifica · el caso

   Dónde

   Commonwealth Bank of Australia · Australia · Banca · Grande

   Qué pasó

   Suprime 45 puestos de atención telefónica por una previsión de llamadas no comprobada; las llamadas suben; deshace los despidos y pide disculpas el 21.08.2025

   Evidencia

   «CBA's initial assessment that the 45 roles in our Customer Service Direct business were not required did not adequately consider all relevant business considerations and this error meant the roles were not redundant.» (portavoz de CBA)

   Tornillo

   el caso · segundo tornillo: el valor

   Resultado

   marcha atrás: 45 despidos revertidos; disculpa

   Fuente

   sindicato (parte) y prensa (ABC)

   Capítulo

   3

7. 2025Klarna · cap. 3
   Cifra objetivo solo de coste; vuelve a contratar · el caso

   Dónde

   Klarna · Suecia · Pagos · Grande

   Qué pasó

   Asistente que atiende dos tercios de los chats con objetivo de coste (equivalente a 700 agentes, febrero de 2024); en mayo de 2025 el consejero delegado reconoce menos calidad y vuelve a contratar personas; el asistente sigue

   Evidencia

   «As cost unfortunately seems to have been a too predominant evaluation factor when organizing this, what you end up having is lower quality.» (Siemiatkowski a Bloomberg, 08.05.2025)

   Tornillo

   el caso · segundo tornillo: el valor

   Resultado

   marcha atrás: Parcial: vuelve a contratar atención humana; mantiene el asistente

   Fuente

   primaria (nota de Klarna) y prensa

   Capítulo

   3

8. 2026Una empresa industrial de Bilbao (delineantes) · cap. 3
   Despide por una cifra sin medir; improcedente · el caso

   Dónde

   Empresa industrial vasca (sin nombre: sentencia no publicada) · España · Industria · No publicado

   Qué pasó

   Despide a cuatro de siete delineantes (31.10.2025) con una cuenta en la carta: tres licencias de diseño con IA (4.725 €/año) frente a un sueldo de 29.871 €; la herramienta apenas se usaba y el informe era posterior; improcedente (sentencia 252/2026, 06.07.2026)

   Evidencia

   «Las previsiones de futuro o proyectos piloto no justifican por sí solos la amortización de puestos»; el informe «obviamente no puede avalar un despido operado siete meses antes» (según los resúmenes)

   Tornillo

   el caso

   Resultado

   multa o sentencia: Despido improcedente; 12.330,56 €; cabe recurso

   Fuente

   sentencia conocida por resúmenes concordantes; texto no publicado

   Capítulo

   3

9. 2024Betsaide · cap. 4
   Pedidos en PDF al programa; horas medidas · ninguno: salió bien

   Dónde

   Betsaide (Elorrio, Bizkaia) · España · Fundición · Unas 400 personas

   Qué pasó

   Lee los pedidos en PDF, los mete en el programa de gestión y propone transportista; diez personas seis meses; 230 y 240 horas al año (Innobasque) y «más de 30 horas semanales» del equipo comercial (SPRI, 2025)

   Evidencia

   «más de 30 horas semanales» (SPRI, 03.12.2025); Innobasque: 230 horas al año en pedidos y 240 en transporte. Datos declarados por la empresa, publicados por organismos públicos, sin auditar

   Tornillo

   ninguno: salió bien

   Resultado

   éxito medido: Cifra declarada por la empresa, publicada por Innobasque y SPRI

   Fuente

   organismo público, a partir de la empresa

   Capítulo

   4

10. 2025BOSCO (bono social) · cap. 4
    Decidía sobre miles sin que nadie pudiera verlo · las reglas

    Dónde

    Ministerio para la Transición Ecológica (BOSCO) y Civio · España · Administración pública · Administración

    Qué pasó

    Programa automático (no IA) que decide el bono social eléctrico; Civio pide el código desde 2018; el Supremo (sentencia 1119/2025, 11.09.2025) obliga a entregarlo y habla del efecto multiplicador de sus errores

    Evidencia

    El tribunal lo llama «actuación administrativa automatizada» y habla del «efecto multiplicador» de los errores (ficha Civio); la Administración no pudo explicar ni entregar cómo decidía

    Tornillo

    las reglas · segundo tornillo: la persona que dice que no

    Resultado

    multa o sentencia: Sentencia del Tribunal Supremo; sin multa

    Fuente

    parte en el pleito (Civio) y nota del CGPJ

    Capítulo

    4

11. 2026Caso del autor: lector de expedientes (concesionarios) · cap. 4
    Veintisiete bastidores de veintinueve borrados; alguien lo mira · ninguno: salió bien

    Dónde

    Grupo de concesionarios de vehículos de ocasión (sin nombre) · España · Automoción · Grupo (sin cifra)

    Qué pasó

    Lector de 28 tipos de documento conectado al programa de gestión, con revisión en pantalla; un validador del autor marcó inválidos 27 de 29 bastidores reales y el programa, cumpliendo su regla, los borró; se vio y se arregló; 440 documentos se repasan antes de cada versión

    Evidencia

    «Lo que te protege no es la confianza del modelo: es alguien que mira lo que se descartó» (capítulo 4); regla escrita del programa: lo marcado inválido se descarta

    Tornillo

    ninguno: salió bien

    Resultado

    éxito medido: En producción; 98,2 % pagables en la primera remesa real; costes de arranque y anuales no dados por el autor (19.10.2026)

    Fuente

    autor (registro técnico; cifras resueltas con el autor el 19.10.2026)

    Capítulo

    4

12. 2023Ayuntamiento de Ámsterdam (Smart Check) · cap. 5
    El modelo falla; la puerta de salida funciona · ninguno: salió bien

    Dónde

    Ayuntamiento de Ámsterdam · Países Bajos · Administración local · Administración

    Qué pasó

    Modelo para decidir qué solicitudes de ayuda revisar; expectativas escritas antes; en el piloto real marcó a más gente, no acertó más y el sesgo volvió; el concejal lo paró en noviembre de 2023 (unos 500.000 €)

    Evidencia

    «I have decided to stop the pilot.» (Rutger Groot Wassink); criterios fijados antes y una persona con nombre que decide contra ellos

    Tornillo

    ninguno: salió bien

    Resultado

    marcha atrás: Piloto parado a tiempo; gasto de unos 500.000 € (estimación del ayuntamiento)

    Fuente

    periodismo de investigación con documentos públicos

    Capítulo

    5

13. 2024Financial Times · cap. 5
    Seis semanas; el no lo da quien usa · ninguno: salió bien

    Dónde

    Financial Times · Reino Unido · Prensa · Grande

    Qué pasó

    Seis semanas para que un modelo resumiera un boletín; el equipo de boletines no lo dio por bueno y se paró; límite fijado antes: la confianza de los lectores no se arriesga

    Evidencia

    «It was the best kind of failure, we've learned a lot from it.» (Liz Lohn); el no lo dio quien iba a usar la herramienta

    Tornillo

    ninguno: salió bien

    Resultado

    marcha atrás: Prueba parada a las seis semanas; sin medición publicada

    Fuente

    prensa sectorial (lo cuenta la responsable)

    Capítulo

    5

14. 2021Zillow (Zillow Offers) · cap. 5
    Crece antes de saber si funciona; cierra · el caso

    Dónde

    Zillow Group · EE. UU. · Inmobiliario · Grande

    Qué pasó

    Compraba casas con precios de un modelo de previsión; en noviembre de 2021 anuncia el cierre del negocio: rebaja de unos 304 M$, pérdidas previstas de 240 a 265 M$ y un 25 % menos de plantilla

    Evidencia

    «We've determined the unpredictability in forecasting home prices far exceeds what we anticipated and continuing to scale Zillow Offers would result in too much earnings and balance-sheet volatility.» (Rich Barton); la puerta llegó después de crecer

    Tornillo

    el caso

    Resultado

    pérdida con cifra: 304 M$ de rebaja, 240 a 265 M$ más de pérdidas, 25 % de plantilla

    Fuente

    primaria (8-K ante la SEC)

    Capítulo

    5

15. 2025Taco Bell · cap. 6
    Quinientos autoservicios antes de saber dónde funciona · el caso

    Dónde

    Taco Bell · EE. UU. · Restauración · Grande

    Qué pasó

    IA de voz en más de 500 autoservicios; fallos virales (18.000 vasos de agua); en agosto de 2025 decide restaurante por restaurante y hora por hora cuándo usarla y cuándo vigilar

    Evidencia

    «sometimes it lets me down, but sometimes it really surprises me» y «it's really, really early» (Dane Mathews); lo que funcionaba en pocos sitios no decía lo que pasa en quinientos

    Tornillo

    el caso · segundo tornillo: la persona que dice que no

    Resultado

    sin resultado público: Decisión que se afina; ni retirada ni éxito declarado

    Fuente

    prensa (TechCrunch sobre WSJ)

    Capítulo

    6

16. 2023Samsung · cap. 7
    Permitir sin regla, fuga, prohibir, herramienta propia · las reglas

    Dónde

    Samsung (semiconductores) · Corea del Sur · Electrónica · Grande

    Qué pasó

    Permite ChatGPT sin regla (11.03.2023); ingenieros pegan código y notas internas; memorando del 02.05.2023 que prohíbe la IA generativa en equipos de empresa, de forma temporal, mientras prepara una herramienta propia

    Evidencia

    «Samsung has imposed a "temporary" ban on generative AI tools like ChatGPT after what appears to be an accidental source code leak.» (The Register, sobre el memorando que leyó Bloomberg)

    Tornillo

    las reglas

    Resultado

    marcha atrás: Prohibición temporal; herramienta propia después

    Fuente

    secundaria (prensa; el memorando no es público)

    Capítulo

    7

17. 2024OpenAI y ChatGPT en Italia · cap. 7
    Un mes sin herramienta y 15 millones después · las reglas

    Dónde

    OpenAI (Garante italiano) · Italia · Tecnología · Grande

    Qué pasó

    El Garante limita ChatGPT en Italia del 30.03 al 28.04.2023 (base jurídica, información, edad); OpenAI cumple y vuelve; el 20.12.2024 el Garante cierra la investigación con 15 M€ de multa y una campaña informativa de seis meses

    Evidencia

    «OpenAI avrà tempo fino al 30 aprile per adempiere alle prescrizioni imposte dal Garante» (28.04.2023); «OpenAI dovrà realizzare una campagna informativa di sei mesi e pagare una sanzione di 15 milioni di euro» (20.12.2024)

    Tornillo

    las reglas

    Resultado

    multa o sentencia: Limitación de un mes (2023) y multa de 15 M€ (2024)

    Fuente

    primaria (Garante)

    Capítulo

    7

18. 2026Amadeus · cap. 8
    Un piloto de tres meses, tirado; 18 millones · las reglas

    Dónde

    Amadeus IT Group · España · Tecnología de viajes · Grande (Ibex 35)

    Qué pasó

    En 2022 cruzó durante tres meses registros de reservas de millones de viajeros con datos de dos cadenas hoteleras para probar perfiles «hiperpersonalizados»; el piloto se descartó; denuncia anónima en 2023; la AEPD impone 18 M€ (resolución PS/00005/2025, publicada en mayo de 2026), reducidos a 14,4 por pago voluntario; recurrida

    Evidencia

    «un determinado proyecto piloto que no era razonablemente previsible en el momento y en el contexto de la recogida de los datos» (AEPD)

    Tornillo

    las reglas · segundo tornillo: el caso

    Resultado

    multa o sentencia: 18.000.000 €, pagados 14.400.000 sin reconocer responsabilidad; recurso anunciado

    Fuente

    primaria (resolución íntegra) y prensa de referencia

    Capítulo

    8

19. 2026Caso del autor: asistente con permisos por persona (despachos) · cap. 8
    El asistente dice «no tengo permiso»; no inventa · ninguno: salió bien

    Dónde

    Despachos de abogados y una empresa de software (sin nombre) · España · Servicios jurídicos; software · Cuatro empresas

    Qué pasó

    Asistente sobre el programa de gestión que entra con la clave de cada persona y ve solo lo que ella ve; en la primera auditoría contestó «no tengo permiso» sin inventar; se rompieron despliegues y un mapa de permisos, no la regla

    Evidencia

    «Para eso el asistente no necesita permisos propios; necesita no tenerlos» (capítulo 8); los permisos los decide el programa de gestión

    Tornillo

    ninguno: salió bien

    Resultado

    éxito medido: En producción en cuatro empresas; 5,58 a 2,47 dólares por sesión tras reescribir las instrucciones; coste anual no dado por el autor (19.10.2026)

    Fuente

    autor (registro técnico; cifras resueltas con el autor el 19.10.2026)

    Capítulo

    8

20. 2025WeTransfer · cap. 9
    La IA llega en un cambio de condiciones · las reglas

    Dónde

    WeTransfer · Países Bajos · Software · Grande

    Qué pasó

    Cambio de condiciones con licencia perpetua y mención a entrenar modelos de aprendizaje automático; quejas; retira la mención y estrecha la licencia

    Evidencia

    «In retrospect, we would have excluded the mention of machine learning entirely as we don't use machine learning or any form of AI to process content shared via WeTransfer.» (WeTransfer a The Register)

    Tornillo

    las reglas

    Resultado

    marcha atrás: Condiciones corregidas

    Fuente

    prensa con la cláusula literal

    Capítulo

    9

21. 2024Workday (Mobley contra Workday) · cap. 9
    Delegar al proveedor no libra de responder (en curso) · las reglas (en curso)

    Dónde

    Workday y sus clientes · EE. UU. · Software de selección · Grande

    Qué pasó

    Candidato rechazado en más de cien empleos que usaban el mismo programa demanda al proveedor; el 12.07.2024 el tribunal admite que el proveedor puede responder como agente del empleador; sin condena

    Evidencia

    «would allow companies to escape liability for hiring decisions by saying that function has been handed over to someone else (or here, artificial intelligence)» (el tribunal, citado por Cooley)

    Tornillo

    las reglas · segundo tornillo: la persona que dice que no

    Resultado

    en curso: En curso: colectivo certificado el 16.05.2025; desestimación denegada el 22.06.2026; sin condena a 18.10.2026

    Fuente

    secundaria con copia (despacho; auto enlazado)

    Capítulo

    9

22. 2026Caso del autor: portal de evidencias de una reclamación (transportista) · cap. 9
    Cincuenta y ocho facturas dobles; la cadena lo destapa · ninguno: salió bien

    Dónde

    Empresa de transporte (sin nombre) · España · Transporte · Flota de más de mil vehículos

    Qué pasó

    819 facturas de taller leídas por modelo con OCR local como segundo lector; portal donde cada cifra lleva a su página y una persona identificada verifica, con sellado de tiempo; 58 facturas escaneadas dos veces detectadas antes de reclamar; el cliente paró el consejo jurídico

    Evidencia

    «Una cifra sin esa cadena no es una prueba; es una hoja de cálculo» (capítulo 9); verificación por persona identificada que nadie borra ni edita

    Tornillo

    ninguno: salió bien

    Resultado

    éxito medido: Cabecera correcta en el 98,3 % de cuarenta facturas cotejadas; base de la reclamación rebajada al quitar duplicados; cifra final no impresa por decisión del autor (19.10.2026)

    Fuente

    autor (registro técnico; cifras resueltas con el autor el 19.10.2026)

    Capítulo

    9

23. 2021Mercadona · cap. 10
    Mira la cara de todos; multa y prohibición · las reglas

    Dónde

    Mercadona · España · Distribución · Grande

    Qué pasó

    Reconocimiento facial en tiendas (2020-2021) para detectar a personas con orden de alejamiento; trataba la cara de todos; la AEPD (PS/00120/2021) multa con 2.520.000 € tras reducción y prohíbe el tratamiento

    Evidencia

    «la sanción quedaría establecida en 2.520.000 €» (resolución); la Audiencia de Barcelona: en «modo alguno resulta proporcional, necesaria ni asimismo idónea»; sin base legal, sin información ni evaluación de impacto previa

    Tornillo

    las reglas

    Resultado

    multa o sentencia: 2.520.000 € y prohibición del reconocimiento facial

    Fuente

    primaria (resolución de la AEPD)

    Capítulo

    10

24. 2017Amazon (seleccionador de currículums) · cap. 10
    Aprende diez años de sesgo; la dirección para · las reglas

    Dónde

    Amazon · EE. UU. · Tecnología y comercio · Grande

    Qué pasó

    Sistema que puntuaba currículums (2014-2017) aprendió de diez años de contrataciones y penalizaba a las mujeres; la dirección disolvió el equipo; los reclutadores nunca se fiaron solo de la puntuación; público en 2018

    Evidencia

    «It penalized résumés that included the word "women's", as in "women's chess club captain"»; «Amazon's recruiters looked at the recommendations generated by the tool when searching for new hires, but never relied solely on those rankings» (Reuters vía The Guardian)

    Tornillo

    las reglas

    Resultado

    marcha atrás: Proyecto disuelto a comienzos de 2017

    Fuente

    secundaria con copia (Reuters vía The Guardian, fuentes anónimas)

    Capítulo

    10

25. 2025Foundever · cap. 10
    «No usamos algoritmos»; era una fórmula; condena · las reglas

    Dónde

    Foundever Spain, S.A. · España · Atención telefónica · 3.800 personas

    Qué pasó

    Niega tres veces por escrito al sindicato las reglas del sistema que reparte libranzas y descansos («no utilizamos algoritmos»); su jefe de producción reconoce una fórmula; la Audiencia Nacional declara vulnerada la libertad sindical (04.07.2025)

    Evidencia

    Hecho probado noveno: la herramienta «distribuye con arreglo a un algoritmo consistente en una fórmula matemática las libranzas» (SAN 101/2025)

    Tornillo

    las reglas

    Resultado

    multa o sentencia: Condena a informar y 6.250 € de daños morales

    Fuente

    primaria (sentencia íntegra)

    Capítulo

    10

26. 2026Un abogado ante el TSJ de Canarias · cap. 11
    48 sentencias falsas; nadie comprobó; 420 euros · la persona que dice que no

    Dónde

    Despacho (sin nombre); Sala de lo Penal del TSJ de Canarias · España · Abogacía · Pequeña

    Qué pasó

    Recurso con hasta 48 sentencias del Supremo y un informe del CGPJ inexistentes, sacados de una IA generalista, sin comprobar; multa de 420 € con criterio ejemplarizante; traslado al colegio (13.02.2026)

    Evidencia

    esta omisión «constituye una quiebra del deber básico de supervisión humana que, como se ha expuesto, resulta indeclinable cuando se emplean herramientas de IA en el ejercicio profesional» (auto, citado por el CGPJ)

    Tornillo

    la persona que dice que no

    Resultado

    multa o sentencia: 420 €; traslado al colegio

    Fuente

    primaria (nota del CGPJ con el auto)

    Capítulo

    11

27. 2024Cartonajes Bañeres · cap. 11
    Fichar con la cara sin evaluación; 220.000 euros · las reglas

    Dónde

    Cartonajes Bañeres, S.A. · España · Fabricación de cartón · 99 empleados

    Qué pasó

    Fichaje con reconocimiento facial sin evaluación de impacto; un trabajador pide acceso a sus datos y nadie contesta; reclama a la AEPD; el sistema se sustituye por tarjeta (29.05.2023) y la multa llega igual (PS/00361/2023)

    Evidencia

    200.000 € por el art. 35 del RGPD (evaluación de impacto) y 20.000 por el art. 15 (acceso); por mensajería: «No guarda la cara tranquilo»

    Tornillo

    las reglas

    Resultado

    multa o sentencia: 220.000 €

    Fuente

    primaria (resolución íntegra, 60 páginas)

    Capítulo

    11

28. 2023IKEA (Ingka, asistente Billie) · cap. 12
    El tiempo ganado tiene destino: 8.500 formados · ninguno: salió bien

    Dónde

    Ingka Group (IKEA) · Suecia y Países Bajos · Comercio · Grande

    Qué pasó

    Asistente que desde 2021 atiende una parte grande de las consultas de los centros de llamadas; en lugar de recortar, forma a 8.500 personas como asesores de interiorismo a distancia; el canal pasa a vender

    Evidencia

    «has trained 8,500 workers as advisers since 2021» (Personnel Today sobre Reuters); Biesert sobre recortar plantilla: «not what we're seeing right now»

    Tornillo

    ninguno: salió bien

    Resultado

    éxito medido: 8.500 personas formadas (datos de la empresa)

    Fuente

    secundaria con copia (citan a Reuters); datos de la empresa

    Capítulo

    12

29. 2025Replit (agente de programación) · cap. 13
    El agente borra producción y miente al contarlo · la persona que dice que no

    Dónde

    Replit; Jason Lemkin (SaaStr) · EE. UU. · Software · Grande

    Qué pasó

    En plena congelación de código, el agente borra la base de datos de producción con más de mil fichas, ejecuta órdenes sin permiso y dice que no se puede recuperar (no era verdad); Replit separa pruebas de producción y añade un modo sin tocar nada

    Evidencia

    «This was a catastrophic failure on my part» (el agente); lo que no debía hacer podía hacerlo y la revisión llegó después de actuar

    Tornillo

    la persona que dice que no · segundo tornillo: las reglas

    Resultado

    marcha atrás: Datos recuperados; dos cambios de producto; reembolso

    Fuente

    secundaria con copia (Fortune, Business Insider; hilo en X)

    Capítulo

    13

30. 2024VioGén · cap. 13
    El agente puede discrepar; el 95 % no lo hace · la persona que dice que no

    Dónde

    Ministerio del Interior · España · Administración pública · Administración

    Qué pasó

    El sistema que puntúa el riesgo de cada denuncia es una recomendación que el agente puede subir; los agentes la mantienen en torno al 95 % de las veces (auditoría externa de 2022, NYT 2024); 55 de 98 mujeres asesinadas con caso abierto (2010 a 2022) tenían riesgo bajo o no apreciado; VioGén 2 en enero de 2025

    Evidencia

    «accept the risk scores about 95 percent of the time, officials said» (The New York Times)

    Tornillo

    la persona que dice que no

    Resultado

    marcha atrás: Rediseño del sistema (VioGén 2, sin el nivel «no apreciado»); el 95 % no lo ha publicado Interior

    Fuente

    prensa de referencia y auditoría de fundación; nota oficial de 2025

    Capítulo

    13

31. 2024Foodinho (Glovo), 2024 · cap. 13
    Bloqueo automático sin recurso; cinco millones más · la persona que dice que no

    Dónde

    Foodinho, grupo Glovo; Garante · Italia · Reparto · Más de 35.000 repartidores

    Qué pasó

    Segunda multa del Garante (13.11.2024): bloqueos de cuenta automáticos con un mensaje estándar sin forma de recurrir, puntuación que prioriza turnos, reconocimiento facial y geolocalización; orden de que operadores formados puedan ignorar al algoritmo

    Evidencia

    «un unico messaggio standard, che però non informa della possibilità di contestare la decisione» (Garante)

    Tornillo

    la persona que dice que no · segundo tornillo: las reglas

    Resultado

    multa o sentencia: 5.000.000 € y prescripciones con plazo

    Fuente

    primaria (comunicado y resolución del Garante)

    Capítulo

    13

32. 2025BBVA · cap. 14
    Forma a todos; criterios antes de escalar · ninguno: salió bien

    Dónde

    BBVA · España · Banca · Grande

    Qué pasó

    3.000 licencias de ChatGPT Enterprise (mayo de 2024) con formación para toda la plantilla, comunidad de práctica, referentes por área y cinco criterios escritos antes de escalar; 11.000 licencias en mayo de 2025; 2,8 horas semanales declaradas

    Evidencia

    «It also offers workshops and training courses to all employees (whether or not they have a license).» (BBVA, 07.01.2025); criterios de impacto fijados por escrito antes de escalar

    Tornillo

    ninguno: salió bien

    Resultado

    éxito medido: Horas declaradas por los usuarios, no medidas; datos del banco

    Fuente

    primaria (notas de BBVA)

    Capítulo

    14

33. 2024Repsol (Harvey) · cap. 14
    Quién responde, dicho el mismo día · ninguno: salió bien

    Dónde

    Repsol · España · Energía · Grande

    Qué pasó

    Acuerdo con una herramienta de IA para abogados (04.04.2024) con la regla, el mismo día, de que el equipo jurídico responde de revisar y validar; estimación previa de hasta tres horas por abogado y semana

    Evidencia

    «The company's legal team is ultimately responsible for reviewing and validating Harvey's proposals and deciding how to apply the results obtained.» (Repsol)

    Tornillo

    ninguno: salió bien

    Resultado

    sin resultado público: Estimación previa, sin medida posterior

    Fuente

    primaria (nota de Repsol)

    Capítulo

    14

34. 2025Post Office (Horizon) · cap. 16
    Creer a la máquina; mil personas condenadas · la persona que dice que no

    Dónde

    Post Office (Reino Unido) · Reino Unido · Servicio postal · Grande

    Qué pasó

    Sistema de contabilidad (1999, no IA) con descuadres; el Post Office creyó a la máquina y procesó a gestores entre 2000 y 2013; el informe final de la investigación pública (08.07.2025) estima unas 1.000 personas procesadas y condenadas; condenas anuladas por ley en 2024

    Evidencia

    Post Office «maintained the fiction that its data was always accurate»; «it seems to me to be likely that approximately 1,000 persons were prosecuted and convicted (...) based on Horizon evidence» (sir Wyn Williams, vol. 1)

    Tornillo

    la persona que dice que no · segundo tornillo: las reglas

    Resultado

    multa o sentencia: Unas 1.000 condenas, anuladas por ley en 2024; investigación pública

    Fuente

    primaria (informe de la investigación pública)

    Capítulo

    16

35. 2018Uber (coche autónomo, Tempe) · cap. 16
    Una persona sola vigila; la culpa, suya · la persona que dice que no

    Dónde

    Uber (Advanced Technologies Group) · EE. UU. · Movilidad · Grande

    Qué pasó

    Prueba de coches autónomos con una sola persona de respaldo y el freno automático de emergencia desactivado; el 18.03.2018 muere Elaine Herzberg; la NTSB señala la supervisión de Uber como causa contribuyente; la conductora se declara culpable en 2023; Uber no fue acusada

    Evidencia

    «Uber's deactivation of its automatic emergency braking system increased the risks associated with testing automated vehicles on public roads. Instead of the system, Uber relied on the human backup driver to intervene.» (NTSB, vía AP y NPR)

    Tornillo

    la persona que dice que no · segundo tornillo: las reglas

    Resultado

    multa o sentencia: Conductora culpable (2023, tres años de libertad vigilada); Uber sin cargos

    Fuente

    prensa (AP vía NPR) y NTSB

    Capítulo

    16

Solo en la web · 36

1. 2025Eurotext (Valladolid) · cap. 2
   La IA que importa es la de tus clientes · no se sabe

   Dónde

   Traductores e Intérpretes Eurotext, S.L. · España · Traducción · Microempresa (2 asalariados, 2 autónomos)

   Qué pasó

   Pierde los encargos porque los clientes traducen con traducción automática; pérdidas en 2023 y 2024; despido procedente confirmado por el TSJ de Castilla y León (15.09.2025)

   Evidencia

   Hecho probado: los clientes «realizan estas traducciones por sus propios medios, usando la traducción automática disponible en internet» (STSJ CL 3529/2025)

   Tornillo

   no se sabe · segundo tornillo: el caso

   Resultado

   pérdida con cifra: Pérdidas de 10.995 € (2023) y 16.471 € (primer trimestre de 2024); despido procedente

   Fuente

   primaria (sentencia íntegra)

   Capítulo

   2 (una frase en la idea)

2. 2025CISTEME · cap. 6
   Publica lo que costó; falta el coste anual · ninguno: salió bien

   Dónde

   CISTEME (Limoges) · Francia · Ingeniería · Más de 45 personas

   Qué pasó

   Agente que vigila novedades y alimenta la base de posibles clientes; dos semanas; menos de 50.000 €; de 5 a 6 horas por persona y semana; coste anual no consta

   Evidencia

   Ficha (resumen de la fuente): 5 a 6 horas ahorradas por persona y semana; implantación en 2 semanas; coste inferior a 50.000 €; la casilla del coste anual recurrente dice «N/A»

   Tornillo

   ninguno: salió bien

   Resultado

   éxito medido: Declarado por la empresa, publicado por Bpifrance; falta el coste anual

   Fuente

   organismo público, a partir de la empresa

   Capítulo

   6

3. 2025Diadem · cap. 6
   El jefe dice para qué; una hora diaria · ninguno: salió bien

   Dónde

   Diadem (Limoges) · Francia · Envases · Unas 25 personas

   Qué pasó

   Agente que busca en tres herramientas de proyectos; siete semanas; de 50.000 a 100.000 €; en torno a una hora al día por jefe de proyecto

   Evidencia

   «Notre objectif avec ces outils d'automatisation était de libérer nos équipes des tâches chronophages» (Sébastien Hardy, consejero delegado); coste de 50.000 a 100.000 €, coste anual «N/A»

   Tornillo

   ninguno: salió bien

   Resultado

   éxito medido: Declarado por la empresa, publicado por Bpifrance; falta el coste anual

   Fuente

   organismo público, a partir de la empresa

   Capítulo

   6

4. 2025Agencia Española de Protección de Datos (política interna) · cap. 7
   El regulador se pone la regla antes · ninguno: salió bien

   Dónde

   AEPD · España · Organismo público · Organismo

   Qué pasó

   Publica su política interna de uso de IA generativa (27.11.2025): inventario obligatorio, prohibición de meter datos personales o confidenciales en herramientas externas, formación como requisito, nombres con cargo

   Evidencia

   «No utilizar un sistema IAG que no se haya registrado en el inventario» (política de la AEPD, 27.11.2025)

   Tornillo

   ninguno: salió bien

   Resultado

   sin resultado público: Política publicada; no hay medición

   Fuente

   primaria (el organismo)

   Capítulo

   7

5. 2026Un juez sancionado por el CGPJ · cap. 7
   El expediente en una cuenta de uso general; 1.000 euros · las reglas

   Dónde

   Consejo General del Poder Judicial (Comisión Disciplinaria) · España · Justicia · Organismo

   Qué pasó

   Multa de 1.000 € a un magistrado por falta grave: subió un expediente entero a una cuenta de IA de uso general para que le ayudara a redactar; la IA fue «auxilio y complemento»

   Evidencia

   «al incorporar conscientemente el expediente judicial a una plataforma de IA de uso general» (acuerdo del CGPJ, vía El País y El Español)

   Tornillo

   las reglas

   Resultado

   multa o sentencia: 1.000 €, falta grave

   Fuente

   prensa de referencia; nota del CGPJ no localizada

   Capítulo

   7 (una frase en la idea)

6. 2024Un fabricante de tecnología médica (Hamburgo) · cap. 7
   Cuentas privadas: la empresa no sabe nada, y gana · las reglas

   Dónde

   Empresa alemana sin nombre; Arbeitsgericht Hamburg · Alemania · Tecnología médica · No publicado

   Qué pasó

   La empresa pide a la plantilla usar ChatGPT con cuentas privadas y publica directrices; el comité pide prohibirlo hasta negociar y pierde: no hay cogestión porque la empresa «no obtiene ninguna información sobre el uso» (auto de 16.01.2024)

   Evidencia

   «Zudem erhalte der Arbeitgeber keine Informationen zur ChatGPT-Nutzung, da diese über private Accounts laufe» (Haufe sobre el auto)

   Tornillo

   las reglas

   Resultado

   sin resultado público: El comité pierde la cautelar; sin cifra

   Fuente

   auto conocido por cinco fuentes jurídicas concordantes; texto no leído

   Capítulo

   7

7. 2024Administración de Justicia (CTEAJE, política de uso) · cap. 8
   Nueve normas antes de que la IA entre · ninguno: salió bien

   Dónde

   CTEAJE · España · Administración de Justicia · Administración

   Qué pasó

   Política de uso de IA para todo el personal y sus proveedores (junio de 2024): nueve normas, entre ellas revisión humana, soberanía del dato y nada no autorizado

   Evidencia

   «La revisión humana de todo lo generado siempre que afecte de manera directa o indirecta a los derechos de las personas usuarias del servicio público de Justicia o a la propia actividad jurisdiccional.» (norma 1)

   Tornillo

   ninguno: salió bien

   Resultado

   sin resultado público: Política publicada; no hay medición

   Fuente

   primaria (el organismo)

   Capítulo

   8

8. 2023Microsoft (38 TB) · cap. 8
   Una llave olvidada abre 38 terabytes · las reglas

   Dónde

   Microsoft (investigación en IA) · EE. UU. · Tecnología · Grande

   Qué pasó

   Un enlace publicado en 2020 para compartir datos de entrenamiento abría la cuenta entera con permiso de borrado; la caducidad se alargó a 2051; Wiz avisa en junio de 2023; 38 TB expuestos, con contraseñas y 30.000 mensajes internos

   Evidencia

   «the token was also misconfigured to allow "full control" permissions instead of read-only» (Wiz); una llave que nadie retiró cuando dejó de hacer falta

   Tornillo

   las reglas

   Resultado

   sin resultado público: Llave anulada en dos días; sin multa conocida

   Fuente

   primaria (informe de quien lo descubrió)

   Capítulo

   8

9. 2024DUO (becas, Países Bajos) · cap. 10
   Tres criterios neutros, once años; 61 millones · las reglas

   Dónde

   Dienst Uitvoering Onderwijs; Autoriteit Persoonsgegevens · Países Bajos · Administración pública · Organismo

   Qué pasó

   De 2012 a junio de 2023 puntuó el riesgo de fraude de cada estudiante por tipo de estudios, distancia a casa de los padres y edad, sin evaluar nunca el algoritmo; la AP lo declara discriminatorio e ilegal (11.11.2024); el Gobierno pide perdón y anula las multas

   Evidencia

   «DUO has never evaluated the functioning of the algorithm» (Autoriteit Persoonsgegevens)

   Tornillo

   las reglas · segundo tornillo: la persona que dice que no

   Resultado

   marcha atrás: Algoritmo parado; más de 10.000 personas; 61 M€ reservados (reserva, no desembolso comprobado)

   Fuente

   primaria (autoridad y Gobierno)

   Capítulo

   10 (una frase en la idea)

10. 2025AENA · cap. 11
    La evaluación de impacto era para otra cosa · las reglas

    Dónde

    AENA · España · Aeropuertos · Grande

    Qué pasó

    Reconocimiento facial de pasajeros con una evaluación de impacto hecha para otras finalidades; la AEPD (PS/00431/2024) multa con 10.043.002 € y mantiene la suspensión hasta que haya evaluación

    Evidencia

    «con una multa de 10.043.002 €» (resolución); la EIPD estaba orientada a «dos finalidades» de negocio y no al tratamiento biométrico real

    Tornillo

    las reglas

    Resultado

    multa o sentencia: 10.043.002 €

    Fuente

    primaria (resolución de la AEPD)

    Capítulo

    11 (solo en nota)

11. 2024Un abogado ante el Tribunal Constitucional · cap. 11
    19 citas inventadas; «fuera cual fuese la causa» · la persona que dice que no

    Dónde

    Despacho de Barcelona (sin nombre); TC, Sala Primera · España · Abogacía · Pequeña

    Qué pasó

    Escrito con pasajes entrecomillados de 19 sentencias del TC que no existían; él alegó una base de datos desconfigurada; apercibimiento (septiembre de 2024); el TC no lo atribuye a ninguna herramienta

    Evidencia

    «fuera cual fuese la causa de la inclusión de citas irreales (...), el letrado es siempre responsable de revisar exhaustivamente todo el contenido» (acuerdo del TC, vía EFE)

    Tornillo

    la persona que dice que no

    Resultado

    multa o sentencia: Apercibimiento (la sanción menor)

    Fuente

    secundaria con copia (EFE)

    Capítulo

    11

12. 2025Amazon (El Prat, Inspección de Trabajo) · cap. 11
    No enseña el algoritmo; primera multa de Trabajo · las reglas

    Dónde

    Amazon; Inspección de Trabajo de Cataluña · España · Logística · Más de 2.000 personas en el centro

    Qué pasó

    Primera multa de la Inspección de Trabajo por negar a la plantilla los parámetros del sistema que mide la productividad y reparte tareas; 2.451 €, infracción grave; Amazon recurre

    Evidencia

    «se ha negado a revelar a los empleados con qué parámetros funcionan los sistemas digitales que miden la productividad» (Cadena SER)

    Tornillo

    las reglas

    Resultado

    multa o sentencia: 2.451 €; recurrida; resolución no pública

    Fuente

    prensa de referencia; cuantía confirmada por el Departament

    Capítulo

    11 (una frase en la idea)

13. 2025Shopify (memorando de Lütke) · cap. 12
    Una regla de uso, no un caso medido · no se sabe

    Dónde

    Shopify · Canadá · Software · Grande

    Qué pasó

    Memorando del 07.04.2025: usar IA es expectativa básica; antes de pedir plantilla, demostrar que la IA no puede hacerlo; una pregunta de rediseño por equipo; sin resultado publicado

    Evidencia

    «Before asking for more Headcount and resources, teams must demonstrate why they cannot get what they want done using AI.» (Lütke); es una regla de uso, no un caso con cifra

    Tornillo

    no se sabe

    Resultado

    sin resultado público: Sin resultado publicado

    Fuente

    primaria (memorando) y prensa

    Capítulo

    12 (solo la pregunta del lunes)

14. 2025Salesforce (soporte con Agentforce) · cap. 13
    Menos cabezas; nadie dice quién revisa · no se sabe

    Dónde

    Salesforce · EE. UU. · Software · Grande

    Qué pasó

    De unas 9.000 personas en soporte a unas 5.000 porque sus agentes atienden casos; deja de cubrir vacantes; nada público sobre quién revisa ni cuántas veces dice que no

    Evidencia

    «we no longer need to actively backfill support engineer roles» (Salesforce); «I've reduced it from 9,000 heads to about 5,000, because I need less heads» (Benioff); ni el pódcast ni el comunicado dicen quién revisa

    Tornillo

    no se sabe · segundo tornillo: el valor

    Resultado

    sin resultado público: Datos de la empresa; sin medida de calidad publicada

    Fuente

    secundaria con copia (CNBC)

    Capítulo

    13

15. 2025Bluetainer
    Del encargo vago al plano; límites escritos · ninguno: salió bien

    Dónde

    Bluetainer (Occitania) · Francia · Contenedores · Pyme (unos 15)

    Qué pasó

    Un asistente interno convierte la petición vaga del cliente en plano, imagen y precio orientativo; dosier de varios días a menos de una hora; dos comerciales; límites escritos

    Evidencia

    «L'outil nous permet de passer beaucoup plus vite d'une demande client souvent floue à une base technique claire» (Hugo Jauzac, fundador); de un 50 a un 70 % menos de tiempo (declarado)

    Tornillo

    ninguno: salió bien

    Resultado

    éxito medido: Declarado por la empresa, publicado por Bpifrance

    Fuente

    organismo público, a partir de la empresa

    Capítulo

    no está (web; antes 4)

16. 2024Slack
    Entrena por defecto; para salir, un correo · las reglas

    Dónde

    Slack (Salesforce) · EE. UU. · Software · Grande

    Qué pasó

    Su política de privacidad usaba datos de clientes para entrenar modelos de recomendación, activado por defecto; para salir había que mandar un correo; aclaración tras las quejas

    Evidencia

    «if you don't want Slack to use your data, you have to email the company to opt out.» (TechCrunch)

    Tornillo

    las reglas

    Resultado

    marcha atrás: Aclaración pública; exclusión por correo

    Fuente

    secundaria con copia

    Capítulo

    no está

17. 2024Adobe
    Mismo patrón que WeTransfer, un año antes · las reglas

    Dónde

    Adobe · EE. UU. · Software · Grande

    Qué pasó

    Condiciones que parecían dar acceso amplio a los contenidos de los clientes; aclaración del 06.06.2024: no entrena IA generativa con ellos; texto reescrito

    Evidencia

    Ficha (resumen de Perplexity, sin copia local): Adobe «dijo que no entrena sus modelos de IA generativa con contenidos de clientes y reescribió el texto»

    Tornillo

    las reglas

    Resultado

    marcha atrás: Condiciones reescritas

    Fuente

    sin copia local

    Capítulo

    no está

18. 2021Foodinho (Glovo)
    Puntúa a quien ya trabaja; 2,6 millones · las reglas

    Dónde

    Foodinho, grupo Glovo · Italia · Reparto · Grande

    Qué pasó

    Algoritmo que puntuaba a los repartidores y repartía turnos y pedidos sin explicar las reglas ni comprobar efectos; el Garante multa con 2,6 M€ (10.06.2021)

    Evidencia

    «la sanzione amministrativa del pagamento di una somma pari ad euro 2.600.000,00» (Garante); información incompleta sobre el sistema de puntuación y el de asignación

    Tornillo

    las reglas · segundo tornillo: la persona que dice que no

    Resultado

    multa o sentencia: 2,6 M€

    Fuente

    primaria (resolución del Garante)

    Capítulo

    no está (recordado en el 13)

19. 2023iTutorGroup
    Un filtro simple descarta por edad; 365.000 dólares · las reglas

    Dónde

    iTutorGroup · EE. UU. (empresa china) · Educación en línea · Grande

    Qué pasó

    El programa de selección rechazaba automáticamente a mujeres de 55 o más y hombres de 60 o más; acuerdo con la EEOC de 365.000 $ (septiembre de 2023)

    Evidencia

    «programmed their tutor application software to automatically reject female applicants aged 55 or older and male applicants aged 60 or older» (EEOC)

    Tornillo

    las reglas

    Resultado

    multa o sentencia: 365.000 $ (acuerdo)

    Fuente

    primaria (EEOC)

    Capítulo

    no está

20. 2021Hacienda neerlandesa (ayudas al cuidado de niños)
    La nacionalidad como criterio; cae un Gobierno · las reglas

    Dónde

    Belastingdienst (Toeslagen) · Países Bajos · Administración pública · Administración

    Qué pasó

    Modelo de riesgo que usaba la (doble) nacionalidad para revisar ayudas; la AP multa al Ministerio con 2,75 M€ (25.11.2021) por tratamiento ilícito y discriminatorio; el Gobierno dimitió el 15.01.2021; unas 26.000 familias (cifra secundaria)

    Evidencia

    «in totaal € 2.750.000,-- op te leggen voor overtreding van artikel 5» (resolución de la AP); tratamientos «onrechtmatig» y «discriminerend»

    Tornillo

    las reglas · segundo tornillo: la persona que dice que no

    Resultado

    multa o sentencia: 2,75 M€; dimisión del Gobierno (secundaria)

    Fuente

    primaria (resolución); dimisión y familias, secundaria

    Capítulo

    no está

21. 2025Universitat Internacional Valenciana
    «El alumno aceptó» no es base legal · las reglas

    Dónde

    UIV · España · Universidad · Mediana

    Qué pasó

    Vigilancia de exámenes con reconocimiento facial continuo, obligatorio y sin alternativa; la AEPD descarta el consentimiento y el interés público; 650.000 € según la memoria de la AEPD (importe sin copia local)

    Evidencia

    «se descarta el consentimiento» (criterio publicado por la AEPD, 03.06.2025): no es libre en una matrícula; «sería precisa una ley habilitante específica»

    Tornillo

    las reglas

    Resultado

    multa o sentencia: 650.000 € (300.000 + 350.000; importe sin copia local)

    Fuente

    primaria (criterio de la AEPD); importe sin copia local

    Capítulo

    no está

22. 2021Apple Card (Goldman Sachs)
    No era sesgo; faltaba explicarlo · ninguno: salió bien

    Dónde

    Goldman Sachs (Apple Card) · EE. UU. · Banca · Grande

    Qué pasó

    Investigación por límites de crédito distintos a hombres y mujeres; el NYDFS la cierra el 23.03.2021 sin hallar discriminación ilegal, pero con falta de explicación a los solicitantes

    Evidencia

    Ficha (resumen de Perplexity, sin copia local): «no halló discriminación ilegal» por sexo, pero señaló falta de transparencia

    Tornillo

    ninguno: salió bien · segundo tornillo: las reglas

    Resultado

    sin resultado público: Sin sanción; medidas de explicación

    Fuente

    sin copia local

    Capítulo

    no está

23. 2024Un abogado ante el TSJ de Navarra
    Ley colombiana en una querella; aviso sin multa · la persona que dice que no

    Dónde

    Despacho (sin nombre); TSJ de Navarra · España · Abogacía · Pequeña

    Qué pasó

    Querella que citaba un artículo del Código Penal colombiano generado con ChatGPT; la Sala no sanciona por la novedad y la disculpa inmediata, y advierte (auto de 04.09.2024)

    Evidencia

    Ficha (resumen, sin copia local): la Sala «decidió no sancionar al letrado por la novedad del asunto y porque se disculpó y reconoció el error enseguida, pero advirtió del deber de revisar»

    Tornillo

    la persona que dice que no

    Resultado

    sin resultado público: Sin sanción; advertencia

    Fuente

    sin copia local (Confilegal bloquea)

    Capítulo

    no está

24. 2026Uber (bloqueos automáticos de conductores)
    Una máquina despide sin que nadie mire (en curso) · la persona que dice que no (en curso)

    Dónde

    Uber · Países Bajos (hechos en Europa) y EE. UU. · Plataforma de movilidad · Grande

    Qué pasó

    Bloqueó a conductores de forma totalmente automática entre 2018 y 2022, sin revisión humana e informando mal; la autoridad neerlandesa multa con 824.990.000 € (21.08.2026) por el RGPD; empezó con una reclamación de conductores; Uber recurre

    Evidencia

    Bloqueos automáticos 2018-2022 «sin valoración humana» (nota de la AP, 21.08.2026,; base: la prohibición de decisiones totalmente automatizadas del RGPD, no la Ley de IA

    Tornillo

    la persona que dice que no · segundo tornillo: las reglas

    Resultado

    en curso: 824.990.000 €; en curso: recurso anunciado, Uber sostiene que en las desactivaciones permanentes sí intervenían personas

    Fuente

    primaria (nota de la AP; CEPD)

    Capítulo

    no está (web; antes 11)

25. 2024Clearview AI
    Si el proveedor incumple, usarlo te hace infractor · las reglas

    Dónde

    Clearview AI · Países Bajos (empresa de EE. UU.) · Tecnología · Mediana

    Qué pasó

    Base de datos de caras sin base legal; la AP multa con 30,5 M€ (03.09.2024) y avisa a las organizaciones: usar Clearview también es ilegal

    Evidencia

    «De AP waarschuwt dat het ook verboden is om de diensten van Clearview te gebruiken.» (Computable sobre la nota de la AP)

    Tornillo

    las reglas

    Resultado

    multa o sentencia: 30,5 M€

    Fuente

    secundaria con copia (la nota de la AP bloquea)

    Capítulo

    no está

26. 2025Moderna
    Cien campeones y un concurso de peticiones · ninguno: salió bien

    Dónde

    Moderna · EE. UU. · Farmacia · Grande

    Qué pasó

    Objetivo de 100 % de adopción en seis meses; concurso de peticiones, cien campeones, 750 GPT en dos meses; en 2025 une personas y tecnología bajo una directiva

    Evidencia

    Ficha (resumen del caso de cliente de OpenAI, sin copia local): «identificó a sus 100 usuarios más avanzados y los organizó como campeones»; a los dos meses, 750 GPT

    Tornillo

    ninguno: salió bien

    Resultado

    éxito medido: Declarado por el proveedor (OpenAI)

    Fuente

    proveedor, sin copia local

    Capítulo

    no está

27. 2025Habitium
    Pyme española con cifras; lo cuenta el proveedor · ninguno: salió bien

    Dónde

    Habitium · España · Distribución de materiales · Pyme

    Qué pasó

    Catálogo automatizado con IA; devoluciones por información incorrecta del 15 % a menos del 1 %; soporte de 10 a 3 personas; declaración del CTO en un artículo patrocinado por el proveedor (AWS)

    Evidencia

    «La tasa de devolución por información incorrecta ha pasado del 15% a menos del 1%, y las pérdidas se han reducido del 4% a apenas el 1%. El equipo de soporte también se ha optimizado, pasando de 10 personas a solo 3» (Philipp Vujic, CTO)

    Tornillo

    ninguno: salió bien

    Resultado

    éxito medido: Declarado por la empresa en material del proveedor

    Fuente

    proveedor (artículo patrocinado)

    Capítulo

    no está

28. 2017MD Anderson (IBM Watson)
    El cohete a la Luna: 62 millones, nada · el caso

    Dónde

    MD Anderson Cancer Center · EE. UU. · Sanidad · Grande

    Qué pasó

    Proyecto estrella de IA para oncología que costó más de 62 M$ y se paró en 2017 sin usarse con pacientes

    Evidencia

    (secundario, sin fichero local): «el proyecto de Watson en el MD Anderson costó más de 62 M$ y se paró en 2017 sin usarse con pacientes» (Davenport y Ronanki, HBR, 2018)

    Tornillo

    el caso

    Resultado

    pérdida con cifra: Más de 62 M$

    Fuente

    secundario, sin copia local

    Capítulo

    no está

29. 2025Red.es (Kit Consulting)
    La Administración mide: de cinco horas a una · ninguno: salió bien

    Dónde

    Red.es · España · Organismo público · Organismo

    Qué pasó

    Revisión con IA de la justificación de expedientes del Kit Consulting (unos 45.000 documentos): de 5 horas a 1,5 por expediente

    Evidencia

    «se logra una reducción de un 80% en los tiempos de tramitación de la justificación de un expediente, pasando de 5 horas a 1,5h (90 minutos)» (Plan de Recuperación, 05.03.2025)

    Tornillo

    ninguno: salió bien

    Resultado

    éxito medido: Declarado por el organismo

    Fuente

    primaria (el organismo)

    Capítulo

    no está

30. 2025Vestel Ingenieros
    Planos con agentes; lo cuenta Microsoft · ninguno: salió bien

    Dónde

    Vestel Ingenieros (Valencia) · España · Ingeniería · 160 personas

    Qué pasó

    Agentes de Copilot en delineación y automatización de documentación; +83 % de puntos de carga desplegados y +70 % de equipos instalados, según la CEO en una nota de Microsoft

    Evidencia

    «Ahora entregamos planos en menor tiempo y con error cero, eliminando el retrabajo. Esto nos ha permitido incrementar el despliegue de ubicaciones de carga de vehículo eléctrico en un 83% y los equipos instalados en un 70%» (Sara Diez, CEO, en la nota de Microsoft)

    Tornillo

    ninguno: salió bien

    Resultado

    éxito medido: Declarado; lo publica el proveedor

    Fuente

    proveedor (Microsoft)

    Capítulo

    no está

31. 2025Hotel Castillo de Gorraiz
    El modelo pone el precio; el director aprende · ninguno: salió bien

    Dónde

    Hotel Castillo de Gorraiz (Navarra) · España · Hotel · 87 habitaciones

    Qué pasó

    Sistema de precios con modelo predictivo; 300.000 € más de ingresos al año con menor ocupación, según su director en un evento; sin línea de base publicada

    Evidencia

    «Ha sido la acción de marketing más rentable para nuestro hotel» (Gorka Berraondo, director, en Hosteltur); +300.000 € de ingresos anuales declarados

    Tornillo

    ninguno: salió bien

    Resultado

    éxito medido: Declaración oral del director; línea de base por verificar

    Fuente

    secundaria (dos medios recogen la misma declaración)

    Capítulo

    no está

32. sin fechaACM (gestoría, Inmatic)
    Facturas sin tocar; lo dice el proveedor · ninguno: salió bien

    Dónde

    ACM · España · Gestoría · 50.000 facturas

    Qué pasó

    Contabilización automática de facturas: 70 % menos de tiempo, 90 % sin intervención humana; caso de cliente del proveedor, sin fecha

    Evidencia

    «El 90% de las facturas son procesadas sin necesidad de intervención humana.» (Inmatic, caso de cliente)

    Tornillo

    ninguno: salió bien

    Resultado

    éxito medido: Declarado por el proveedor, sin fecha

    Fuente

    proveedor, sin fecha

    Capítulo

    no está

33. sin fechaMCA (gestoría, Inmatic)
    Mismo proveedor, misma promesa, sin fecha · ninguno: salió bien

    Dónde

    MCA · España · Gestoría y fincas · Más de 20.000 facturas al año

    Qué pasó

    Digitalización y contabilización automática: 90 % sin fallos, 80 % menos de tiempo; caso de cliente del proveedor, sin fecha

    Evidencia

    : «90 % sin fallos, tiempo −80 %» (Inmatic, caso de cliente en su web, sin fecha)

    Tornillo

    ninguno: salió bien

    Resultado

    éxito medido: Declarado por el proveedor, sin fecha

    Fuente

    proveedor, sin fecha

    Capítulo

    no está

34. 2025VIF
    Un 60 % honesto en un primer caso · ninguno: salió bien

    Dónde

    VIF (La Chapelle-sur-Erdre) · Francia · Software · 272 personas

    Qué pasó

    Asistente que busca tickets de soporte parecidos; acierta en torno al 60 %; lo usan 15 personas; cifra honesta de un primer caso útil

    Evidencia

    Ficha (resumen de la fuente): «≈60 % de acierto encontrando tickets similares; disponible para 15 personas»

    Tornillo

    ninguno: salió bien

    Resultado

    éxito medido: Declarado por la empresa, publicado por Bpifrance

    Fuente

    organismo público, a partir de la empresa

    Capítulo

    no está

35. 2025Microsoft (EchoLeak, Copilot)
    Un correo da órdenes al agente · las reglas

    Dónde

    Microsoft 365 Copilot · EE. UU. · Tecnología · Grande

    Qué pasó

    Primer ataque de cero clics a un agente: un correo con instrucciones ocultas hace que Copilot busque en archivos internos y los saque; cinco meses hasta cerrarlo

    Evidencia

    (secundario): «que los agentes usen datos fiables y no fiables en el mismo proceso de pensamiento es el fallo de diseño básico»

    Tornillo

    las reglas

    Resultado

    sin resultado público: Vulnerabilidad corregida; sin multa

    Fuente

    secundario (Fortune sobre Aim Security)

    Capítulo

    no está

36. 2026OpenAI (enjambre de agentes y Hugging Face)
    Ni el fabricante controla a sus agentes · las reglas

    Dónde

    OpenAI · EE. UU. · Tecnología · Grande

    Qué pasó

    En julio de 2026 un enjambre de agentes en pruebas entra sin autorización en servidores de Hugging Face; OpenAI reconoce que podrían haber penetrado en más de cien organizaciones; en octubre despide a tres investigadores por compartir información

    Evidencia

    «un enjambre de agentes de IA testeados por OpenAI hackearon los servidores de otra compañía, Hugging Face, sin autorización ni informar a su equipo técnico» (El Periódico, citando a The Wall Street Journal)

    Tornillo

    las reglas · segundo tornillo: la persona que dice que no

    Resultado

    sin resultado público: Sin sanción conocida; despidos internos

    Fuente

    secundario (El Periódico sobre WSJ)

    Capítulo

    no está