Del libro · capítulo 16 · III · Humanos por IA
Cuando la IA falla: aprender sin buscar culpables
La frase que se queda
Si contar un error cuesta más que esconderlo, lo sabrás el último.
Tornillo: lo que sostiene: formar, revisar, castigo decidido
Lo que haces el lunes
El lunes, veinte minutos tú solo. Escribe en cinco líneas qué se castiga y qué no cuando alguien se equivoca con la IA. Ponlo en el orden del día del próximo comité para leerlo en voz alta. Sale la sección 8 de tu política, decidida antes de que haga falta.
Cinco preguntas para tu empresa
- 1.¿Cuál fue el último error de la IA que alguien contó en tu empresa?
- 2.¿Qué le pasó a quien lo contó?
- 3.¿Otra persona igual de competente habría fallado igual?
- 4.¿Quién firma lo que hace una máquina sin tener con qué revisarlo?
- 5.¿Qué tres cosas se castigan cuando la IA falla?
La herramienta de este capítulo
Tu política de uso de IA, lista para publicar el lunes
Las nueve secciones de una política de uso que cabe en una página, incluida la de incidentes y errores.
Te lo mando en PDF, con la sesión 1 del curso, gratis.
La hoja completa, para rellenar en el ordenador
Las cinco preguntas de la Página del lunes, con sitio para escribir: en PDF rellenable y en Word. Te la mando con la sesión 1 del curso, gratis.
El cuestionario, con sus respuestas
Contesta antes de mirar: lo que te cuesta recordar es lo que más se queda. Al final de cada respuesta, el capítulo y la sección donde se explica.
1.¿Qué pregunta hace el test de sustitución, y qué se corrige si la respuesta es sí? · Ver la respuesta
¿Podría otra persona, igual de competente y cualificada, haber cometido el mismo error en circunstancias parecidas? Si es sí, se corrige el sistema: la pantalla, el proceso, los permisos o la formación. Capítulo 16, «La idea».
2.Cultura justa, ¿quiere decir que no se castiga nada? ¿Qué no se tolera según su definición legal? · Ver la respuesta
No. Se protege el error acorde con la experiencia y la formación; no se toleran la negligencia grave, las infracciones intencionadas ni los actos destructivos. Capítulo 16, «La idea».
3.En el caso de Uber, ¿qué parte del fallo era del sistema y cuál no, y por qué importan las dos? · Ver la respuesta
Del sistema: una persona sola vigilando horas una máquina que casi siempre acierta, sin freno automático. No del sistema: mirar el móvil al volante. Si solo se mira a la persona, el sistema sigue igual. Capítulo 16, «Caso práctico».
4.Hugo cuenta en la revisión que dejó pasar un albarán mal leído. ¿Qué descubren al aplicar el test, y qué tiene en común con la factura que Nerea no veía? · Ver la respuesta
Que cualquiera habría fallado igual: la lectura de la IA a la vista y el original en otra pestaña, como el pedido de Nerea. Ahora el original va siempre al lado. Capítulo 16, «La distribuidora».
5.En tu empresa, ¿está escrito en algún sitio qué se castiga cuando alguien se equivoca con la IA? Si no, ¿quién lo decide hoy? · Ver la respuesta
Abierta. Si no está escrito, lo decide el enfado del momento. Mira si la regla existe, si cabe en cinco líneas y si vale también para dirección. Capítulo 16, «La idea».
Repaso de la parte · III · Humanos por IA
1.¿Qué quiere decir que el contador de discrepancias de una revisión siga en cero después de tres meses? · Ver la respuesta
Que, probablemente, decide la máquina con una firma humana encima. Quien revisa necesita tiempo, autoridad y acceso a los factores, y sus discrepancias tienen que quedar registradas. Capítulo 13, «La idea».
2.¿Qué pregunta hace el test de sustitución cuando alguien falla con la IA? · Ver la respuesta
¿Otra persona igual de competente habría fallado igual? Si la respuesta es sí, el fallo es del sistema, no de la persona. Capítulo 16, «La idea».
Una lectura
Amy C. Edmondson, «La organización sin miedo» (Arpa, 2024).