Cette enquête a pour unique objet la compréhension des mécanismes de décision et la prévention d’erreurs comparables. Elle ne vise ni à déterminer des fautes, ni à établir des responsabilités, ni à juger les intentions des personnes concernées. Les faits établis sont séparés de l’analyse. Les facteurs contributifs ne sont pas des causes uniques.
Synopsis
Quand un système défaille, on trouve presque toujours un dernier geste, qu’il s’agisse d’une main sur la mauvaise commande, d’une case cochée ou d’un arbitrage rendu un soir de budget. Ce geste se voit, se date et s’attribue. Il concentre l’attention, et avec elle le blâme.
Au début des années 1990, le psychologue James Reason propose une distinction qui a changé durablement la manière de regarder les accidents. D’un côté, les défaillances actives, c’est-à-dire les actes des opérateurs de première ligne, dont les effets sont immédiats. De l’autre, les conditions latentes, des décisions d’organisation prises bien avant, qui restent en sommeil dans le système jusqu’à ce qu’une circonstance les active. Il les appelle des « pathogènes résidents ».
Notre série emprunte cette distinction, parmi d’autres outils, à la sécurité industrielle. Si nous lui consacrons un article entier, c’est qu’elle est utile tout en étant contestée. L’article présente donc le modèle, puis ses critiques avec le même niveau de détail, avant de dire ce qu’on peut encore en faire.
1. Faits établis
Les deux ouvrages de référence. James Reason, Human Error, Cambridge, Cambridge University Press, 1990, puis Managing the Risks of Organizational Accidents, Aldershot, Ashgate, 1997. Le premier introduit la distinction dans le cadre de la psychologie cognitive. Le second en fait une théorie de l’accident organisationnel.
La distinction elle-même. Les défaillances actives désignent les actes des opérateurs de première ligne, aux effets immédiats. Les conditions latentes sont des décisions d’organisation qui restent en sommeil dans le système. Reason parle de « pathogènes résidents », par analogie avec des agents présents dans un organisme qui ne provoquent aucun symptôme tant que les circonstances ne s’y prêtent pas.
La représentation graphique. Il s’agit du « modèle du fromage suisse », une série de tranches représentant chacune une barrière de défense percée de trous. Un événement ne franchit le système que lorsque les trous sont alignés. Cette image compte parmi les plus répandues de la sécurité industrielle, bien au-delà de l’aviation.
Le statut du modèle dans la littérature. Il n’a pas été réfuté, mais il fait l’objet de critiques sérieuses. La synthèse de référence sur ce débat est l’article de Larouzee et Le Coze, « Good and bad reasons: The Swiss cheese model and its critics », publié dans Safety Science, volume 126, 2020, article 104660, DOI 10.1016/j.ssci.2020.104660. Les auteurs y distinguent deux familles de critiques, présentées en rubrique 2.
Un point à relever dès à présent : le titre de cet article de synthèse annonce une position équilibrée. Il existe de bonnes et de mauvaises raisons de critiquer ce modèle. Le texte dresse un inventaire plutôt qu’un réquisitoire.
2. Analyse
Ce que la distinction a changé
Tant que l’organisation n’était pas un objet d’enquête à part entière, l’analyse d’un accident s’arrêtait au bout de la chaîne visible des gestes. On remontait du résultat à l’acte, puis de l’acte à la personne qui l’avait commis. La séquence semblait complète parce qu’elle était fermée. La distinction de Reason ouvre cette boîte. Elle pose que l’acte de l’opérateur est la dernière condition réunie, parmi d’autres, et qu’il n’a eu d’effet que parce que des décisions antérieures l’avaient rendu possible. Une procédure rédigée pour un cas théorique, un effectif calculé sur une charge moyenne, deux commandes que l’ergonomie permet de confondre, un indicateur qui mesure ce qui se mesure facilement… Aucun de ces éléments ne provoque d’accident, mais ensemble ils le rendent possible.
C’est le sens du titre de cet article. L’erreur visible est rarement la plus intéressante, non parce qu’elle serait négligeable, mais parce qu’elle est la plus contingente. Quelqu’un d’autre aurait pu la commettre, un autre jour et d’une autre manière. Les conditions latentes restent en place une fois l’opérateur remplacé.
Première famille de critiques : la représentation
Elles concernent ce que l’image montre, et ce que sa forme laisse croire.
Erik Hollnagel range le modèle parmi les modèles « linéaires complexes », ou « épidémiologiques ». Les conditions latentes et les actes s’y combinent de façon linéaire, sans causalité circulaire réellement systémique. Les trous s’alignent sans s’engendrer les uns les autres. Dans un système réel, pourtant, une défense peut en affaiblir une autre, et une mesure corrective peut créer le risque qu’elle devait réduire.
Sidney Dekker fait une objection proche. Le modèle suppose une vision statique de l’organisation, qui entraîne une causalité linéaire et une approche réductionniste. On découpe le système en tranches, on y cherche des trous et on les bouche. Cela suppose que le tout soit la somme de ses parties, ce que l’on conteste justement quand on parle de système complexe.
Leveson va plus loin. Elle voit dans le modèle un descendant dépassé du modèle des dominos d’Heinrich et lui adresse deux reproches techniques. D’abord, le modèle suppose que les barrières sont indépendantes, alors que deux défenses peuvent avoir une cause commune et céder ensemble. Ensuite, il ne tient pas compte des défaillances autres que les actes des opérateurs. Le reproche est d’autant plus frappant qu’il vise un modèle conçu au départ pour détourner l’attention de l’opérateur.
Seconde famille de critiques : la sous-spécification
Celles-ci visent moins ce que le modèle affirme que ce qu’il ne dit pas à ceux qui veulent l’utiliser.
Shappell et Wiegmann, puis Luxhøj, notent que la simplicité du dessin n’aide ni à comprendre les liens entre facteurs ni à appliquer le modèle en pratique. Le schéma indique qu’il existe des tranches et des trous. Il ne précise pas combien de tranches il faut, lesquelles, comment reconnaître un trou, ni quel rapport existe entre un trou de la tranche trois et un trou de la tranche un. L’enquêteur qui l’adopte dispose d’un cadre de description, mais pas d’une méthode d’analyse.
Cette sous-spécification a été mesurée. Perneger (2005), dans un article au titre sans détour, « The Swiss cheese model of safety incidents: are there holes in the metaphor? », publié dans BMC Health Services Research, montre de façon empirique que des professionnels de santé n’interprètent pas de la même manière les éléments de base du modèle. Ce résultat pèse plus lourd qu’il n’y paraît. Il ne prouve pas que le modèle est faux. Il montre que deux praticiens formés, face au même matériau, ne désignent pas les mêmes éléments comme tranches, trous ou conditions latentes. Un outil dont la lecture change selon l’utilisateur ne mesure rien. Il fonctionne comme un langage.
Shorrock et Young formulent une mise en garde pratique qui concerne directement une série comme celle-ci. Ils signalent le risque d’une « chasse aux sorcières » aux conditions latentes, au détriment de l’identification des facteurs qui ont réellement contribué. Quand on cherche des pathogènes résidents, on en trouve toujours, car toute organisation en contient autant qu’on veut, et le modèle ne dit pas lesquels ont compté dans le cas étudié. Le vocabulaire censé protéger l’opérateur du blâme peut alors servir à reporter ce blâme sur l’organisation, sans rien expliquer de plus.
La transposition politique
En politique, la distinction se comprend presque tout de suite, et c’est ce qui fait sa valeur.
La défaillance active, c’est la décision que l’on commente. Elle a une date, un auteur et un intitulé. Elle fait l’objet de tribunes et peut être soumise au vote. Le plus souvent, elle est aussi réversible, puisqu’on peut l’abroger, la suspendre ou la corriger dans une loi de finances rectificative.
La condition latente, c’est le circuit qui l’a rendue possible, et ce circuit survivra aux commentaires. Il peut s’agir de l’absence d’une étape d’examen dans la procédure, d’un indicateur de suivi qui ne mesure pas la bonne grandeur, d’une administration qui évalue un dispositif dont elle a la gestion, d’un calendrier qui fait passer l’arbitrage avant l’étude d’impact, ou d’une catégorie statistique où une population réelle ne trouve pas sa place. Rien de cela n’est voté ni abrogé, et rien ne change quand la décision commentée est annulée.
Le débat public sur les politiques ratées repose ainsi sur une asymétrie de fond : l’attention va à ce qui est réversible et laisse de côté ce qui dure. Une mesure peut être retirée sous la pression sans que la condition qui l’a permise ait même été nommée. Les mêmes circuits peuvent alors produire plus tard une mesure semblable, sous une autre majorité et avec un autre nom.
[PARCOURS À CRÉER : Décision Publique & Facteurs Humains]
3. Le facteur humain
Pourquoi l’erreur visible attire-t-elle autant l’attention ? Trois mécanismes s’additionnent, et aucun ne suppose la mauvaise foi.
La proximité dans le temps. Le dernier acte touche directement le résultat, et cette contiguïté est l’un des indices les plus forts que l’esprit humain utilise pour attribuer une cause. L’indice marche bien dans le monde physique courant. Il marche mal dans un système où une décision vieille de sept ans pèse plus lourd que le geste de la veille.
La présence d’un auteur. Un acte a un auteur. Une condition latente n’en a aucun, ou en a trop, car elle découle d’arbitrages raisonnables pris séparément, à des moments différents, sans qu’aucun ait voulu le résultat. Une explication sans auteur demande un effort et satisfait mal le besoin de récit. Elle ne permet pas de clore l’histoire.
Le coût du traitement. Désigner un acte permet de réagir vite et de façon visible, par une sanction, un remplacement ou une circulaire. Désigner une condition latente impose un travail long et technique, dont le résultat ne se verra pas s’il réussit, puisque le succès se compte en accidents évités.
[PARCOURS ALLECTIO : Les Facteurs Humains]
4. Conditions latentes
Comme l’objet de cette enquête est un outil conceptuel, on regarde ici ce qui existait avant lui et qui éclaire son parcours.
Un héritage dont le modèle ne s’est jamais tout à fait libéré. La critique de Leveson est la plus profonde. Elle place le fromage suisse dans la lignée du modèle des dominos d’Heinrich, une chaîne de causes qui tombent les unes après les autres. Reason épaissit cette chaîne en y ajoutant l’organisation, la durée et le sommeil des pathogènes, mais il en garde la forme séquentielle. L’image est plus riche, sa logique reste la même.
Une forte demande des institutions. Les organisations à risque cherchaient un outil facile à transmettre. Un modèle qui tient sur une diapositive, se comprend sans formation et retire la culpabilité de l’opérateur répondait précisément à ce besoin. Sa diffusion ne démontre pas sa validité analytique. Elle montre qu’il est utile pour enseigner et acceptable pour les organisations.
Une ambiguïté d’abord féconde, puis coûteuse. Des domaines très différents ont adopté le modèle parce qu’il était peu spécifié, et donc adaptable. C’est cette même imprécision que Perneger mesure quinze ans après, sous la forme d’interprétations divergentes. La qualité qui a favorisé sa diffusion est aussi celle qui empêche la rigueur.
5. Facteurs contributifs
L’écart entre la diffusion du modèle et sa solidité analytique ne s’explique pas par une cause unique, mais par une conjonction de facteurs.
- Une image facile à retenir, qui circule plus vite que les réserves qui l’accompagnent.
- Une forme séquentielle héritée, qui correspond à la façon spontanée de raconter un accident.
- L’absence de méthode d’application, qui permet à chacun d’y mettre ce qu’il souhaite.
- Une vraie fonction pour les organisations, puisqu’il offre une alternative crédible à la désignation de l’opérateur, ce qui constitue un progrès quelle que soit sa valeur explicative.
- Un débat critique mené dans la littérature spécialisée et qui a peu atteint les usages courants.
6. Ce qui aurait pu être fait
Le contrefactuel reste limité, car on ne peut pas reprocher à un auteur de 1990 de ne pas avoir écrit le livre de 2020. Ce qui suit concerne l’usage du modèle et non sa conception.
Dès qu’il s’est largement diffusé, le modèle aurait pu être accompagné d’une règle d’emploi séparant deux usages : décrire un enchaînement déjà connu, et découvrir ce qu’on ignore encore. Il convient assez bien au premier. Rien dans sa formulation ne le rend apte au second, et la plupart des reproches réunis par Larouzee et Le Coze viennent de la confusion entre les deux.
De même, le résultat de Perneger aurait pu servir à calibrer l’outil. Si des praticiens formés ne s’accordent pas sur les éléments de base, chaque analyse menée avec ce modèle devrait préciser qui a fait le découpage et selon quels critères, comme on précise la méthode d’un relevé.
7. Recommandations
Comme partout dans la série, ces recommandations n’imposent pas d’agir, mais elles imposent de répondre.
- Recommandation 04-01. Qu’une analyse publique qui utilise le vocabulaire des conditions latentes précise clairement qu’il s’agit d’un cadre de description et non d’une démonstration causale.
- Recommandation 04-02. Que chaque condition latente avancée s’accompagne du fait établi qui la documente, plutôt que de la seule vraisemblance du mécanisme.
- Recommandation 04-03. Que l’indépendance des barrières soit vérifiée et non supposée. Deux contrôles distincts qui reposent sur la même source d’information ne constituent pas deux barrières.
- Recommandation 04-04. Qu’un rapport d’enquête utilisant ce vocabulaire indique qui a identifié les éléments et sur quels critères, puisque le résultat de Perneger montre que ce découpage change d’un praticien à l’autre.
- Recommandation 04-05. Que la recherche de conditions latentes reste limitée aux faits du cas étudié, pour éviter le travers signalé par Shorrock et Young, celui d’une accumulation de pathogènes résidents qui tient lieu d’explication sans en apporter.
8. Ce que cette enquête ne permet pas de conclure
Cette rubrique est obligatoire dans chaque article de la série.
Elle ne permet pas de conclure que le modèle est réfuté. La littérature le décrit comme contesté, non comme invalidé, et la synthèse que nous utilisons affirme dès son titre qu’il y a de bonnes et de mauvaises raisons de le critiquer. Nous présentons ce débat sans le trancher.
Elle ne permet pas de prédire où se trouvent les conditions latentes d’un système donné. C’est la limite principale de cet article, et elle doit être dite sans détour : le modèle aide à nommer les conditions latentes après coup, mais pas à les repérer à l’avance. Il ne comporte ni méthode de recherche, ni critère de complétude, ni moyen de savoir quand on a fini de chercher. Appliqué à un système qui n’a pas encore connu de défaillance, il donne une liste d’inquiétudes plutôt qu’un diagnostic.
Elle ne permet pas de conclure que la distinction entre actif et latent est la seule possible. Il existe d’autres cadres, conçus pour dépasser les limites relevées ici, que nous n’évaluons pas.
Elle ne permet pas d’appliquer mécaniquement un modèle industriel à la décision publique. Une organisation technique vise un objectif largement partagé, alors qu’un système politique arbitre entre des objectifs concurrents, et cette différence compte.
Elle ne permet pas de conclure que l’opérateur n’est jamais en cause. Tourner l’attention vers l’organisation ne revient pas à amnistier. La série a d’ailleurs consacré un article entier à cette limite.
Enfin, une réserve de méthode. Les critiques présentées ici nous viennent de la synthèse de Larouzee et Le Coze (2020). Nous n’avons pas lu les publications originales de Hollnagel, Dekker, Leveson, Shappell et Wiegmann, Luxhøj ou Shorrock et Young, dont les références ne figurent pas dans notre dossier. Nous citons une recension, et nous préférons le dire plutôt que de faire croire à une lecture directe.
9. Cas concret
Situation imaginée à des fins pédagogiques. Elle ne correspond à aucun dispositif ni à aucune personne réels.
Un guichet. Une agente examine une demande d’aide et coche la case « pièce manquante ». Le dossier est renvoyé. Le demandeur, qui avait fourni la pièce dans un format que le logiciel refuse, perd six semaines et abandonne. C’est la défaillance active, avec un geste, une case et une personne identifiable, celle que visera une lettre de réclamation.
Viennent ensuite les conditions déjà en place. La liste des pièces acceptées a été fixée lors de la conception, à partir des cas les plus courants. L’outil ne propose pas de champ libre, car un tel champ ne se prête pas à l’exploitation statistique. Le service est évalué sur le délai moyen de traitement, qui baisse quand un dossier incomplet est renvoyé rapidement. Enfin, aucun retour ne relie les abandons aux motifs de rejet, puisque celui qui abandonne disparaît des fichiers.
Aucune de ces quatre décisions n’est absurde. Chacune a été prise pour une bonne raison, par des personnes différentes et à des moments différents, sans qu’aucune vise ce résultat. Ensemble, elles aboutissent au renvoi d’un dossier pourtant conforme sur le fond, avec une case cochée.
D’où l’asymétrie. Si l’affaire est rendue publique, on commentera la case. La liste des pièces, l’absence de champ libre, l’indicateur de délai et l’angle mort sur les abandons seront toujours en place le lendemain, prêts à servir à la prochaine occasion.
Pour rester fidèle aux critiques exposées plus haut, il faut reconnaître ce que cette reconstitution a de commode. Elle est écrite en connaissant la fin. Les quatre conditions ont été choisies parce qu’elles conduisent au résultat observé, alors qu’une centaine d’autres existaient sans y conduire. Le modèle n’indiquait pas à l’avance lesquelles retenir.
10. Questions à se poser
- Dans le dossier qui m’occupe, qu’est-ce qui existera encore dans deux ans, quand la décision commentée aura été corrigée ?
- Les deux garde-fous que je crois indépendants reposent-ils sur la même information, le même service ou le même financement ?
- La condition latente que je mets en avant s’appuie-t-elle sur un fait, ou paraît-elle seulement plausible parce qu’elle colle au résultat ?
- Si le résultat avait été bon, aurais-je présenté les mêmes éléments comme des pathogènes résidents ou comme des arbitrages raisonnables ?
- Est-ce que j’utilise ce vocabulaire pour comprendre, ou pour faire passer le blâme d’un niveau à un autre ?
11. Ce qu’il faut retenir
Dans Human Error (1990), puis dans Managing the Risks of Organizational Accidents (1997), James Reason a distingué les défaillances actives, actes des opérateurs de première ligne aux effets immédiats, et les conditions latentes, décisions d’organisation restées en sommeil qu’il appelle « pathogènes résidents ».
Connu sous l’image du fromage suisse, ce modèle n’est pas réfuté mais il est sérieusement contesté, sur deux points recensés par Larouzee et Le Coze (2020). Le premier concerne la représentation, avec une causalité linéaire, une vision statique de l’organisation et l’hypothèse de barrières indépendantes. Le second concerne la sous-spécification, puisque le modèle ne guide pas son application pratique et que Perneger a montré en 2005 que des praticiens n’en interprètent pas de la même façon les éléments de base.
Son statut se résume ainsi : une métaphore pédagogique efficace, mais un outil d’analyse faible. Notre série s’en sert donc comme d’un vocabulaire, et jamais comme d’une démonstration. Elle en retient une question plutôt qu’une preuve. Que restera-t-il du système une fois corrigé ce dont tout le monde parle ?
12. Sources
Pour aller plus loin : Décision et incertitude : pourquoi on se trompe · L’erreur humaine : la comprendre pour mieux l’éviter
Sources scientifiques
- Reason, J. (1990). Human Error. Cambridge : Cambridge University Press.
- Reason, J. (1997). Managing the Risks of Organizational Accidents. Aldershot : Ashgate.
- Larouzee, J., & Le Coze, J.-C. (2020). « Good and bad reasons: The Swiss cheese model and its critics ». Safety Science, 126, 104660. DOI : 10.1016/j.ssci.2020.104660. Notice de l’éditeur.
- Perneger (2005). « The Swiss cheese model of safety incidents: are there holes in the metaphor? ». BMC Health Services Research.
Auteurs cités à travers la synthèse de Larouzee et Le Coze
Hollnagel, Dekker, Leveson (critiques de la représentation) ; Shappell et Wiegmann, Luxhøj, Shorrock et Young (critiques de la sous-spécification). Leurs références propres ne figurent pas dans notre dossier documentaire et nous ne les reconstituons pas : elles sont à consulter dans la bibliographie de l’article de 2020.
Pour aller plus loin dans la série
- Article 3 — Pourquoi un accident n’a jamais « une cause ».
- Article 5 — Le biais rétrospectif : l’ennemi numéro un de l’enquêteur.
- Article 8 — Les limites de la méthode : ce que le BEA ne sait pas faire.
13. Parcours Allectio associés
- [PARCOURS ALLECTIO : Les Facteurs Humains]
- [PARCOURS À CRÉER : Décision Publique & Facteurs Humains]
Cet article pourrait aider quelqu’un que tu connais ?
Partage-le en un clic, c’est souvent le meilleur point de départ d’une vraie conversation.
