Le Personal MBA
L’ironie de l’automatisation
Voici donc le Paradoxe de l’automatisation : plus le Système Automatisé est efficace, plus la contribution des opérateurs humains est déterminante. Lorsqu’une erreur survient, les opérateurs doivent identifier et résoudre le problème rapidement ou stopper la production – sinon, le système continue de Multiplier l’erreur.
La psychologue Lisanne Bainbridge de l’University College de Londres, a été l’une des premières à étudier sérieusement les implications des systèmes
efficaces et fiables.2 Elle a été la première à identifier et formuler le « paradoxe » des systèmes Automatisés : les systèmes Automatisés efficaces limitent le besoin d’une intervention humaine, mais le rendent d’autant plus déterminant.
L’Automatisation efficace rend les êtres humains, non pas moins, mais plus importants.
RETROUVEZ CE CONCEPT À L’ADRESSE :http://book.personalmba.com/paradox-of-
automation/
L’ironie de l’automatisation
« Il y aura toujours des situations inattendues pour lesquelles l’automatisation
n’a pas été conçue ou des événements qu’il est impossible de prévoir, tout
simplement. Lorsque la fiabilité d’un système augmente, il est d’autant plus
difficile de détecter l’erreur et de la corriger. »
DR RAJA PARASURAMAN, PROFESSEUR DE PSYCHOLOGIE À LA GEORGE MASON
UNIVERSITY
A vec des Systèmes Automatisés efficaces, l’intervention humaine est d’une importance capitale pour empêcher l’Amplification des erreurs. Il est donc préférable d’avoir des opérateurs compétents disponibles 24 heures sur 24, n’est-ce pas ?
Plus facile à dire qu’à faire : en général, les entreprises ne paient pas des employés hautement qualifiés à rester toute la journée dans une salle à ne rien faire – puisqu’ils n’ont rien à faire tant que le système semble fiable. Et même si elles les payaient à ne rien faire, ces opérateurs passeraient l’essentiel de leur temps à s’ennuyer fermement.
C’est là qu’apparaît l’Ironie de l’automatisation : plus le système est fiable, moins les opérateurs humains ont de travail à faire et donc moins ils prêtent Attention au système en cours de fonctionnement. Rappelez-vous l’horloge de Mackworth et les études de vigilance réalisées sur des opérateurs radar britanniques durant la Seconde Guerre mondiale lors de notre discussion sur la Nouveauté. Les êtres humains s’ennuient très vite lorsqu’il ne se passe rien, et plus le système est fiable, moins il se passe de choses.
Comble d’ironie, les systèmes fiables ont tendance à endormir les sens des opérateurs, d’où la difficulté de ces derniers à se rendre compte que quelque chose ne tourne pas rond. Par conséquent, plus le système est fiable, plus les opérateurs risquent de laisser passer une erreur, surtout si cette erreur est difficile à détecter.
Si l’erreur minime se Multiplie suffisamment longtemps, elle peut devenir presque « normale », et c’est ce qui explique qu’un constructeur comme Toyota se retrouve à perdre 5 milliards d’euros pour rappeler ses véhicules défectueux. (Soit dit en passant, ne commettez pas l’Erreur d’attribution en pensant que les ingénieurs de Toyota étaient stupides ou négligents – si vous utilisez vous-même des systèmes Automatisés, cela pourrait facilement vous arriver.)
La meilleure approche pour éviter des erreurs graves est de recourir à un Échantillonnage et à une Expérimentation aussi systématiques que rigoureux. N’oubliez pas que des Accidents normaux peuvent se produire et se produisent. Si vous partez du principe que les erreurs sont inévitables et organisez une batterie de tests pour identifier les plus graves, vos opérateurs resteront investis dans leur travail et vous augmenterez vos chances de détecter rapidement des erreurs importantes.