Pourquoi, aujourd’hui, des défaillances dérisoires provoquent-elles des dégâts majeurs ?

Les systèmes actuels reposent sur des technologies et processus complexes, composés d’une multitude de composants imbriqués. Difficiles à modéliser, ils ne suivent pas une logique linéaire et n’autorisent donc aucune intervention aisée. Ces systèmes nous déconnectent aussi de la réalité du terrain : nous dépendons d’indicateurs à distance et d’outils sophistiqués, mais que nous ne maitrisons plus vraiment. Jusque dans les années 1990, les inspecteurs des barrages californiens repéraient de visu les anomalies dans les flux retenus. Aujourd’hui, ils basent leurs décisions sur les données de capteurs à distance – décisions pouvant mener à de véritables catastrophes si ces derniers dysfonctionnent. L’entreprise de services financiers Knight Capital a frôlé la faillite en 2012 en raison d’une erreur de son logiciel de passage d’ordre, qui lui a fait perdre 500 millions de dollars en quelques heures. Cette mésaventure aurait été impossible il y a 30 ans : les traders géraient alors en direct les transactions, aidés par des systèmes informatiques beaucoup plus basiques.