なぜ人類は、巨大な事故を止められないのか

人の思考プロセスを、本質的な「思考回路」として視覚的に構造化する。
Systems Visualismでは、個人の内省を助け、他者との対話・共有・創造を促進するための図解を体系化しています。
本棚のように、多様な図を揃え、あなたの考える力を広げるツールを紹介します。

[1] PROLOGUE｜導入

テーマ概要

人類は多くの偉業を成し遂げてきた。巨大な建造物、月面着陸、核エネルギーの発明。

しかしその歴史の裏側には、アポロ1号や13号の事故、スリーマイル島の原子力発電所事故、スペースシャトル・チャレンジャー号の爆発事故など、数多くの事故の積み重ねが存在している。

不運な自然災害に見舞われた事故もあるが、小さなミスの連鎖が、取り返しのつかない大きな被害を生み出した例も少なくない。

NASAもまた、多くの事故を経験してきた。しかし彼らが無能であると考える人は、ほとんどいないだろう。NASAは、世界でも有数の、選び抜かれた人材の集まりである。

それでも、なぜ事故は起こるのか。

なぜ、これほど有能な人たちが集まっていても、大きな失敗は防げないのか。今回は、能力不足ではなく、人間が本来持っている「性（さが）」に焦点を当てて考えていく。

参考資料

最悪の事故が起こるまで人は何をしていたのか、ジェームズ・Ｒ・チャイルズ、草思社文庫

[2] CORE｜本編

思考回路 - 図解ツール

こちらが図解ツール全体像です。
情報量が多いため、次章の解説を参考にしながら、じっくりと読み進めていただくことをおすすめします。

図の解説 - 紙芝居形式

図解ツールをパーツごとに分解し、詳しく解釈しながら説明していきます。
テーマ説明：全12枚

どんなに大きなプロジェクトであっても、突き詰めれば同じようなプロセスをたどる。設計され、製造され、テストによって確かめられ、運用が始まる。しかし、ときにそのプロジェクトは大きな被害を生み出してしまう。

プロジェクトは大勢の人で進められる。だから、どんなに優秀な人たちの集まりであっても、設計時の不具合を見逃してしまったり、設計や製造の段階で組み込まれた不具合をテストでも見逃してしまうことがある。それは検討不足であったり、テストが十分でなかったからだ。

ここでは能力不足そのものは議論から省く。では、なぜ検討不足やテスト不足が起こってしまうのか。十分な期間や潤沢な予算があれば、じっくり検討し、多くのテストを行えたかもしれない。

しかし事業者側は利益を目標にしている。早く世の中に出せ、無駄なことに予算は使うな、という引き締めが現場に入る。そうした日程圧力や予算渋りとの駆け引きの中で、不具合は見逃されていく。

不具合が潜んでいたとしても、初めのうちは正常に動くことが多い。また、気づきにくい小さな前兆があっても、運用自体は問題なく進む。そうした「うまく動いている」という経験が正常性バイアスを生み、関わる人たちの認知を歪めていく。そして、「今」気づいて対応すれば被害を抑えられたはずの前兆を、軽視してしまう。

現場だけでなく、とくに事業者側は、楽観主義的に、精力的にプロジェクトを前に進めなければ市場では戦えない。その姿勢そのものが、組織全体の正常性バイアスをさらに助長してしまう。

また、現場の労働者は、過酷な状況によって蓄積された疲労や睡眠不足により、本来持っている判断力や実行力を十分に発揮できていないこともある。

こうした一時的な能力低下や認知の歪みがミスや誤った判断を生み、小さな前兆を、まだ回避できたはずの適度な危機へと変えていく。そしてその危機を、さらに大きな危機へと押し上げてしまう。

現場では、ときに前兆や適度な危機に気づき、上司へ申告することもあるだろう。しかし大きなプロジェクトを止める決断は、中間管理職には往々にして難しい。組織の権威主義に気圧され、保身に走り、その申告をそっと無視してしまうこともある。それもまた、人間の弱さだ。

このように、組織内それぞれの思惑や、現場の困窮が重なり、本来であれば対処できていたはずの前兆や適度な危機を見逃し、危険を強めてしまうことが起こる。

さらに、人間による危険の助長に加え、自然の過酷な状況といった不運が重なることもある。そうして最終的に、人は極度の危機に直面する。前兆の段階や、まだ対応の余地があった適度な危機とは違い、もはや小手先では対処できない状況だ。

そのような状況では、最初に認知した原因に固執し、柔軟な思考が失われる。極度のストレスによって、なぜ自分がこんな状況に置かれているのか、なぜ誰も対処しないのかといった怒りにもとらわれていく。そして危機が続くと、やがて人は激しいパニック状態に陥る。

そこまで追い込まれると、身体にも強い変化が現れる。呼吸は過剰になり、心拍は上昇し、冷静に考えることができなくなる。この状態では、人は無意識に素の行動を取る。それは長年培われた習慣的な行動だ。しかし、その防衛本能的な行動が状況をさらに悪化させ、自らが被る被害を大きくしてしまう。

私たちの社会は、巨大なシステムによって支えられている。しかし、そのすべてが完璧に設計され、運用されているわけではない。人間の判断や行動の小さな積み重ねが、結果として大きな被害をもたらしてしまうことがある。

ここまでお読みいただきありがとうございました。

図解ツールを手元に置いて解釈を深めたり、
「人的事故」について周りの仲間と議論する際の、「論点の地図」として活用してください。

[3] INSIGHT｜考察

図解をまとめての感想

過去に描いた図解「なぜ大きなプロジェクトは失敗しやすいのか」と通ずる内容だった。

どれほど工学技術が発達したとしても、これまでも、そしてこれからも、失敗や事故は起こってしまうだろう。そこには、「技術」とは異なる存在である「人間」が、常に介在しているからだ。

開発能力の向上や、システムの冗長性、綿密な計画によって、防げる事故は確かにある。しかし、それでも人が関わる限り、恣意的な判断や認知バイアスが入り込む余地は残る。

水が低きに流れるように、人間の判断もまた、自然と偏りやすい。

ここで、少し想像してみる。
もし自分がアポロ計画の最大責任者だったら。
もし自分が原子力発電所建設の最大責任者だったら。

途中まで進み、何百億、何千億という資金が投じられたプロジェクトを、白紙に戻す決断ができるだろうか。多くの人の期待や生活を背負った立場で、それができるだろうか。

社会の末端に生きる一人のエンジニアが、そうした立場に立つことは滅多にない。

しかし、ただ責任者を非難するだけではなく、「もし自分がその立場だったら」と想像することはできる。

そして、そうならないために、エンジニア一人ひとりが、この巨大なシステムの一部を担っているという自覚を持って向き合う。その姿勢こそが、常に求められているのだと思う。

[4] NAVIGATION｜関連情報

過去の図解