2011年02月25日

システム安全

2月にのセーフウェアという分厚い本の翻訳者の一人によるシステム安全についてのセミナーがあり,参加してきたのでそのメモ.

仕事の打ち合わせが長引いて,大幅に遅刻してしまい,最初のほうが聞けなかったのが残念.
感想としては,聴けてよかった.頂いたプリントも結構見直しやすく,同じチームのメンバーに後日プレゼンさせてもらった.以下のもプリントから抜粋した言葉も多い.さらにはセーフウェアの本の中の言葉も多い.

書籍はまだ読み切れていないのだが読み終えたらまた書きたいと思う.





以下は今回のセミナーの内容.
参加したセミナーはこちら→2月度技術士CPDミニ講座(第33回)


「セーフウェア/安全・安心なシステムとソフトウェアを目指して」

 講師:吉岡律夫 氏((株)日本システム安全研究所/社長)
現事故はなぜ起きる、コンピュータの問題点、システムとは何か、リスクとは何か、また、システム安全を達成する為のハードウェア/ソフトウェア/人的因子や組織管理について、またMITレブソン教授の名著「セーフウェア」の翻訳を手がけ概要解説など。

---------------------------------------------------

セーフウェアとは何か?

ここは言葉の定義

20世紀の重大事故のほとんどは1975年以降に起きている。ほとんどの事故は、未知の科学事象によるものではなく、既知の標準手法を採用していなかったためである。


システムとは、ハードウェアやソフトウェアという技術的要素とヒューマンファクター(人的因子)や組織管理さらには安全文化、といった非技術的要素から成り立っている。

従って、システム事故を防ぐには、上記の要素すべてに対する安全、つまり「システム安全」を実現しなければならない。

これを『セーフウェア』と呼んでいる。(造語)




事故はなぜ起こるか?




交通分野や化学プラント事故の70〜80%は現場員(操作員・保守員・パイロット・運転手など)のミス。

→しかし、ヒューマンエラーは事故の『原因』ではない。
それは不適切な設計/組織/教育などの『結果』である。


信頼性と安全性


信頼性と安全性は同義ではない。(重なる部分はある)

例)
■正面衝突
→エアバッグ作動して無事。
→信頼性(品質)と安全性は同じ。

■側面衝突
→エアバッグ作動、しかし運転手死亡
→信頼性(品質)は完全。(側面)安全設計が不適切。




リスクとはなにか?

部品やシステムが持つ潜在的な危険性 → 未来の出来事

リスク = 事故の大きさと事故の頻度の組み合わせ

リスクは見えない
今まで事故なし ≠ リスクゼロ
思い込み。


これは,ISO14971の中でも何度も目にしているので抵抗なく理解できる.




許容リスクのレベル

近年の一般社会は、リスクを認識するようになり、リスクを低減することを強く求めるようになった。つまりリスクが低下しているとしても、許容できるリスクのレベルも下がっている。

厳しい世の中になってしまったよ..

参考資料:
『リスクにあなたは騙される』
"史上最も安全で健康な私たちが、なぜ不安に怯えているのか?"



今の本が読み終わったら購入したい本.




事故の根本原因

大きく分けて3つ。


■1. 安全文化の欠陥


・リスク過小評価


『今までが故障していないから』は未来に対する理由にはならない。(正常性バイアス)


しかし,自分もよくこう思ってしまう時があるので気をつけたい.


・冗長性への頼りすぎ

冗長性と多様性が失敗を避けようとして、また信頼性を増やそうとしてしばしば使われる。しかし、停電あるいは火災のような一つの要因がこれらすべての機器を同時に故障させるかもしれない。
多くの事故が、冗長あるいは多様なシステムにおいて、共通原因故障により起きている。




■ 教訓

数値解析は、数値化できるものだけを使用するだけで、数値化されていないものは使用できるとは限らない。人間は、個人的には経験しなかった種類の、大きいが稀な災難を避けることに、注意することは好まないように思われる。





ソフトウェアのリスク



ずっと前に発明された多くの基本的な機械的安全装置は、十分に試験され、安くて、信頼性が高くて、そしてフェイルセーフで、物理学の単純な原則に基づいている。これらの機械的安全装置を"ソフトウェアで置き換えることは間違っている"。その理由は、ソフトウェアが機械的インターロックの良い特性をほとんど持っておらず、複雑さと相互干渉を増やす傾向があるからである。



自分はソフトウェアの方がかかわりが強いのでソフトウェアに対するリスクの話はかなり衝撃的でした.



欧州の思想


『一人の命は地球より重い』は誤り。

英国健康安全庁発行の図書『COST of ACCIDENT』では、「事故が起きた時のコストを知り、安全にかける費用とバランスさせなければならない」としている。
「我々の社会は、いかなるコストをかけても人命を守る、という社会ではない」と別著でも述べている。



■ 2. 組織構造の欠陥


責任と権限の分散


アッシュの同調実験を例にして,人の犯しやすいミスの生まれる原因を理解.

独立性の欠如と安全担当部門の低い地位



■ 3. 技術活動の欠陥

・表面的な安全活動

・有効でないリスク制御

・事故原因のほとんどは、事故を防ぐための知識がなかったからではなく、その知識の使い方を知らなかったか 、効果的な使い方を知らなかった

・変更に対する評価の失敗

・情報の不足


以上の3つ.



ヒューマンエラー


ヒューマンエラーは事故の『原因』ではない
ヒューマンエラーは、人間の創造性や適応能力の不可避的な副作用。

「ヒューマンエラー」は通常、現場員のエラーを言っている。しかし、現場員のエラーは、設計者や管理組織の過ち(エラー)から引き起こされるので、この人達もエラーに含めるべきとしている。



システム安全


安全装置をつければ安全か?


安全装置をつけると、人間は「もう事故は起きない」と過信してしまう。ある日、安全装置が故障して、更にひどい事故が起きたり、想定外の事故が起きる。

これをクロスオーバーモデル(シーソーのような事象)という。

飛行機や多くの産業システムでは、マンマシン系(人間と機械の協働系)が採用されており、設計者は、安全装置をつければ安全と考えてはならない。

問題は、ヒューマンエラーは悪いのではなく、人間とタスクのミスマッチにあるという仮定から、システム安全について考えるべきだ、ということ。





システム安全の基本概念


1. システム安全は、予見できる事故を防止し、予測できない事故の影響を最小限にするためにシステム工学手法を用いる
2. システム安全は、完成した設計に安全を加えるのではなく、設計に安全を組み込む
3. システム安全は、機械・人間・環境(管理者・設計者なども含め)など全体としてのシステムを扱う
4. システム安全は、ハザード(潜在危険)を単なる機械の故障以外に想定する
5. システム安全は、過去の経験や規格よりも、起こるかもしれない事故に対する分析を重視する
6. システム安全で重視されるのは、定量的手法よりも定性的手法である
7. システム安全は、安全性と、効率・性能・使いやすさ・費用などの他の目標とのトレードオフを重視する




システム安全設計の進め方


1. システム安全管理を確立すること
2. ハザード分析の実施
3. ハザードを除去すること(本質安全設計)
4. ハザードを低減し、制御する設計の採用
5. ヒューマンエラーを考慮したインターフェース設計





ハザードとは?


従業員や住民、乗客などの健康や生命に物理的被害を与える潜在的な危険源。
爆発・火災などの事象をいい、未だ発生していない状態であり、実際に発生すると『事故』となる。




STAMP

■ STAMP とは

Systems Theoretic Accident Modeling and Processes

システムは、HW/SW、管理と人的因子(安全文化)等から成り立っており、相互に複雑にリンクしているので、リスク分析や安全設計には、具体的なツールがないと実行が難しい。

そのために開発された思想。システム理論に基づいて、安全なシステムの設計とリスク管理の実施を推奨。
単体の故障に着目するのではなく、制御器同士の相互作用を伴う動作に忍び込む問題に着目する。
事故は単体の故障によってのみ起きるのではなく、危険な状態を導く動作に対して、安全制約が徹底されていないことで起きると捉える。
故障許容設計などの「故障対策」ではなく、「安全制約」を識別し設計に組み込むことに重きを置く。設計の初期フェーズから利用可能。



『高信頼性組織』論

1. 過去の失敗から学ぶこと
2. 広い範囲に目を向けること
3. 運用(現場部門)を重視すること
4. 事故時の復旧能力を高めること
5. 専門家を重視すること



失敗に学ぶことが出発点

設計技術者の第一の使命は、性能向上やコスト改善。(うまくいくことを考える)
⇔うまく行かなくなる(失敗)を考えるのは至難。

過去の失敗を学ぶことは技術進歩に必須。そのために、

1) 後の技術者が実体験できる形で保存する。
(人間は間違える動物であると共に忘れる動物。)

2) 後の技術者が事故の実態を実感できるようにする。
(模型やパネルだけでは実感できない。現物が最高の教材)

3) 事故の原因や背景、さらには教訓などを学習できる展示が必要。


日本航空安全啓発センター http://www.jal.com/ja/safety/center/center.html より。
ここにも行ってみたい.



最後に,自分はチームメートにこの知識をより深めるために,MITの公開されている資料のどれかを読む・和訳することを宣言した.
実行できたら和訳した内容はどこかにアップしたいけど,わからない.ちょっとずつやって半年位を考えている.






posted by maplewine at 20:56| Comment(0) | TrackBack(0) | Computer | このブログの読者になる | 更新情報をチェックする
この記事へのコメント
コメントを書く
お名前:

メールアドレス:

ホームページアドレス:

コメント:

認証コード: [必須入力]


※画像の中の文字を半角で入力してください。

この記事へのトラックバック
×

この広告は180日以上新しい記事の投稿がないブログに表示されております。