Hint of combination of Safety Analysis method (stamp/stpa and haze)

分析手法の組合せ
のヒント（STAMP編）
　Panasonic, Nov. 10, 2017.　　
　　小川清
技術士（情報工学）・工学博士
名古屋市工業研究所
2017年 11月 10日
(c)@kaizen_nagoya
1
安全・安心分析のHAZOPによる統合的運
用

今日の作業
•  ５分で全体説明
•  １回目は１００点満点の３０点を目指す。
– 外れを洗い出す。原因、対策は思いついたら書く。
– 三回やる。人を替三人でやる。目標は３０点でよい。
•  時間を3分割して三度実施。
– 一人作業５分（一人作業表一枚）
•  ３つ項目がでればよい。３回やる。
– 班作業５分予定
– 各班から報告は優先順位の高い一つ
•  人を入れ替えて３度実施。
2017/09/20 HAZOP3.0 safety & security © @kaizen_nagoya
班構成変更方法　
https://
www.slideshare.
net/kaizenjapan/
hazopogawa2015
2

参加者が持ち帰られるもの
•  当日の結果（必要に応じて写真撮影：機密事
項を含む場合を除く）
•  作業の仕方（想定外または網羅性）の経験
– 目的設定の大切さ
– 優先順位を常につける習慣
– 短時間で三回回すことの有効性
•  人の組み合わせの重要さ
17/08/25 HAZOP3.0 safety & security © @kaizen_nagoya
分析に知見をもった知人の名刺 ©SWEST
3

1.1 表1. 分析手法と段階(JAXA)
2017年 9月 8日
(c)@kaizen_nagoya
4
橙色に着目（参考文献[17] プロセス改善ナビゲーション
　　　　　　　　　　　　　　　　　ガイドベストプラクティス編　）
ID Analysis Method | Process
require
ments
basic
design
detailed
design
coding
integrat
ion test
system
test
field
test
operatio
n
1 Mode TransitionAnalysis ○ ○ ○ ○
2 CompletenessAnalysis ○ ○ ○ ○
3 nominal simulation ○ ○ ○
4 software deviation analysis ○ ○ ○ ○
5 single fault simulation ○ ○ ○ ○
6 FMEA,FTA ○ ○ ○ ○ ○ ○ ○ ○
7 double faults simulation ○ ○ ○
8 HAZOP(Hazard and Operability) ○ ○ ○
9 Code clone analysis ○ ○
10 TracabilityAnalysis ○ ○ ○ ○ ○
11 ReachabilityAnalysis ○ ○ ○ ○
12 InterfaceAnalysis ○ ○ ○ ○
13 TimingAnalysis ○ ○ ○
用

STAMP/STPAとは何か
•  多くの事故分析の結果から得た知見を整理
•  HAZOPの早遅前後に焦点を合わせている
– 20世紀のHAZOPは7項目中心
– 21世紀のHAZOPは11項目
•  道具を用意しているxstampp
– やり方の細かいところを知るより、肝を理解する
– 他の手法との違いを体験する
2017年 9月 8日
(c)@kaizen_nagoya
用
5

P48 STPAのガイドワード
•  HAZOPでは抽象的であるので1段階具体化
•  Not Providing ないので起こる(無)
•  Providing cause hazard あると起こる（逆）
•  Providing too early 早すぎる・遅すぎる（速遅・前後）
•  Providing too long 長すぎる（大）
2017年 9月 8日
(c)@kaizen_nagoya
用
6

1.3 HAZOP魔法の言葉(guide word)
ID
D1 (no) D0
D2 (reverse) D0
D3 (other than)
D4 (more) D5
D5 (less) (quantity) D4
D6 D7
D7 (part of) (quality) D6
D8 (early) D9
D9 (late) (time) D8
DA (before) DB
DB (after) (order) DA
7
2017年 9月 8日
(c)@kaizen_nagoya
用

HAZOP作業表
2017/09/20 HAZOP3.0 safety & security © @kaizen_nagoya 8

手法群
2017/08/25 HAZOP3.0 safety & security © @kaizen_nagoya 9
名称手法用語具体性枠組み網羅性種
なぜなぜ記法/枠組抽象的論理模型記述 *他手法併用分
what if 枠組抽象的論理模型記述 *他手法併用分
RCA 枠組抽象的手順 *他手法併用分
FMEA 枠組抽象的詳細な枠組み汎用・下から上分
HAZOP 誘導語抽象的他の枠組利用空間・時間* 分
TRIZ 対象具体的解決枠組み多数技術・仕様対
ユニバーサルデザイン対象具体的多元的人・物・環境対
高齢・障害対象具体的多元的人対
形の設計指針対象具体的多元的物対
子供対象具体的多元的人対
国際単位系対象抽象的多元的物・環境対
GSN 記法抽象的論理模型記述汎用・目標* 対
SHELL 対象体系的多次元人・物・環境・両
4M5E 対象体系的二次元人•物•媒体•管理両
過去トラ対象具体的分類次第経験範囲のみ両
USDM 記法やや抽象的模型記述作業・成果物両
UML 記法やや抽象的模型記述時間・順番* 両
FTA 記法•枠組抽象的論理模型記述事故・上から下両
ETA 記法•枠組抽象的論理模型記述事故・下から上両
STAMP/STPA 記法•誘導語具体的(制御）模型記述制御(時間・順番) 両
FRAM 記法•誘導語やや具体的模型記述前提•資源•時間•制御両

題材「従来通り」
•  具体例が必要な場合(STAMP等）
•  P6, p16,
2017年 9月 8日
(c)@kaizen_nagoya
用
10

作業の進め方
•  紙でやっていて欄が足りなけれ足す
–  ありえないことでよい
•  思いついたことは必ず書く
–  経験に基づいても,妄想に基づいてもどちらでもよい
–  事について記述しても，物について記述してもよい
–  事前，事後（初期条件，境界条件）を記述
•  HAZOPであれば3つ以上の設計指針を使う
–  共用品設計(universal design)，形の設計指針，言語規約
(MISRA C, STARC RTL設計style guide）
–  HAZOPであれば誘導語の展開語一覧を配る(STAMP)
17/08/25
11
間違えに気づいても消さない（間違いと追記）
HAZOP3.0 safety & security ©
@kaizen_nagoya

手順詳細
•  １回を25分(最初の5分程度の説明を除く)
•  一人作業と班作業とに分ける。
– 9分：一人作業(各手法の資料・対象の写真図表)
– 9分：班作業
– 5分：全体報告(班の数が多ければ、手短に内容が伝
わる範囲で)
– 2分：休憩・場所異動
•  ３回繰り返す
2015年 7月 3日
(c)@kaizen_nagoya
12

4.3 班構成(1回目、２回目）
　
班その他 HAZOP STAMP
1
回
目
G１ P1 P2 P3
G２ P4 P5 P6
G３ P7 P8 P9
　班その他 HAZOP STAMP
2
回
目
G１ P6 P1 P8
G２ P9 P4 P2
G３ P3 P7 P5
2015年 7月 2日
(c)@kaizen_nagoya
13
1回目その他を担当した人は場所
そのままで次はHAZOP
1回目HAZOPを担当した人は場所
は後ろに下がってSTAMP
1回目STAMPを担当した人は場所
は前で次はその他

4.3.1 班構成(移動の仕方）
•  ３人で１班
•  ２回目
– 1人は場所を動かずに手法だけ変わる(橙色)
– 1人は場所を前に動き手法だけ変わる（青色）
– 1人は場所を後ろに動き手法だけ変わる（紫色）
•  3回目
– 二回目と同じ動きで手法は残り
•  全員が３つの手法を実施。
•  毎回異なる人と作業
2015年 7月 2日
(c)@kaizen_nagoya
14

4.3.2 班構成(3回目）
　
班その他 HAZOP STAMP
1
回
目
G１ P1 P2 P3
G２ P4 P5 P6
G３ P7 P8 P9
2
回
目
G１ P6 P1 P8
G２ P9 P4 P2
G３ P3 P7 P5
3
回
目
G１ P5 P9 P1
G２ P8 P3 P4
G３ P2 P6 P7
2015年 7月 2日
(c)@kaizen_nagoya
15
2回目HAOPを担当した人は場所そ
のままで次はSTAMP
2回目STMPを担当した人は場所は
後ろに下がってその為
2回目その他を担当した人は場所
は前で次はHAZOP

報告方法
•  班
– 量が少ない人から報告する
•  全体
– 各班から大事なこと１つを報告してもらう
– 前の班が報告したことは報告しない
– 3回の報告の出発位置をずらす
– 班の数が増えたら発表の言葉の数を減ら
してもらうと班の数が多くなっても時間はそ
れほど増えない
2015年 7月 3日
(c)@kaizen_nagoya
16

ここまでの知見
•  「過去トラ」と「なぜなぜ」だけでも、事故を防ぐこ
とはできるかもしれない。
•  「過去トラ」に「なぜなぜ」が結びついていれば、
再発防止ができるかもしれない
•  新しい手法は、新しい発見があれば有用
•  国際規格になっている手法(FAT,FMEA,HAZOP,
UML,国際単位系)だけでも網羅的な整理が可能
•  設計者・専門家の参加は必須
•  利用者視点は多元的に(高齢、障害、子供…)

2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 17

これまでの経験則
•  設計の全体が見渡せる
•  細部の構成要素を網羅できる
•  見落としがないようにするための手法の利用
– 網羅性
•  整理をして他の関係者に分かりやすくする手法
– 図示
2017年 9月 8日
(c)@kaizen_nagoya
用
18

2.1 対応設計指針
2.1.1 万能設計・共用品設計(universal design)[35]
2.1.2 高齢者・障害者設計指針[36]
2.1.3 子供の安全[37]
2.1.3 かたちの設計指針[37]
2.1.4 国際単位系[38]
2.1.5 より詳細な指針（論理回路・ソフトウェア）
　　TRIZ[42] => 2.2
2017年 9月 8日
(c)@kaizen_nagoya
19 安全分析におけるHAZOP-TRIZ連携の試み安全・安心分析のHAZOPによる統合的運
用

2.1.1 万能設計・共用品設計(Universal design)
20
7 Hazop
1.
2.
3.
4.
5.
6.
7.
安全分析におけるHAZOP-TRIZ連携の試み 2017年 9月 8日
(c)@kaizen_nagoya
用

2.1.2 高齢者・障害者設計指針（例）
•  ISO/IECガイド71 Guide for addressing accessibility in standards[68]
•  JISX8341-1　高齢者・障害者等配慮設計指針―情報通信における機器，
ソフトウェア及びサービス―第１部：共通指針[69]
•  JISX8341-2　高齢者・障害者等配慮設計指針－情報通信における機器，
ソフトウェア及びサービス－第２部：パーソナルコンピュータ[70]
ソフトウェア及びサービス－第３部：ウェブコンテンツ[71]
ソフトウェア及びサービス－第４部：電気通信機器[72]
ソフトウェア及びサービス－第５部：事務機器[73]
ソフトウェア及びサービス－第６部：対話ソフトウェア[74]
ソフトウェア及びサービス－第７部：アクセシビリティ設定[75]
2017年 9月 8日
(c)@kaizen_nagoya
用

2.1.3 子供の安全
•  ISO/IEC Guide 50:2014 Safety
aspects Guidelines for child
safety in standards and other
specifications
– Child: person aged under 14
years
<- World report on child injury
　　prevention, UNICEF, [77]
2017年 9月 8日
(c)@kaizen_nagoya
22
交通事故 22.3
水死 16.8
火事 9.1
転落 4.2
毒 3.9
殺人 5.8
自殺 4.4
戦争 2.3
その他 31.1
安全分析におけるHAZOP-TRIZ連携の試み安全・安心分析のHAZOPによる統合的運
用

2.1.4 形の設計指針
23 安全分析におけるHAZOP-TRIZ連携の試み 2017年 9月 8日
(c)@kaizen_nagoya
用

2.1.5  
国 
際 
単 
位 
系[38]
24 安全分析におけるHAZOP-TRIZ連携の試み 2017年 9月 8日
(c)@kaizen_nagoya
用

k
2017年 9月 8日
(c)@kaizen_nagoya
25
　　　　HAZOPのHAZOP

・HAZOPの資料を対象にHAZOPしました。

・JAXA/IPAのクリティカルソフトウェアワー
クショップの発表の時に作ったものです。

図表写真の割合をどのくらいにするとよい
かを検討しました。原則一頁に一つを家庭
しました。

・文書の遂行もHAZOPの対象によいことが
分かりました。安全・安心分析のHAZOPによる統合的運
用

2017年 9月 8日
(c)@kaizen_nagoya 26
HAZOP参加者の期待が:<事前：参加者>
誘
guide
word
外れ：逸脱(deviation) なぜ：原因(cause) どうする：対策(action)案
無 no
HAZOPに興味がない。hazop
の話を聞く気がない
資料，説明が分かりにくい。略号
(HAZOP[はぞっぷ]など)の読みが入っ
ていない。
掴みのネタを入れる。（この資料）分かり易い用語（言い
換え）を使う。具体的な例を図で示す。他の発表の関係
を述べる。略号一覧を入れる。
逆
rever
se HAZOPが嫌い。hazopの話へ
の攻撃する点を探そう
分かっている人がやっているから分か
るだけで，手法の善し悪しではないとい
う点がありそう
一人HAZOPをやってみればすぐに分かることを強調
他
other
than
HAZOPの話の時間に別のも
のが聞きたい
興味深い発表が多い資料だけ見ても役に立つ内容にする
大 more HAZOPへの期待が大きすぎ
る。
FTA, FMEAをやっていない場合にHA
ZOPがすばらしく見えるかもしれない
設計指針を3つ以上用いないと偏る可能性があることを
述べる。
小 less
HAZOPへの期待が小さい。
どうせ国際規格になるものは役に立た
ない
共通部分を纏めたものが規格。必要に応じた仕立て
(tailoring)または現地合わせ(fitting)が必要であり，仕立
て方の例として一人HAZOPを，現地合わせの方法として
参加者のお題を示す。
類
as
well
as
他事に興味がある。その時間
は他事をやろう
仕事の締め切り。突然の案件の発生。聞くと得することが匂うような雰囲気を醸し出す。
部
part
of
HAZOPの話の対称性のところ
だけ聞きたい
対称性を考えるだけでもいろいろなこと
が解決する。
誘導語，図(写真・動画・現物)，設計指針の3点で一人
HAZOPをしてみると分かる
早 early 資料を見たら分かったので話
は聞かない
１つのやり方で見れば分かる達人資料に，失敗しないための指針を示しておく
遅 late
HAZOPの資料を見ても何を
言っているのか分からないの
で聞く気がしない
事例，図に思い当たるものがない自分で体験してもらう。他の方法でもできるのなら，誘導
語は検査項目として利用するだけでもよい
前
befor
e
話を聞く前に理解しているつも
りになった
自分でやるつもりがない作業表を配って体験してもらう
後 after 聞いていないのに役に立たな
いと判断した。
他のやり方でもできることばかりと感じ
る
誘導語をFMEA, FTA, なぜなぜ分析，ブレインストーミン
グ等の他のやり方とと組み合わせてやってみてもらう
用

2017年 9月 8日
(c)@kaizen_nagoya
27
HAZOPの資料が（を）：＜事前：発表者，参加者＞
誘
guide
word
無 no 事前にあがっていない。
予稿集を買っていない。
資料，説明が分かりにくい。興
味がない。前日まで作成して
いてあげられず。過去の資料があることを関係者に知らせる
逆 reverse
過去のものはあったが
見ていない。　
過去の資料を見たり，ダウンロードしやすくす
る。
他
other
than
質がひどいので見る気
がしない
過去のセミナの焼き直し。機
密事項で明確に言えないこと
が多い。
HAZOPをしたことがない人に，毎回見てもらう。
大 more
1枚づつ印刷して大きす
ぎ。資料の量が多すぎ
る。複数の版がある。
いろいろな人を想定しすぎ。い
ろいろなことを入れたくなりす
ぎた。誘導語，図，設計指針の3点に絞る
小 less 文字が小さい。資料の
量が少なすぎる。
制御情報について分かってい
る人を想定して資料を作った
後日詳細資料を公開する
類
as well
as 資料が難し過ぎる。
専門家として仕事をしている
人を前提にしている。
人，物（製品），作業について区分して伝えるこ
とにより，１つの視点だけでも分かってもらう
部 part of 資料がhazopの一部だ
けしか説明していない
HAZOPの応用例が増えてき
た。
実際に作業してみると対象によってやることが
違うことを体験してもらう
早 early
話題の展開が飛び飛び
演習を想定した資料。間は作
業で埋めて欲しい。
作業表を配って体験してもらう(今回未実施)
遅 late
同じ事を諄く説明しすぎ
参加者が何がわかっていない
かをよく理解していない習うより慣れろを標題に入れる
前 before
結論が前の方すぎる
結論を早く伝えたい。実際にやってみなると納得できることを伝える
後 after
結論が後の方すぎる
論理展開が明確になったもの
だけを結論にしたい。
大切なことは3回繰り返す
用

2017年 9月 8日
(c)@kaizen_nagoya
28
HAZOPの発表が：＜最中：発表者＞
誘
guide
word
無 no
分からない
用語構造の違う分野の人が聞い
ている。略号の読みを知らない。
用語構造の類語辞書を作る。略号一覧に読み
を入れる。
逆 reverse 当たり前のことしか言っ
ていない過去のセミナの焼き直し
今回新たに付け加えたことを色・字形(font)を
変えて明確にする。
他
other
than
面白くない
何を一番伝えたいかで悩んでい
る
いいたいことを3つに絞る
大 more
説明の量が多すぎる
hazopを知らないさまざまな人を想
定しすぎ設計指針を3つ以上用いないと偏る可能性が
あることを述べる。
小 less
説明が少なすぎる
制御，情報について分かっている
人を想定している
図だけでもピンと来てもらえるようなものを入れ
る
類 as well as
説明が難し過ぎる
専門家として仕事をしている人を
前提にしている
人，物（製品），作業について区分して伝えるこ
とにより，１つの視点だけでも分かってもらう
部 part of
説明が一部だけ
一番詳しく説明したい部分に絞っ
た誘導語，図，設計指針の3点は省かない
早 early
説明が速過ぎる
いろいろなことを言いた過ぎる。
いいたいことを3つに絞る
遅 late
説明が遅過ぎる
用意した資料では分からないこと
に発表しながら気が付いた
作業表を配って体験してもらう
前 before 定義していない用語を
使った。
定義すべき用語が多過ぎる
カタカナ語は漢字の言葉に直してみる。漢字の
言葉は大和言葉に直してみる。
後 after 用語定義が後から出て
きた
用語定義が前にあるとうざい用語定義が最後にあることを最初に言う
用

2017年 9月 8日
(c)@kaizen_nagoya
29
HAZOP参加後の成果が：＜事後：参加者＞
誘
guide
word
無 no
何も分からなかった
資料，説明が分かりにくい。興味
がない。
事前に参考資料（プロセス改善ナビゲーショ
ンガイド，セーフウェア）を読む
逆 reverse
HAZOPの結果と事前に分
かっていることの関係を逆に
捉えられた
わかっている人がやっているから
分かるだけで，手法の善し悪しで
はないという印象を与えた
発表者の過去の論文，発表を見てもらい変
化を知らせる
他
other
than
説明のまずさだけが印象に
残った
発表者と興味の方向が違う一人HAZOPした結果を経験者に見てもらう
大 more たくさんのことを分かりすぎ
て何が要点だったか見失う
FTA, FMEAをやっているので
HAZOPで補うところがわかった
FTA, FMEA, HAZOPの比較表を作ってみる
小 less
役に立つ道具の１つであるこ
とは分かった。だからどうす
ればいいかが分からない
参加者の課題と手法の間のつな
ぎ方がピントこない
一人HAZOPした結果を経験者に見てもらう
類
as well
as
HAZOPでできないことまでで
きると誤解を与えた
利点を強調しすぎた異なる設計指針，単位に適用してみる
部 part of HAZOPの理解が一面的に
なった
説明の一部だけが当てはまる 3段階の利用（初期，設計，運用）を示す。
早 early ちょっと聞いただけで分かっ
たので別の部屋に行った
１つのやり方だけで分かったつも
りになる
資料に，失敗しないための指針を示しておく
遅 late いつまでも分からないので
怒れてきた
参加者の課題とどう噛み合うの
かが明確でない
一人HAZOPした結果を見せて，どうやったら
いいかわからないところを示す。
前 before 作業せずにわかったつもり
になった
自分でやるつもりがない一度やってみる。
後 after
作業してもわからなかった
他のやり方でもできると感じる自分より経験が少ない人と作業してみて，経
験がうまく伝わるか確かめてみる
用

A.2 略号一覧(1) •  @: at mark, twitter account
•  ©: copyright(著作権)
•  A: Answer, JIS土木及び建築部門記号, ampere(単位)
•  ATK2: Automotive Kernel Version 2
•  Ave: average(平均)
•  C: C language, JIS電気部門記号, coulomb（単位）
•  C++: C plus plus
•  CAD: Computer Aided Design
•  CAM: Computer Aided Manufacturing
•  CB: Certification Bodies(認証機関)
•  CASCO: Committee on Conformity Assessment(適合性評価委員会)
•  CERT （さーと）Computer Emergency Readiness Teams
•  CEST(せすと) Consortium for Embedded System Technology
•  D: Design(設計), JIS自動車部門記号
•  Dev: Deviation(偏差)
•  DNS: Domain Name Service(領域名奉仕)
•  DNV GL: Det Norske Veritas, Germanischer Lloyd
•  EOB: Extensible Optical Bench(伸展式光学台)
•  FMEA(えふえむいーえー) failure mode and effective analysis
•  FPGA: Field Programmable Gate Array
•  FTA（えふてぃーえー） fault tree analysis
2017年 9月 8日
(c)@kaizen_nagoya
30
用

A.2.1 略号一覧（2）
•  GCC: Gnu Compiler Collection, (牛氈鹿編纂集合)
•  GSN: Goal Structuring Notation(目標構造化記法）
•  GxP: Good x Practice(適正 x 基準)
•  HAZOP(はぞっぷ) hazard and operability study
•  HCD: Human Centered Design
•  HDL: Hardware Description Language
•  HRP: High Reliable system Profile
•  Html:hyper text markup language
•  http: Hyper Text Transfer Protocol
•  IEC(あいいいし）International Electrotechnical Commission
•  IECEE: IEC System of Conformity Assessment Schemes for
Electrotechnical Equipment and Components
•  IPA(あいぴーえ）Information-technology Promotion Agency, Japan
•  IS(あいえす)International Standard(国際規格)
•  ISBN: International Standard Book Number
•  ISO(あいえすお) International Organization for Standardization
•  ISSN: International Standard Serial Number
•  IT: Information Technology（情報技術）
•  IV&V: independent verification and validation
•  JARI(じゃり): Japan Automobile Research Institute（日本自動車研究所）
•  JAXA(じゃくさ）Japan Aerospace Exploration Agenc
•  JFA: Japan Football Association
•  JIS(じす）　Japan Industrial Stndards
2017年 9月 8日
(c)@kaizen_nagoya
31
用

A.2.2 略号一覧(3)
•  jp(じぇーぴー): Japan
•  JPAA: Japan Patent Attorneys Association(日本弁理士会)
•  JPEG: Joint Photographic Experts Group
•  JSA: Japan Standard Association（日本規格協会）
•  Kg: kilogram(単位)
•  LLVM: 由来：Low Level Virtual Machine, (低層仮装機機)
•  MISRA(みすら) Motor Industry Softwre Reliability Association
•  mm: millimetor(みりめーとる)
•  MPEG: Moving Picture Experts Group
•  NML（えぬえむえる）No, More, Less
•  NSSLC: 由来：Nippon Steal, Sumitomo Kinzoku, System Life Cycle
•  NTP:Network Time Protocol(網時間規約)
•  OS: Operating System
•  OSC(おーえすし)Open Source Conference
•  Promela: Process Meta Language
•  Q & A: question and answer
•  Q: question, JIS管理システム部門記号
•  RTL: Register Transfer Level（記憶転送水準）
•  SAP: Solar Array Paddle（太陽電池櫂)
•  SD: Sequential Design(逐次設計)
2017年 9月 8日
(c)@kaizen_nagoya
用

A.2.2 略号一覧(4)
•  SPIN: Simple Promela Interpreter
•  SSP: Smallest Set Profile（最小集合側面)
•  STAMP: Systems Theoretic Accident. Model and Processes
•  STARC: Semiconductor Technology Academic Research Center(半導体理工学研究
センター)
•  STT: Start Tracker(星姿勢計)
•  Sum: summary(合計)
•  SWEST(えすうぇすと)Summer Workshop on Embedded System Technologies
•  TBT: The Technical Barriers to Trade(貿易の技術的障害)
•  TOPPERS: Toyohashi Open Platform for Embedded Real-time System
•  TQM: Total Quality Management(総合的品質管理)
•  TRIZ（とりーず）Teoriya Resheniya Izobretatelskikh Zadatch (露), Theory of inventive
problems solving(英)
•  TS: Technical Specification（技術仕様）
•  UML: Unified Modeling Language
•  Unicef: United Nations Children's Fund
•  url: Uniform Resource Locator
•  USIT: Unified Structured Inventive Thinking(統合的構造化発明思考法)
•  WCSQ: World congress for software quality (世界算譜品質会議)
•  WOCS(うぉっくす): Workshop on critical software systems
•  WTO: World Trade Organization(世界貿易機構)
•  www: world wide web
•  X: 論理回路不定値, JIS情報処理部門記号
•  Z:論理回路ハイインピーダンス, JIS その他部門記号(適合確認を含む)
•  フリマ: free market
•  知財：知識財産(知的所有権)
2017年 9月 8日
(c)@kaizen_nagoya 33 安全分析におけるHAZOP-TRIZ連携の試み安全・安心分析のHAZOPによる統合的運
用

A.3 参考文献(1/10) [1] 始める前に, 小川清,岐阜大学, 2016, https://www.slideshare.net/
kaizenjapan/before-study-gifu-university-2016
[2] HAZOP, FTA and FMEA for risk assessment, 安全工学シンポジウム,
小川明秀, 小川清, 2015, https://www.slideshare.net/kaizenjapan/hazopogawa2015
[3] An application on Hazard and operability Study for digital system,
Ogawa Kiyoshi, 5th World Congress for Software Quality, 上海, 2011
[4] 自動車制御用プラットフォームの機能安全対応,竹内舞, 水野智仁,
森川聡久, 小川清, 斉藤直希, 渡部謹二, 安全工学シンポジウム, 2010
[5] 自動車安全, https://researchmap.jp/jorwtr60m-51292/#_51292
[6] 安全に貢献するソフトウェア関連国際規格,水野智仁, 森川聡久, 小
川清, 斉藤直希, 渡部謹二, 堀武司, 安全工学シンポジウム, 2009
[7] ISO/IEC Guide 50:2014 Safety aspects - Guidelines for child safety in
standards and other specifications子供むけ安全ガイド(JIS未発行)
[8]ISO/IEC Guide 51:2014 Safety aspects - Guidelines for their inclusion
in standards安全ガイド(JIS Z 8051：2015)
2017年 9月 8日
(c)@kaizen_nagoya
34 安全分析におけるHAZOP-TRIZ連携の試み
用

A.3.1 参考文献(2/10)
[9] IEC 61160:2005 Design review, 設計審査, IEC 2005
[10] IEC61025 FTA: Fault tree analysis 故障木解析, IEC, 2006
[11] IEC60812 FMEA: failure mode and effectiveness analysis システム
信頼性の分析技法失敗状態と効果解析 (FMEA), IEC, 2006
[12] IEC 61882 Hazop: hazard analysis and operability study, IEC , 2016
[13] 機械安全　ISO 12100:2010 Safety of machinery General principles
for design - Risk assessment and risk reduction (JIS B 9700：2013)等　
[14] 電気安全　EC 60065:2014 Audio, video and similar electronic
apparatus - Safety requirements (JIS C 6065:2016)等
[15] 機能安全　EC 61508-1:2010 Functional safety of electrical/
electronic/programmable electronic safety-related systems - Part 1:
General requirements (JIS C 0508:2012)等
[16] JIS Q 31010：2012 (IEC/ISO 31010：2009)リスクマネジメント−リスク
アセスメント技法
[17] HAZOP手法の応用と展開, 小川清, 渡部謹二, 斉藤直希, 電気関
係学会東海支部連合大会,2010

2017年 9月 8日
(c)@kaizen_nagoya
用

A.3.2 参考文献(3/10)
[18] HAZOP手法の展開, 小川清, 斉藤直希, 渡部謹二, 安全工学シン
ポジウム, 2010
[19]実践HAZOP演習,小川清, SWEST2010(組込みシステム技術に関す
るサマーワークショップ, 2010
[20] 安全関連系の設計のためのHAZOPの展開,小川清, 斉藤直希, 渡
部謹二, 安全工学シンポジウム, 2011
[21] プロセス改善ナビゲーションガイド〜ベストプラクティス編, １０事
例のうちの一つがJAXAのIV&V(独立検証)IPA, http://www.ipa. go.jpか
らダウンロード可。
[22] 金融情報システムへのHAZOP手法の適用, 益田美貴, 高野研一,
安全工学/安全工学会,49(2) (通号 275) 2010,ページ104～114, ISSN
0570-4480
[23] 術合併症に対する危険源分析 Hazard and Operability Study
(HAZOP Study)の経験:人工股関節置換術における神経合併症を対象
として, 大川淳, 野村徹, 高橋誠,医療の質・安全学会誌,医療の質・安
全学会, 7(3):2012, 235-238, ISSN 1881-3658
[24]実践HAZOP演習(2),小川清, SWEST2011(組込みシステム技術に関
2017年 9月 8日
(c)@kaizen_nagoya
36
安全分析におけるHAZOP-TRIZ連携の試み
用

A.3.3 参考文献(4/10)
[23] HAZOPによるTOPPERS/sspの分析,小川清,クリティカルソフトウェア
ワークショップ, 2011
[24] 1人HAZOPを組み合わせた効率的な分析作業, 小川清, クリティカ
ルソフトウェアワークショップ, 2011
[25] 状態遷移図に着目した安全要求分析手法, 金周慧, 第8回WOCS,
JAXA/IPA, 2011
[26] 安全分析,状態記述と形式手法に着目した安全教育とスキル,堀
武司, 小川清, 斉藤直希, 渡部謹二, 森川聡久, 服部博行,安全工学シ
ンポジウム, 2009
[27] HAZOPと関連手法の展開,小川清, 名古屋市工業研究所,安全工
学シンポジウム, 2013
[28] ISO 26262におけるソフトウェア安全解析の検討, 山本輝俊,
WOCS 2012, 2012
[29] TOPPERS第三世代カーネル統合仕様書, http://
www.toppers.jp/docs/tech/tgki_spec-300.pdf,.2016
[30] 端末間経路選択のための片方向遅延測定方,小川清, 静岡大学
博士論文, 2005
2017年 9月 8日
(c)@kaizen_nagoya
37 安全分析におけるHAZOP-TRIZ連携の試み
用

A.3.4 参考文献(5/10)
[31] 名古屋新設ガスホルダーの運転開始について, 新日鉄,2004
[32]システムが安全とは何か考える, トヨタ急加速問題のNASA分析を
題材にして,間瀬順一, SWEST13, http://swest.toppers.jp/SWEST13/
slide/swest13-S3-b.pdf, 2011
[33] 福島原子力発電所事故調査報告書一覧, https://
researchmap.jp/johyczndy-48418/ ,2015
[34] X線天文衛星ASTRO-H「ひとみ」異常事象調査報告書一覧,
http://researchmap.jp/jocqvl9km-50024/, 2016
[35]万能設計, 機能安全とHCD(human centered design) , http://
www.slideshare.net/kaizenjapan/hcdhuman-centered-design, 2013
[36]高齢者・障害者設計指針, https://researchmap.jp/
jorv9lpca-2024324/, 2015
[37] かたちの設計指針,機能安全とHCD(human centered design) , 小
川清, 2013
[38] 国際単位系, ISO 80000-1:2009 Quantities and units Part1: General
[39] ]ソフトウェアFMEA を体系的に実施する出発点としてのMISRA-C,
森川聡久, 小川清,WOCS 2014, 2014 2017年 9月 8日
(c)@kaizen_nagoya 38
用

A.3.5 参考文献(6/10) [40] CERT C bibliography, Ogawa kiyoshi, https://www.securecoding.cert.org/
confluence/display/c/AA.+Bibliography, 2017
[41] STARC RTL設計スタイルガイドを「こう使おう」 Verilog-HDL版 VER4.0
2011年版改定に対応, 小川清, http://www.slideshare.net/kaizenjapan/how-
to-use-starc-rtl-design-style-guide-veriloghdl-2011-version, 2015
[42]トリーズ(TRIZ)の発明原理40 あらゆる問題解決に使える[科学的]思考支
援ツール,高木芳徳,ディスカヴァー・トゥエンティワン, 2014
[43] より効率的なHAZOP TRIZ を利用した設計変更への対応, 小川清, 安全
工学シンポ, 2012
[44] TRIZ ホームページ,中川徹, http://www.osaka-gu.ac.jp/php/nakagawa/TRIZ/
[45] ちょけねこたんじょうびのおくりもの,ちょけむさ,pritemps, 2015
[46] 大切におもうこと,日本サッカー協会Respectプロジェクト教材
http://www.jfa.or.jp/respect/, 2015
[47] 安全なシステム構築のためのソフトウェア技術者に必要なスキル,小川
清,技術融合化シンポジウム技術講演会,2007
[48] ETSSを利用した機能安全対応スキル判定と教育訓練,小川清, 渡部謹二, 斉藤
直希, 堀武司, 奥田篤, 水口大知, 吉岡律夫, 渡辺登,安全工学シンポジウム,2008

2017年 9月 8日
(c)@kaizen_nagoya
39
用

A.3.6 参考文献(7/10)
[49] MISRA-C++とCERT C++ による安全・安心システムへの貢献 STARC
RTL設計スタイルガイドとHAZOPを使って, 小川清, 安全工学シンポジウ
ム, 日本学術会議, http://www.slideshare.net/kaizenjapan/misra-cpp-
cert-cpp-2016-with-rtl-design-style-guide,2016
[50] うずく，まる (新鋭短歌シリーズ)中家菜津子,書肆侃侃, 2015
[51] HAZOPによる　歌集「うずく，まる」中家菜津子の鑑賞・分析 http://
researchmap.jp/joxuvn2vg-2033461/#_2033461, 2015
[52]歌集「うずく，まる」中家菜津子手帖7弾, TRIZによる短歌鑑賞,　
http://researchmap.jp/joquzbdx5-2033461/#_2033461, 2015
[53] 歌集計画者の一日　言譜篇・算譜篇, @kaizen_nagoya, pritemps,
2015
[54] 歌集　味噌が好き・題詠百, @kaizen,nagoya, pritemps, 2016
[55] 英語複文の構文解析と編集，その論理と方法,加藤輝政，小川
清, 佐良木昌, 電子情報通信学会・言語理解とコミュニケーション研究
会, 1997
[56] サーチャー試験傾向と対策―データベース検索技術者認定試験
1級・2級,小川清,安藤彰敏,日外アソシエーツ・紀伊国屋書店,1993

2017年 9月 8日
(c)@kaizen_nagoya
用

A.3.7 参考文献(8/10) 2017年 9月 8日
(c)@kaizen_nagoya
41
[57] パネルディスカッション：安全なソフトウェアをつくるためにやるべきこと,
Nancy Leveson,小川清,白坂成功,西康晴,片平真史,第6回クリティカルソフトウェ
アワークショップ,2006
[58] 製品設計におけるFTAとその支援システムの開発 Fault Tree Analysis支援
システムの実用性評価及び今後の発展性, 平岡洋二, WOCS 2012
[59] ENGINEERING A SAFER WORLD Systems,
Thinking Applied to Safety, Nancy G. Leveson, 2012
https://mitpress.mit.edu/books/engineering-safer-world
[60] CARDION: 概念段階におけるハザード・脅威の抽出手法, (株)ニルソフト
ウェア, 伊藤昌夫, JAXA/IPA 12th WOCS, 2014
[61] システムアプローチによる機能安全への対応,dSPACE Japan(株),藤倉俊幸,
自動車機能安全カンファレンス,JARI, 2015
[62] ふれふれぼうず<降誕祭版>, ©小川萌, 2009
[63] 安全関連システムのためのOSの検討,斉藤直希, 堀武司, 小川清,安全工学
シンポジウム,2009
[64] 秘密保持契約書サンプル版の紹介, 大島厚,不正競争防止法委員会副委
員長, p.53, Vol.59 No.3パテント, 2006, http://www.jpaa.or.jp/activity/publication/
patent/patent-library/patent-lib/200603/jpaapatent200603_053-056.pdf
用

A.3.8 参考文献(9/10) 2017年 9月 8日
(c)@kaizen_nagoya
42
[66] UML tools, Model Checkingを適用した実践的非同期制御検証, Go with the Early Bird,富士ゼロック
ス株式会社オフィスプロダクト事業本部コントローラソフトウェア開発部,村石理恵/服部彰宏/野村秀樹/
山本訓稔,2007, http://jasst.jp/archives/jasst07e/pdf/D2-3.pdf
[67] spin, ModelChecking技術の専門性の排除とその効用,富士ゼロックス株式会社オフィスプロダクト事
業本部コントローラソフトウェア開発部,野村秀樹/服部彰宏/村石理恵/山本訓稔, 2008, http://
www.jasst.jp/archives/jasst08e/pdf/B4-2.pdf
[68] ISO/IEC Guide 71, Guide for addressing accessibility in standards, 2014
[69] JISX8341-1　高齢者・障害者等配慮設計指針―情報通信における機器，ソフトウェア及びサービス―
第１部：共通指針
[71] JISX8341-2　高齢者・障害者等配慮設計指針－情報通信における機器，ソフトウェア及びサービス－
第２部：パーソナルコンピュータ
第３部：ウェブコンテンツ
第４部：電気通信機器
第５部：事務機器
第６部：対話ソフトウェア
第７部：アクセシビリティ設定
[77] World report on child injury prevention, UNICEF,2008 ISBN 978 92 4 156357 4
[78] 中小企業大学校デザイナ指導者養成講座, 1995
[79] 応用昆虫学の基礎,中筋房夫,朝倉書店, 2000

用

A.3.9 参考文献(10/10) 2017年 9月 8日
(c)@kaizen_nagoya
43
[80] System C 動作合成スタイルガイド, エッチ・ディー・ラボ, 2007
[81] ISO/IEC TS 17961, Information technology -- Programming languages, their environments and system
software interfaces -- C secure coding rules, 2013
[83] 科学分類, 小川清,SWEST, 2016,https://www.slideshare.net/kaizenjapan/ss-65852140
[84] USIT,連載: USIT入門: 創造的な問題解決のやさしい方法,中川徹,2007
[85] WTO/TBT協定,1995, https://www.jisc.go.jp/cooperation/wto-tbt-guide.html
[86] ISO/IEC Directives part1, Procedures for the technical work, 2016
[87] ISO/IEC directives part2, Rules for the structure and drafting of International. Standards, 2016
[88] JIS 部門記号, http://www.jisc.go.jp/jis-act/index.html
[89] GxP, http://www.fxis.co.jp/lifesciencesquare/law/
[90] Linux, ISO/IEC 23360-1:2006 Linux Standard Base (LSB) core specification 3.1 -- Part 1: Generic
specification
[91] Android, https://source.android.com/
[93] MISRA-C++とCERT C++ による安全・安心システムへの貢献 STARC RTL設計スタイルガイドとHAZOP,
小川清, 安全工学シンポジウム, 2016
[94] Space Wire
[95] GCC
[96] LLVM
[97] HAZOPの最初の頃のプレゼン
[98] 組み込み中核人材
[99]　津波を含んだプレゼン
[100]　故意を含むプレゼン

用

A.4 作業表置き場
•  Hazop作業表は
http://researchmap.jp/kaizen/HAZOP(は
ぞっぷ)/
に置いています。
•  この資料で提示したものは
https://researchmap.jp/jolcozn8h-51292/
•  researchmap.jpは月に１日以
上休止しているかも。
•  予備を別の場所に検討中
2017年 9月 8日
(c)@kaizen_nagoya 44 安全分析におけるHAZOP-TRIZ連携の試み安全・安心分析のHAZOPによる統合的運
用

A.5 用語構造
•  視点によって見えるものが違う[55]
•  分野・立場によって用語定義が違う[56]
– 場合によっては言葉の包含関係が逆転する
– 例：システム＞ソフト，ソフト＞システム
•  システムごとに用語の構造辞書を作ると良い
•  略号はフルスペル一覧
•  参考文献一覧は入手可能かどうか，最新版
への履歴
2017年 9月 8日
(c)@kaizen_nagoya
用

A.6.視点の違いによる誤解[97]
n  視点１ではBはAの部分集合
n  視点２ではAはBの部分集合
n  誤解：自分は正しく相手が間違い
221 2017年 9月 8日
(c)@kaizen_nagoya
用

A.6.1 辞書 (thesaurus)
安全規格
・ISO/IEC Guide 50(JIS無)
・ISO/IEC Guide 51(JIS )
分析手法
・なぜなぜ分析
・CARDION
・STAMP
・FMEA, IEC 60812
・FTA, IEC 61025
・HAZOP, IEC 61882
・・分析対象
・・・部品
・・・・ソフトウェア
・・・自然・社会現象
・・・教育
・・設計指針
・・・共用品設計（万能設計）
・・・形の設計指針
・・・言語規約
・・・・MISRA C/C++, CERT C/ C++
・・・・ RTL設計スタイルガイド
・・・TIRZ
2017年 9月 8日
(c)@kaizen_nagoya
47
・誘導語(guide word)
・・存在(exist)
・・・無(no)
・・方向(direction)
・・・逆(reverse)
・・・他(other than)
・・量(quantity)
・・・大(more)
・・・小(less)
・・質(quality)
・・・類(as well as)
・・・部(part of)
・・時刻(time)
・・・早(early)
・・・遅(late)
・・順番(sequence)
・・・前(before)
・・・後(after)
作業
・一人作業
・班作業
・・班報告
・全体報告
作業分類
・構想(concept)
・設計(design)
・製造(produce)
・出荷(release)
・運用(operation)
国際規格(IS)
・ISO
・・ISO 26262
・IEC
・・60812 FMEA
・・61025 FTA
・・61882 HAZO
・ISO/IEC
・・ISO/IEC 15504
・・・ISO/IEC 33001
国内規格(JIS)
・JIS部門記号*1
GxP*2
組織
・JAXA
・IPA
・・IPA/SEC
・JARI
・学術団体
・・日本学術会議
・・・電気関係学会
・・SWEST実行委
・・WOCS
・内部組織
・・設計部門
・・利用・運用部門
・・間接部門
・取引先
・・仕入先
・・納入先
・・外部委託
教育
・６歳
・１２歳
・１８歳
制約
・初期条件(initial
condition)
・境界条件
・終了条件
・不変条件

用

6.2 GxP: Good x Practice（適正x基準） [89]
名称対象法令
GMP(Good
Manufacturing
Practice)
医薬品・医薬部外品
医薬品及び医薬部外品の製造管
理及び品質管理の基準に関する
省令
QMS(Quality
Management System)
医療機器・体外診断用医薬品
医療機器及び体外診断用医薬品
の製造管理及び品質管理の基準
に関する省令
GCP(Good Clinical
Practice )
医薬品の臨床試験
医薬品の臨床試験の実施の基準
に関する省令
医療機器の臨床試験
医療機器の臨床試験の実施の基
準に関する省令
GLP(Good Laboratory
Practice)
医薬品の非臨床試験
医薬品の安全性に関する非臨床
試験の実施の基準に関する省令
医療機器の非臨床試験
医薬品、医薬部外品、化粧品及び
医療機器の品質管理の基準に関
する省令
GQP(Good Quality
Practice)
医療機器
医療機器の品質管理の基準に関
する省令
GVP(Good Vigilance
Practice)
医療機器
医療機器の製造販売後安全管理
の基準に関する省令
2017年 9月 8日
(c)@kaizen_nagoya
48
用

A.7 振り返り
•  わかったこと
– 説明なしに作業しないと想定外は洗い出せない
•  わかってないこと
– １０歳未満の子供に手伝ってもらう方法
•  よかったこと
– 参加者の多くが自分で考えて対応してもらえた
•  改善する予定の項目
– 参加者の経験、能力に応じた班編成
2017年 9月 8日
(c)@kaizen_nagoya
49

A.8 謝辞 2017年 9月 8日
(c)@kaizen_nagoya
50
経済産業省,宇宙航空研究開発機構(JAXA), (株）日本機能
安全,名古屋大学,名古屋工業大学,岐阜大学,(株)ヴィッツ,
東海ソフト(株),サニー技研(株),アイシン精機(株),トヨタ自動
車,(株)ルネサスエレクトロニクス(株),(株)東海理化,(株)アド
ヴィックス,新日鉄住金ソリューションズ(株),(株)デンソーク
リエイト,みずほ情報総研(株),産業総合研究所,北海道立工
業試験場,CEST,日本技術士会,日本テクノセンター，MISRA
C研究会, SWEST実行委員会, TOPPERSプロジェクト, OSC事
務局, 大垣mini maker fair事務局, 文学フリマ事務局
用

A.8.1 謝辞(個人)
•  DNV GL　　　　　　　　　　　　　　　　　　川原　卓也様
•  大阪学院大学　　　　　　　　　　　　　　中川　　徹様
•  ものづくり.com　　　　　　　　　　　　　　熊坂治様
•  歌人・詩人　　　　　　　　　　　　　　　中家菜津子様
•  日本技術士会中部航空部会　　　　　田島　暎久様
•  日本技術士会情報工学部会　　　　加納幸博様
•  NSSLCサービス株式会社　　　　　　北野　敏明様
•  株式会社豊田自動織機　　　　　　　　　福田　仁志様
•  三菱電機株式会社　　　　　　　　　　　近藤聖久様
•  株式会社NSD 　　　　　　　　　　　　　　村上　　孝　様
•  株式会社アトリエ　　　　　　　　　　　　水口　大知様
•  みずほ情報総研株式会社　　　　　　尾形　俊彦様
•  株式会社デンソークリエイト　　　　　　竹村　恵里様
•  　　　　〃　　　　　　　　　　　　　　　　　　柏原　一雄様
•  株式会社アドヴィックス　　　　　　　　　河野　文昭様
•  名古屋市工業研究所　　　　　　　　　　斉藤　直希様
2017年 9月 8日
(c)@kaizen_nagoya
51
用

A.9 文書履歴
•  2006, ver 0.1 Hazop First Presentation
•  2010, ver 1.0 Safety Engineering Symposium,Japan
•  2011, ver 2.0 World Software Quality Congress
•  2015, ver 3.0 Safety Engineering Symposium, Japan,
2015.7.2
–  Ver3.1g 2015.7.14 rearranged slides.
http://www.slideshare.net/kaizenjapan/hazopogawa2015
•  2016, ver3.2 for child , Safety Engineering Symposium
Japan, 2016.7.8
–  ver3.2Q, 2017.2.19, add references. http://
www.slideshare.net/kaizenjapan/safety-analysis-with-
hazop-and-triz-by-children
2017年 9月 8日
(c)@kaizen_nagoya
用

Hint of combination of Safety Analysis method (stamp/stpa and haze)

Recommended

Recommended

More Related Content

What's hot

What's hot (8)

More from Kiyoshi Ogawa

More from Kiyoshi Ogawa (20)

Hint of combination of Safety Analysis method (stamp/stpa and haze)