6. サイバネティクスの予⾔者 - Fall of the machines
「完全な従属と完全な知能とは両⽴しません」
サイバネティクスの⽗は、マシンの上昇は時間の問題でしかないことに疑いを
抱いていなかった。
「マシンがどんどん効率的になり、⼼理学的に⾼い⽔準で動作するよう
になれば、マシンによる⽀配という破局が近づきます」
サイバネティクス全史、トマス・リッド、松浦俊輔、作品社
ノーバート・ウィナー
Norbert Wiener
1894-1964 - Wikipedia
“Complete subservience and complete intelligence do not go
together.”The father of cybernetics had no doubt that the rise of the
machines was only a question of time: If the machines become more
and more efficient and operate at a higher and higher psychological
level, the catastrophe of the dominance of the machine comes
nearer and nearer.
Rid, Thomas. Rise of the Machines: A Cybernetic History, W. W.
Norton & Company.
8. Operational AI – AIとの「コミュ⼒」
オペレーター⾃⾝の⼈間としての⾏為主体性は、ただアルゴリズ
ムの⾔葉を翻訳するだけのものに成り下がっていた。システムを
信頼するあまり、オペレーターは落胆した様⼦のヘミングスに
「これを無視することはできないんです。指令室としては、救急
医療隊員に意⾒を聞くことはできますが、システムが間違った答
えを出すことは考えかねます」とまでいっている。
WE ARE DATA アルゴリズムが「私」を決める
ジョン・チェニー=リッポルド(著)/⾼取芳彦(訳)/武⾢光裕(解説)
The operatorʼs own human agency was demoted to mere algorithmic translation. Her
confidence in the system was such that she even told a deflated Hemmings, “We cannot
override this, and although there are paramedics in the control room for us to ask, I would
not think the system would come up with the wrong answer.”
Cheney-Lippold, John. We Are Data . NYU Press.