NBIC：否定される「テクノで人類滅亡のリスク」

NBICレポート第一章の8つの論文のうち、
NSF（米国科学財団）のMihail C. Roco 氏の講演の中で目に付いた
興味深い箇所について。

RocoはNSFの中でも米国科学技術会議のナノ関連サブ委員会の委員長、
財団と商務省が主催した2001年のNBICワークショップの中心人物でもあります。

NBICテクノロジーの統合によって
人類のパフォーマンスが劇的に強化・改善され、
現在は不可能な夢のようなことが可能となるのだという、
このワークショップが夢を描く未来に対して、

逆にそうしたテクノロジーのリスクを指摘する声もあるとして、
Roco氏が挙げているのがBill JoyというITの企業家。

Bill Joy はワークショップの前年の2000年に
Why the future doesn’t need us. という論文を発表し、
それだけ強力なテクノロジーには、またそれだけ大きな事故と濫用のリスクがある、
特にKurtzweilが提唱しているような、
人間をコンピューターと繋いで意思を持ち思考するロボットを作る技術のリスクは原爆をはるかに超える、
人間がそうしたロボットをコントロールし続けられる保証などない、
と警告しました。

Rocoはナノ科学と工学のポテンシャルについて語った講演の後半で
こうしたテクノロジーに伴うリスクについても
「長期的な利益と落とし穴の可能性を総合的に評価しなければならない」と述べ、
次いで「ナノ科学と工学は新たな生命体を生み、その生命体が人類を滅ぼす」との
Bill Joyの説を紹介しています。

ところが「リスクも検討しなければ」と自分で言った先から
Rocoは即座に「しかし、我々が思うに……」とJoyの指摘を却下するのです。

その理由がふるっていて、
Joyの描くシナリオのいくつかは単なる推測であり、
立証されていない仮説に過ぎない、というもの。

いや、しかし、それをいうなら、
あなた方の描く「身体も頭も思い通りになるバラ色の未来」こそ、
単なる推測と立証されていない仮説と、
見たいものだけを見て見たくないものに目をつぶることによって
成り立っているシナリオなのでは──？

　　　　　　　　　　―――――――

もう1つ、ついでに、
トランスヒューマニズムの元祖のような人物
Oxford大学のNick Bostrumが2001年に
Existential Risks（実存的リスク？）という論文（2002年に改定）で
これら新興テクノロジーに伴う人類滅亡リスクのシナリオを
Bill Joyよりもはるかに詳細に分析しています。

このNBICワークショップと同じ年ですが、
RocoがBill Joyにしか触れていないことを考えると
Bostrumの論文の方が後だったのかもしれません。

この論文はAshley事件を追いかけ始めた頃に見つけたのですが、
当時はこの論文の持つ意味がよく分かりませんでした。
その後、トランスヒューマニストらの考えについて少し分かってくるにつれて、
一度まともに読みたいと思いながら、まだ手がついていません。

最初の辺りにざっと目を通した感じでは、
地球温暖化や経済システムの破綻、人心の荒廃など、
現在すでに起こっている現象が想定されていたようでもあり
それだけにリアリティのあるシナリオが並んでいるのが不気味です。