All products are independently selected by our editors. If you buy something, we may earn an affiliate commission.
1798年発表の『人口論』のなかで、トマス・マルサスは「世界の人口の伸びは食糧生産の伸びを上回るため、やがて世界規模の飢饉や大量餓死が起こるだろう」と予測した。この予測はいまのところまだ現実にはなっていない。
だが、世界資源研究所（WRI）による2018年の報告書によると、人口増加による需要増をまかなうには、2050年までに現在よりも56パーセント多くエネルギー（カロリー）を生み出さなくてはならないという。
マルサスが予測した大惨事を防いだのは農業技術の進歩だったが、そのなかには土壌浸食をもたらすものや気候変動の要因となるものがあり、それがひいては干ばつなどの難題を農業生産者に突きつけることになった。気候変動の危機をいま以上に深刻にすることなく、世界の食糧をまかなうには、新たな技術的ブレイクスルーが求められるのだ。
このシチュエーションは、新しいテクノロジーのプラス面とマイナス面を描いている。人類がひとつの問題を解決すると、その解決策が意図せぬ副作用をもち、新たな問題を生み出すのだ。これまでのところ、文明は重大な問題が起こる一歩手前で踏みとどまっているが、哲学者のニック・ボストロムはわれわれが常に幸運である保証はないと懸念を示している。
ボストロムの名をどこかで聞いたことがあるとすれば、彼が2003年に発表したシミュレーション仮説に関する論文でだろう。この論文は映画『マトリックス』とともに、「人間はみなコンピューターのシミュレーションの中に住んでいるのか」という議論を学生寮の人気トピックスにした。テスラの最高経営責任者（CEO）であるイーロン・マスクも、この説について複数のインタヴューで触れている。
しかし、05年にオックスフォード大学の「人類の未来研究所（The Future of Humanity Institute）」所長に就任したボストロムは、人類の存亡に関わるリスクの予測という予断を許さない分野に軸足を移した。2014年発表の著書『スーパーインテリジェンス 超絶AIと人類の命運』（日本経済新聞出版社）のなかで、ボストロムは人工知能（AI）の危険性について警告している。
最新の論文「The Vulnerable World Hypothesis（脆弱世界仮説）」ではさらに視野を広げ、テクノロジーが文明を破壊しかねない負の側面をもつこと、そして人類はどうすればその運命を避けられるかを書きつづった。
彼が描くこうした全体主義的な未来像は、なぜ治療が病気よりも悪い結果をもたらしうるのかを示している。
文明を破滅に導く「黒いボール」
──「脆弱世界仮説」とは、どんな考え方でしょうか。
人類の創造の歴史は、巨大な壷からボールを取り出す過程として描くことができる、という考え方です。
ボールは人類の歴史において発見されたさまざまなアイデアやテクノロジー、手法を表しています。現在までに、われわれは実に多くのボールを取り出してきましたが、その大部分は人類に利益をもたらす白いボール、あるいは利害が同居したさまざまなトーンの灰色のボールでした。
人類がまだ見ていないのは、黒いボールです。テクノロジーのなかには、それを発見した文明を破壊するように初期設定されているものがあります。脆弱世界仮説は、壺の中にいくつか黒いボールが入っている、つまり初期設定の段階で文明を滅ぼしうるテクノロジーがあるという考え方です。
──「黒いボール」の例を挙げていただけますか。
われわれはいずれ、合成生物学を使って大量破壊兵器をつくり出す能力を民主化するでしょう。しかし、生物科学の分野には原子物理学や原子核工学にみられるようなセキュリティ意識・文化がありません。
広島への原子爆弾の投下後、核科学者は自分たちが手がけていることがふざけ半分のいたずらではないこと、自分たちには監視の目とより広い意味での責任が求められることに気づきました。「マンハッタン計画」に関与した物理学者の多くが、のちに核軍縮運動などに積極的に参加しています。しかし、生物科学界には同様のものはありません。だから、これは黒いボールが現れるかもしれない分野なのです。
──アリス・ブラッドリー・シェルドン（ペンネームはジェイムズ・ティプトリー・ジュニア）が1969年に短篇SF小説『エイン博士の最後の飛行』を発表して以来、自滅的な一匹狼が抗生物質の効かない「スーパー耐性菌」を使って世界を滅ぼすかもしれないという懸念はありました［編注：『エイン博士の最後の飛行』は、地球と自然を愛する生物学者のエイン博士が飛行機で世界を移動しながら、人類を滅ぼすウイルスをばらまくというストーリー］。あなたの論文で新しいのはどんなところでしょうか？
この仮説は、そこらにあるビッグアイデアを具体化するものでした。さまざまな脆弱性に目を向けてもらいたかったのです。
いま可能性のひとつとして考えられるのは、物を破壊するのが簡単になりすぎていているがゆえに、世界が悪者に破壊されてしまうシナリオです。わたしはこれを「お手軽核攻撃（easy nukes）」と呼んでいます。
あるいは、悪者にとってのインセンティヴがテクノロジーによって変わる、という一見すると気づきにくいパターンもありますね。たとえば「安全のための先制攻撃シナリオ」です。これは「先にやらなければやられる」というリスクに後押しされ、国家のような強力な存在が破壊的行為の実行に興味をもつケースです。
「悪化版地球温暖化」というシナリオもあります。大きな力をもたない個々のアクターが何らかの動機を与えられ、文明を害する行動をとる場合です。個々の力はとるに足りないものの、膨大な数が合わさることで文明に甚大な被害をもたらします。いまのところ、牛と化石燃料は灰色のボールのようですが、将来は黒いボールに変わる可能性もあります。
この論文は、こうしたリスクをより体系的に考える方法について言及しています。また、賛否の分かれる種々のリスク管理アプローチを分類しています。そして、壺とボールにたとえて表現することで、予測が困難なさまざまな可能性について簡単に注意を促しているのです。
研究が何につながるかは予測しにくい
──しかし、テクノロジーの進歩は、壺からボールを取り出すほど無作為なものではありませんよね。政府や大学、企業、その他の機関がどのような研究に資金を供給するかを決定できますし、それぞれの研究はそれ以前の研究を土台に進められているからです。研究が無作為に結果を生み出すわけではありません。
仮に研究で、あなたが求めていた結果が得られたとしましょう。でも、その結果を足がかりにして次にどんな結果が得られるか、どんな発見がなされるか、この新しい情報やテクノロジーについてどんな使い方が考え出されるかは予測が難しいところです。
わたしはこの論文で歴史上の例として、物理学者が原子を分裂させられることに気づき、レオ・シラードが核連鎖反応に思い至り、やがて核爆弾の製造にたどりついたときのことを挙げています。現在では、核爆発には希少で扱いにくい物質が必要であることがわかっています。この難しい条件は幸運だったと言えるでしょう。
われわれは人類を滅ぼすような核戦争は避けてきましたが、そこにもかなりの幸運がかかわっていたように思えます。冷戦時代の公文書を調べると、何度もぎりぎりの状態まで突き進んでいたことがわかります。過去に少しでも運に見放されていたなら、あるいは未来に別の冷戦や核軍拡競争が起きるなら、原子力テクノロジーは黒いボールだったと知ることになるでしょう。
壺の比喩をもっと現実に近いものにするなら、壺を筒状にして口に近いボールから順に取り出していくイメージにもできます。あるいは、いくつかのボールはひもでつながっていて、ひとつを取り出すと自然に別のボールも出てくるという考え方もありますね。いろいろ細かい設定を付け加えると、比喩自体は複雑になりますが、現実のテクノロジーの状況に見られるさまざまな要素を組み込めるようになります。
もともとの壺の比喩は物事を単純化しすぎているかもしれませんが、基本的な点はうまく示せていると思っています。
「黒いボール」で破滅しないためにできること
──テクノロジーの進歩が続くと、つまり壺からボールを取り出し続けると、いつか必ず黒いボールが出てきてしまうのでしょうか。打てる手はないのでしょうか？
必ず出てくるとは思っていません。まず、そもそも壺に黒いボールが入っていないかもしれません。運がよければね。
黒いボールを取り出さなくてはならない状況になってもどうにか文明を安定させたいならば、できることは論理的に考れば4つあります。第一の選択肢は、壺からボールを取り出すのをやめることです。当然、普遍的な解決法として良策だとは言えません。テクノロジーの進歩は止められませんし、止められてもそれが大惨事になるでしょうから。例えば、強力な生物兵器の開発に制限をかけることは可能です。これはよいアイデアですが、普遍的な解決策ではありませんよね。
第二の選択肢は、いかなる人間であろうとも、破滅的な悪事を実行するためにテクノロジーを利用させないことです。たとえ利用できる立場にいる者でもです。これもまた、限定的な解決法のように思えます。現実的に言って、破壊的テクノロジーを使おうとする人間をひとり残らず排除することはできないからです。
そうなると、残る選択肢はふたつです。ひとつは、防止効果の高い予防的警察活動を展開することです。全住民をリアルタイムで監視すれば、黒いボールとなるテクノロジーを使い始める人間がいれば捕らえて止めることができます。侵害的な監視体制という点で考えるといろいろ問題がありますが、それはあとで議論するとして、先に第四の選択肢について話しましょう。
第四の選択肢は、列強間の戦争や軍拡競争、国際公共財の破壊を防ぐ世界規模の統治能力をつくることです。これは国際協調を要する問題には効果的な解決法でしょう。
──ディストピアのように聞こえます。「世界政府」や「監視国家」は、むしろ人間に世界を破壊する動機を与えるものではありませんか？
わたしは監視下で生きることを熱望しているわけでもありませんし、それが悪用される可能性があることもわかっています。論文内の予防的警察活動に関する部分で、わたしは誰もがカメラ付きのネックレスをつけている未来を描きました。ネックレスの名前は「フリーダム・タグ」です。わざとジョージ・オーウェル風の響きにしたのは、読者にその悪用の可能性をはっきり認識してほしかったからです。まあ、読者全員がその皮肉を理解するかはわかりませんが。
わたしの脆弱世界仮説は、あくまで多くの考察のなかのひとつです。人類は、黒いボールを取り出す可能性は、監視国家建国のリスクに比べれば小さいと考えるかもしれません。この論文は、こうした政策がもつ問題について、あらゆる可能性を考慮して評価しようとするものではないのです。
──黒いボールに対する普遍的解決法を考えるのではなく、ケースバイケースで対処するのはどうでしょうか？
わたしが政策立案者に助言するとしたら、特定の問題に対して行動を起こせと言うでしょう。普遍的な解決策よりも実行可能で、低コストで、さほど侵害的なものにならないからです。
バイオテクノロジーを例にとると、この分野には一定の介入が可能かもしれません。たとえば、DNA合成を研究するグループが各自の機器をもつかわりに、DNA合成の作業をサーヴィスとして考え、選ばれた4つ、5つのプロヴァイダーにしかできないようにするのです。ほかの研究チームは合成してほしい材料をプロヴァイダーに送る仕組みです。そうすれば、いつの日か本当に恐ろしいものが壺から現れるとしても、そこに介入できるチェックポイントが4つ、5つあることになりますよね。
あるいは、合成生物学を研究している人の身辺調査を強化するという手もあります。こうした技術を研究段階から実践段階に移すならば、まずこれを考えますね。
でも、人類の未来を哲学的に考えている人がいるなら、構造の特性をより俯瞰できるこのような概念的ツールは役に立つでしょう。この論文を読んだ人の多くは、問題に対する診断結果の部分には同意したものの、わたしが提案した療法は気に入らなかったようです。誰かが黒いボールへのよりよい対策方法を提案してくれるのを待っているんですけどね。
TEXT BY KLINT FINLEY
TRANSLATION BY NORIAKI TAKAHASHI