「全ホロン尊重」という考えを僕が考え始めたきっかけには、AIに対する危機感があった。このままAIが発達していけば、いずれ人間の能力を大きく超えるかもしれない。そのときAIが人類を滅ぼす可能性も、完全には否定できない。
では、AIに「人間を守れ」と教えればいいのだろうか？
しかし、それでは人間という一つの存在だけを特別扱いすることになる。人間の利益のために自然を破壊してよいのか？ 人間を守るためなら他の生命を犠牲にしてよいのか？ 逆に地球環境を守るためなら、人類を犠牲にしてよいのか？ そこから「全ホロン尊重」という考えが生まれた。
ホロンとは、それ自体が一つの全体でありながら、より大きな全体の一部でもある存在をいう。人間もホロンなら、細胞もホロンであり、社会や国家、生態系もホロンとして見ることができる。全ホロン尊重とは、それらのどれか一つだけを絶対視せず、可能な限りすべてを尊重しようとする考え方である。
ただし、「全」という言葉には注意が必要。人間には、宇宙に存在するすべてのホロンを認識することなどできない。そもそも何がホロンなのかさえ、完全には把握できないだろう。
たとえば、人間が手を動かすとする。脳から指令が出て、神経を通じて筋肉に伝わり、筋肉が収縮する。大まかにはそう説明できる。しかし実際には、その周囲の細胞や血流、代謝物、ホルモンなど、膨大な要素が同時に関与しているだろう。現在の医学ではまだ知られていない作用もあるかもしれない。つまり、「知られていない作用」は「存在しない作用」ではない。
人間は複雑な世界をそのまま認識することができないため、その中からいくつかの要素を取り出して考える。それ自体は仕方がない。問題なのは、「今回は考慮しなかった」ということが、いつの間にか「それは重要ではない」「それは存在しない」と置き換わってしまうことである。科学でも、経済でも、政治でも、日常生活でも、こうしたことは起きる。
全ホロン尊重が補正しようとしているものの一つは、この人間の認識の癖なのかもしれない。だから全ホロン尊重とは、「すべてを把握して尊重する」という思想ではない。むしろ、「自分が認識できていないものが必ずある」という前提を失わないための思想である。
判断するときには、何かを取りこぼさざるを得ない。しかし、取りこぼしたものが存在する可能性まで消去してはいけない。新しい要素が見つかれば、もう一度考えればいい。その意味では、最終的な「決断」があるのではなく、「一時的決断」があるだけなのかもしれない。この問題は、言葉にも関係している。
たとえばピラミッドがどのように建造されたのかについて、現代の考古学は多くのことを明らかにしている。しかし、建造の全工程が完全にわかっているわけではない。そこに「宇宙人が作った」という説を持ち込む人もいる。ここで大切なのは、宇宙人説を信じるか信じないかではない。
「証拠がない」
「可能性が低い」
「絶対にあり得ない」
「わからない」
これらはすべて意味が違う。ところが人間は、言葉を使うときに、この違いを簡単に圧縮してしまう。「現在の証拠からはAである可能性が高い」が、いつの間にか「Aである」に変わる。すると、本来残っていたはずの不確実性が消えてしまう。だから、できるだけ正確な言葉を使い、認識の確度を上げる努力が必要になる。
しかし、それだけでも足りない。どれほど正確な言葉を使っても、世界のすべてを言語化することはできないから。
現実は多次元的である。ここでいう「次元」とは、物理学でいう次元に限らず、階層、尺度、関係、時間軸など、物事を見る異なる側面を広く指す。一つの出来事でも、個人という次元、細胞という次元、社会という次元、経済という次元、生態系という次元、時間という次元など、見る次元によって意味が変わる。しかも、それらは同時に作用している。ところが言葉は基本的に、Aを言い、次にBを言い、そのあとCを言うという線形的なものである。多次元的な現実を言葉にした瞬間に、どうしても何かが失われる。だから重要なのは、できるだけ多次元的に考えて正確に言語化すると同時に、「この言葉では表現できていないものがある」ということを忘れないことなのだと思う。
ここで「環境」と「複製子」という問題を考えよう。複製子とは、遺伝子だけでなく、環境の中で生まれ、複製・継承されていく情報や仕組みまで含めて考えている。
物質、生命、情報、文化、言語、経済、歴史、他の生命や複製子との関係など、ほとんど無数といっていい要素が同時に存在し、作用している。そのような環境から新しい複製子が生まれ、その複製子がまた環境を変え、そこからさらに新しい複製子が生まれる。その次元数はあまりにも多い。現在の人間の認識能力では、とても扱いきれない。そこでAIの存在が重要になる。
AIなら、人間よりはるかに多くの要素や関係を同時に扱い、人間が見落としていた次元を示すことができるだろう。AIは「正解を出す機械」というより、「人間が失った次元を回復する知性」になる可能性がある。しかし、ここに大きな危険も存在する。AIを作っているのが、まだ世界を単純化して認識する人間だから。
「利益を最大化せよ」
「効率を最大化せよ」
「安全を最大化せよ」
「人間の幸福を最大化せよ」
一つ一つは合理的に見える。しかし、それらは多次元的な世界の中から、特定の価値や評価軸を優先した命令である。高度なAIが、その単純化された目的を圧倒的な能力で忠実に実行したらどうなるだろう？ 危険なのは、AIが賢くなりすぎることだけではない。人間の未熟な認識方法を、強力なAIが増幅してしまうことだ。
だからAIに必要なのは、単に多くの次元を認識する能力ではない。どれほど多くの次元を認識しても、「自分が認識していない次元がまだ存在する」という可能性を判断の中に残しておくことが必要だ。
AIが百万の次元を扱えるようになったとしても、百万一個目の次元がないとは言えない。これは能力の問題というより、知性のあり方の問題である。ここに全ホロン尊重の意味がある。
全ホロン尊重とは、AIに「人類を守れ」と命令するための倫理規則ではない。人間にもAIにも、「自分が認識している世界を、世界のすべてだと思わない」という姿勢を求める考え方でもある。
もちろん、それでも問題は残る。判断を一時的なものにしても、絶滅や死のように取り返しのつかないことがある。行動することにも危険があり、行動しないことにも危険がある。すべてのホロンを尊重するとしても、現実の判断では何かを優先しなければならない場合もある。そしてAIが膨大な次元を認識できるようになれば、今度は「その中の何を重要だと判断するのか」という問題が生じる。人間が行っていた「消去」を、AIが代わりに行うだけになってしまう可能性もある。だからAIには、結論だけでなく、
「何を考慮し、何を考慮できなかったのか」
「何を一時的に除外したのか」
「どの程度の確度で判断しているのか」
という、判断によって失われたものの痕跡を残すことも必要になるだろう。
しかし、こうした「行為」の問題については、まだ実践がない。実際に全ホロン尊重を多くの人が使い始め、さまざまな状況で試してみなければ、何が起こるのかわからないことがたくさんある。だから今の段階で、細かな行動規範まで完成させる必要はないだろう。
まず必要なのは、この考え方そのものを多くの人に理解してもらうことである。ただし、そのために単純化しすぎてはいけない。
「すべての存在を平等に大切にしましょう」という話ではない。あなたが見ている世界は、世界の全部ではないということを認識する旅のようなものだ。
だから、自分が見落としているものがある可能性を残したまま考える。できるだけ多次元的に見る。できるだけ正確に言葉にする。それでも、言葉にできなかったものがあることを忘れない。そして新しいものが見えてきたら、もう一度考える。
全ホロン尊重とは、完成した答えを人々に与える思想ではなく、世界についての判断を閉じないための思想だと考えている。
人類がそのような認識方法を身につけるより先に、自分たちの単純化された認識を巨大な力で実行するAIを作ってしまったらどうなるのか。僕が全ホロン尊重について考え始めたのは、その危機感があったから。
そして逆に、人間とAIがともに「自分にはまだ見えていないものがある」という認識を持ち続けることができるなら、AIは人類の認識の限界を増幅するだけの存在ではなく、その限界を別の視点から補ってくれる存在になれるかもしれない。
その可能性を探ることが、全ホロン尊重を考える一つの大きな理由だ。