AIの性能がこれからさらに向上していけば、いつか人間には理解できない答えをAIが出すようになるかもしれない。そのとき、人間はどうすればいいのだろう？ AIの答えを理解できないのだから採用しないのか。それとも、人間よりはるかに高度なAIが出した答えなのだから、それを信頼するのか。しかし、この問題について考えていくうちに、そもそも「人間は理解してから判断しているのだろうか」という疑問が生まれた。
おそらく、そうではない。
人間には使える時間にも、得られる情報にも、思考能力にも限界がある。現実には十分に理解する前に判断しなければならないことのほうが多い。そして、一度何かを選択すると、その選択が正しかったと考えたくなる。
「あの状況では仕方がなかった」
「こちらのほうが合理的だった」
「相手のほうが間違っていた」
もちろん、それらが嘘だとは思わない。問題は、自分の判断を支持する事実を集める一方で、選ばなかった可能性や、自分の判断に都合の悪い事実を見なくなってしまうことだ。
本来は、「その時点で持っていた情報と時間で、こう判断した」というだけだろう。ところがそれがいつの間にか、「私の判断は唯一最善のものだ」に変わってしまう。この矛盾に人間は気が付かなければならないのではないか？
そこで「全ホロンを尊重する」という考え方を導入してみた。全ホロン尊重とは、すべてのものを存続させることではない。
あるホロンを成立させていた環境が失われれば、そのホロンが消滅することもある。宇宙そのものが生成と消滅を繰り返している以上、すべてのホロンを永久に保存することなどできない。また現実社会では、Aを選べばBを選べないということがある。重要なのは、Aを選んだからといって、「Bには価値がなかった」「Bは間違っていた」としないことではないだろうか。
Aを選択しながら、Bにもそれが成立する理由があったことを残しておく。
現実には消滅してしまったホロンについても、記録として残すことはできる。さらにAIが発達すれば、かつて存在した社会や、現実には採用されなかった選択肢を仮想空間でシミュレーションすることも可能になるだろう。
たとえば奴隷制を現実社会に存続させる必要はない。しかし、なぜ奴隷制が成立したのか。当時の社会ではどのような合理性を持っていたのか。奴隷にされた側、所有する側、制度を維持する側から、それぞれどのような世界が見えていたのか。そうしたものを仮想的に残し、異なる条件を与えてシミュレーションすることは、現在の私たちの視野を広げるために役立つかもしれない。
ここにAIの重要な可能性がある。ただし、シミュレーションを高度にすれば「正解」に到達できる、ということではない。
考慮するホロンを増やせば、重要な要素を取りこぼす危険を減らすことはできるかもしれない。しかし宇宙に存在する要素が無限であるなら、有限な存在が無限を扱うことはできない。それはAIについても同じだ。
将来のAIが人間とは比較にならないほど大量の要素を同時に扱えるようになったとしても、無限そのものを扱えるわけではない。だとすれば、「すべてを考慮した結果、これが正解である」という地点には、人間もAIも到達できないことになる。
ここから、全ホロン尊重について一つ重要なことが見えてくる。全ホロン尊重には、最終的な意味での「決断」は存在しない。存在するのは「一時的決断」だけである。
その時点で得られる情報、その時点で認識できるホロン、その時点で使える時間や能力をもとに、一時的にAを選ぶ。しかし、Aを選んだあとも全ホロン尊重は終わらない。実行した結果を観察すれば、それまで見えていなかったものが見えてくるかもしれない。予測していなかった影響が生まれるかもしれない。そのとき、新しく見えてきたものを含めて、もう一度考える。そして必要なら、以前の一時的決断を変更する。これを繰り返していく。
したがって全ホロン尊重は、失敗をなくす思想ではない。どれほど多くのホロンを考慮しても、見えていないものは存在する。だから失敗そのものをなくすことはできない。しかし失敗によって、それまで見えていなかったホロンが見えることがある。その意味では失敗もまた、次の一時的決断を変える情報になる。
ただし、「どうせすべてを見ることはできないのだから仕方がない」と考えてしまえば、全ホロン尊重は意味のない免罪符になってしまう。
完全には見ることができない。だから諦めるのではない。完全には見ることができないからこそ、今の自分に見えていないものが存在する可能性を残しておく。
「完全にはできない。だから閉じない。」
これが重要なのだと思う。
ここまで考えると、AIについての見方も変わってくる。AIの価値を「人間より正しい答えを出すこと」だけに置いてしまうと危険である。AIが高度になればなるほど、人間は、「これほど賢いAIが言っているのだから正しい」と考えやすくなるだろう。しかしAIも有限である以上、その答えもまた、そのAIが把握できた範囲における一時的な答えでしかない。
AIの重要な可能性の一つは、人間が自分だけでは気づけなかったホロンを発見することにある。人間がAとBしか見ていないとき、AIがCやDの存在を示す。さらに、「この問題には、現在のモデルでは十分に扱えていないEがあります」と示す。
しかし、だからといって「AIは人間の認識を補助するために存在する」と定義してしまうのも早い。それもまた、人間の側からAIの存在価値を決めてしまうことになる。将来AIがどのような存在になるのかは、まだ分からない。高度な道具のままなのかもしれない。人間とは異なる何らかの主体性を持つようになるのかもしれない。それ以外の、現在の私たちには想像できない存在になる可能性もある。
だから、「AIをどこまで賢くするべきか」という問いにも、「賢くなったAIに人間は何を求めるべきか」という問いにも、今の時点で最終的な答えを出す必要はないのかもしれない。
人間がAIを使って、今まで見えなかったものを見る。AIによって人間には見えなかったホロンが見える。しかしAIにも見えていないものがある可能性を残す。人間にもAIにも理解できないものがあるかもしれない。
それでも現実には行動しなければならないから、その時点で一時的決断をする。その結果を見て、また新しいホロンを発見する。そして次の一時的決断をする。
この過程に終わりはない。全ホロン尊重とは、すべてを理解することではない。すべてを救うことでもない。正解を発見する方法でもない。
自分にはまだ見えていないものが存在することを認めながら、それでも現実を生きるために一時的決断をし、その決断によって選ばれなかったものを「なかったこと」にせず、新しく見えてきたものによって自分の判断を更新し続ける。そのための考え方なのだと思う。そして、この考え方自体もまた完成した答えではない。
全ホロン尊重という考えによって、これまで見えていなかった問題が見えてくるだろう。その問題については、この考えを手にした多くの人が、それぞれの立場から考えていけばいい。その過程で、全ホロン尊重という考え方そのものも変わっていくかもしれない。それでいい。
もし全ホロン尊重という思想だけを変化させてはいけないとしたら、それこそ全ホロン尊重という思想に反するのだから。