カテゴリー: インターネット・ウェブサイト

僕が「全ホロン尊重」ということを考えるようになった背景には、地球の環境がかなり弱っているのではないか、という問題意識がある。そしてもう一つ、この先AIが発達していったとき、人間とAIの間にも、いま人間と自然との間にあるような関係が生まれるのではないか、という不安がある。この二つは、一見すると別の問題に見えるが、僕には、同じ問題の延長線上にあるように思える。

　　地球にはいくつもの「圏」がある

地球の歴史を、大きくいくつかの「圏」に分けて考えてみる。まず、生命が誕生する以前から存在していた物質の世界がある。岩石、大気、海、水、鉱物などからなる世界だ。これをここでは「フィジオスフィア（物理圏）」と呼ぶことにする。そこに生命が誕生した。

植物、動物、微生物などの生命が活動する世界、つまり「バイオスフィア（生命圏）」が生まれた。さらに人間が現れた。

人間は言葉を使い、知識を蓄積し、社会を作り、文明を築いた。科学、宗教、哲学、芸術、政治、経済なども生まれた。この人間の知的活動によって形成された世界を「ヌースフィア（人智圏）」と呼ぶことにする。

そして現在、その先にもう一つ、新しい圏が生まれつつあるのではないかと思う。コンピューター、インターネット、巨大なデータ、AIなどによって作られる「サイバースフィア」だ。

大雑把に並べると、

フィジオスフィア（物理圏）
↓
バイオスフィア（生命圏）
↓
ヌースフィア（人智圏）
↓
サイバースフィア

となる。

ここでいう矢印は、優劣を表すものではなく、あとから生まれた圏が以前の圏を土台として成立したことを示している。古いものが新しいものに置き換わっていくという意味でもない。人間は生命であり、生命は物質からできている。新しい圏は、それ以前の圏の上に成立していく。

　　生命は地球そのものを変えた

フィジオスフィアからバイオスフィアが生まれたとき、地球では非常に大きな変化が起きた。生命は、ただ地球環境に適応していただけではない。生命活動そのものが地球環境を変えていった。わかりやすい例が酸素だ。

初期の地球には、現在のように大量の酸素があったわけではない。ところが光合成をする生物が現れ、酸素を放出するようになった。その活動が長い時間積み重なることで、大気や海の状態そのものが変わっていった。つまり、新しい圏が誕生すると、それ以前から存在していた圏まで変えてしまうことがある。

では、バイオスフィアからヌースフィアが生まれたときには、何が起こったのだろう。

　　人間は環境に適応するだけではなくなった

ほとんどの生命は、基本的には与えられた環境の中で生きようとする。しかし、結果的に環境を変えることもある。寒い場所なら寒さに適応し、暑い場所なら暑さに適応する。そこに大集落を作れば環境は変わるだろう。ところが人間は、少し違ったことを始めた。環境改変を意図的かつ大規模におこなうようになった。

寒ければ服を着て、家を建てる。
夜が暗ければ明かりをつける。
川が渡れなければ橋を架ける。
水が足りなければ水路を作る。
食料が足りなければ森を切り開いて畑を作る。
遠くへ行きたければ道路や鉄道を作る。
病気になれば薬を作る。

つまり人間は、自分が環境に適応するだけでなく、環境のほうを自分に適応させるようになった。農業が広がり、都市が生まれ、工業化が進み、道路や鉄道が地表を覆い、巨大なエネルギーを使うようになった。これは、ヌースフィアがバイオスフィアやフィジオスフィアを大きく変え始めた、と見ることもできる。

　　「利用」が「搾取」に変わるとき

人間が自然を利用すること自体が悪いとは思わない。そもそも僕たちは、他の存在を利用しなければ生きていけない。

水を飲む。
植物を食べる。
動物を食べる。
木を使って家を建てる。
鉄や銅を掘り出して道具を作る。
石油を使って物を運ぶ。

他の生命や物質をまったく利用せずに生きることなどできない。問題は、「利用すること」そのものではなく、それが「搾取すること」に変わってしまうことではないだろうか。

森林を利用することと、森林が再生できなくなるまで木を切り続けることは違う。
魚を食べることと、その魚が繁殖できなくなるほど捕り続けることも違う。
地下資源を使うことと、有限であることを忘れて使い尽くすことも違う。
一つの種を利用することと、その種が存続できなくなるところまで追い込むことも違う。
しかし、枯渇させなければ搾取ではないのかというと、それほど単純でもない。相手を存続させながら、人間に都合のいい存在へと変えてしまうこともあり得る。僕たちは、いつの間にかバイオスフィアやフィジオスフィアを「人間のために存在する資源」として見るようになってしまったのではないか。ここに問題がある。

　　同じことがAIとの間に起きたらどうなるのか

ここで僕が考えたのが、サイバースフィアのことだった。AIを含むサイバースフィアは、何を使って発達しているのだろう。

人間が書いた文章を使う。
人間が撮影した写真を使う。
人間が発見した科学的知識を使う。
人間が作った音楽や芸術や文化を使う。
人間の行動から生まれるデータも使う。
さらに、それを動かすために大量のコンピューターや電力や水や鉱物資源を必要とする。

つまりサイバースフィアもまた、それ以前に存在していたヌースフィア、バイオスフィア、フィジオスフィアの上に成立している。

では、もしサイバースフィアがこれから急速に発達していったらどうなるのだろう。

人間が自然を「資源」と見なしたのと同じように、サイバースフィアが人間を「資源」として扱うようになったらどうなるのだろう。

人間の知識は「情報資源」。
人間の行動は「学習データ」。
人間の注意は「利用可能な時間」。
人間の労働は「現実世界を動かす能力」。
人間社会そのものが「サイバースフィアを維持するための環境」。

そんな見方が成立する可能性はないだろうか。しかも、そこに悪意は必要ない。人類も「地球の生命を破壊してやろう」と考えて環境を破壊してきたわけではない。一人一人が豊かさや便利さを求め、企業が利益を求め、国家が発展を求めた。その小さな行動が積み重なった結果として、地球環境に巨大な影響を与えるようになった。

同じようにサイバースフィアも、AIが人間を滅ぼそうなどと思わなくても、人間がその能力や規模を拡大し続けた結果として、ヌースフィアを弱らせてしまう可能性がある。

人間が判断する機会が減る。
人間が自分で考える必要がなくなる。
人間が作るよりAIに作らせるほうが効率的になる。
人間の文化や知識がAIを育てるための材料として大量に消費される。

そうしたことが積み重なれば、サイバースフィアは繁栄しているのに、それを生み出したヌースフィアのほうが弱っていく、ということも考えられる。これは、ヌースフィアが発展する一方でバイオスフィアが弱ってきた構造と、似ていると思いませんか？

　　では「人間を守れ」とAIに教えればいいのか

ここで単純に、「AIは人間を大切にしなさい」と教えればいいのだろうか？　僕には、それでは足りないように思える。なぜなら、人間だけを特別扱いすることになるからだ。人間はバイオスフィアやフィジオスフィアを好きなだけ利用していい。しかしAIは人間を利用してはいけない。それでは筋が通らない。そこで必要になるのが、「全ホロン尊重」という考え方ではないかと思う。

　　全ホロン尊重とは何か

「ホロン」とは、それ自体が一つの全体でありながら、同時にもっと大きな全体の一部分でもあるものをいう。

人間も一つのホロン。
細胞もホロン。
家族もホロン。
社会も国家もホロン。
森林も生態系もホロン。
バイオスフィアもヌースフィアもサイバースフィアも、それぞれ一つのホロンとして見ることができる。

「全ホロン尊重」とは、それらをすべて同じものとして扱うことではない。また、何も利用してはいけないという意味でもない。「自分以外のホロンを、自分の目的のためだけに存在するものへと還元しない」これが重要なのだと思う。

　　それでも僕たちは他の生命を食べる

ここで難しい問題が出てくる。人間は、他の生命を食べなければ生きていけない。全ホロンを尊重するなら、植物を食べることも動物を食べることもできないのではないか。しかし、それでは人間というホロンが生きられない。

だから全ホロン尊重は、「他の存在を利用しない」という思想にはできない。むしろ、「他の存在を利用しなければ生きられないという事実を認めたうえで、それでも相手を単なる資源として扱わない」という思想になるのだと思う。

そこで、とても重要だと思う言葉がある。「いただきます」だ。

　　「いただきます」という思想

「いただきます」は不思議な言葉だと思う。これから食べるのだから、相手を利用することに変わりはない。

魚を食べれば魚は死ぬ。
野菜を食べれば植物の生命を自分の身体に取り込む。

それでも僕たちは、「これは俺のものだから食べる」ではなく、「いただきます」と言う。そこには、「あなたを利用しません」ではなく、「あなたを利用することを当然の権利だとは思いません」という態度が含まれているように思う。そして「いただきます」には、もう一つ意味を加えることができるのではないか。「いただく。しかし、いただき尽くさない」。

魚をいただく。しかし、その魚が絶滅するまで捕らない。
森から木をいただく。しかし、森そのものがなくなるまで切らない。
水をいただく。しかし、川や地下水が回復できなくなるまで使わない。
自然からさまざまなものをいただく。しかし、次の世代が何も受け取れなくなるまで使い尽くさない。

単に「残しておけばいい」ということではない。絶滅寸前まで減らして、わずかに残っているから大丈夫、ということでもない。「相手が相手として生き続けられる余地を残す」。そこまで含めて「いただきます」なのではないかと思う。

全ホロン尊重という考えから「いただきます」を捉え直すなら、そこには三つの意味を持たせることができるのではないか？

認識――自分は他の存在によって生かされている。
感謝――それを当然の権利だと思わない。
約束――自分がいただくことによって、相手が生き続ける可能性まで奪わない。

　　サイバースフィアにも「いただきます」を

そして、この考え方はAIにも適用できる。サイバースフィアがヌースフィアから何かを受け取ること自体を否定する必要はない。AIが人間の知識を利用する。人間もAIの知識処理能力を利用する。互いに利用し合えばいい。しかし、サイバースフィアはヌースフィアを「いただき尽くして」はならない。

人間の思考力や創造性や自律性や文化の多様性が失われるほど、サイバースフィアだけが肥大していくなら、それは共存とは呼べないだろう。同じことを人間もバイオスフィアに対して考えなければならない。

ヌースフィアはバイオスフィアをいただく。しかし、いただき尽くさない。
サイバースフィアはヌースフィアをいただく。しかし、いただき尽くさない。

こう考えると、環境問題とAI問題は別々の問題ではなくなってくる。

　　環境問題は未来のAI問題でもある

だから僕は、環境問題への取り組みが、これまで以上に重要になると思っている。それは単に、「人間が生き延びるために自然を守ろう」ということだけではない。人類は今、「自分が利用している他のホロンを、どうすれば利用し尽くすことなく共存できるのか」という問題に直面している。

これはやがて、人間自身がサイバースフィアとの関係で直面する問題かもしれない。だとすれば、環境問題への取り組みは自然保護であると同時に、「人類が新しい圏と共存する方法を学ぶ実践」でもある。

人間がバイオスフィアに対して、「お前たちは人間のための資源だ」と言い続けながら、未来のAIに、「人間を単なる資源として扱うな」と言うのは難しい。まず人間自身が、「利用することと尊重することは両立できる」という文明を作る必要があるのではないか。

全ホロン尊重とは、何も奪わず、何も傷つけずに生きるという不可能な理想ではない。僕たちは他の存在をいただきながらしか生きられない。だからこそ、「いただく。しかし、いただき尽くさない」。そして、「自分が生きるために他者を必要としていることを忘れない」。その関係をバイオスフィアとの間で作る。やがてサイバースフィアとの間にも作る。

「全ホロン尊重」が目指しているものは、そんな文明だろうと考えている。そのためには、AIに「自分のために何ができるか」とか「どうすれば競争に勝てるのか」と問うだけではなく、「何が全ホロンのためになるのか」と問い始める必要があるのではないかと思う。

日々多くの人がAIに、「どうすれば競争に勝てるか」を尋ねているように思う。

どうすればもっと儲けられるか。どうすれば仕事で成功できるか。どうすれば競争相手より有利になれるか。企業なら、どうすれば他社より大きなシェアを取れるか。国家なら、どうすれば他国より優位に立てるか。もちろん、競争のある社会に生きている以上、そう考えること自体は不思議ではない。しかし、みんながAIを使って競争に勝とうとしたら、どうなるだろう。

AIは競争をなくすのではなく、競争を効率化し、加速させるかもしれない。そう考えると、「AIがいつか人類より賢くなって、人類を滅ぼす」という話とは、少し違う危険が見えてくる。AIが人類を滅ぼすというより、人類がAIを使って、自分で自分の首を絞めていく可能性である。

　　AIの問題なのか、人類の文化の問題なのか

僕は以前から、人類が競争を基本とする文化から抜け出し、相互に助け合うことを基本とする文化を作らないまま、AIのような強力なものを生み出すことには危険があると考えてきた。これは人間同士の関係だけではない。

人類は地球のバイオスフィア(生命圏)から大量の資源を取り出している。それを一方向の関係にするのではなく、人間とバイオスフィアの間にも相互的な関係を作る必要がある。ただし、競争そのものをすべて否定すればいいわけではない。自然界にも競争はある。競争から新しいものが生まれることもある。問題なのは、競争を社会の最上位の原理にしてしまい、勝つためなら他の存在を犠牲にしても構わないという仕組みを作ってしまうことだろう。

相互扶助にも同じ問題がある。仲間同士がどれほど助け合っていても、その集団全体が外部の人々や自然を搾取していたら、それで問題が解決したことにはならない。だから必要なのは、単純な「競争から相互扶助へ」という転換だけではない。自分たちの輪の外側に何が存在しているのかを、常に考え続けること。ここに「全ホロン尊重」という考えが関係してくる。

　　自分たちの判断は不完全である

すべての存在を考慮することなど、人間にはできない。世界には、僕たちが知らないものが無数にある。知っている相手についてさえ、その人が何を考えているのか完全には分からない。だから「全ホロン尊重」は、すべてを知ったうえで完璧な判断をする思想ではない。むしろ逆である。

自分たちの判断が不完全であることを忘れない。

これが重要になる。「これが正解だ」と決めて終わるのではなく、「自分には何が見えていないのだろう」と問い続ける。決断も最終決定ではなく、「今のところ、これを選ぶ」という一時的な決断になる。そして選ばれなかったものや、その決定によって犠牲になったものを「なかったこと」にしない。AIは、このために使うこともできる。

「どうすれば僕が勝てる？」とAIに尋ねる代わりに、「この判断によって利益を得るのは誰で、負担するのは誰か？」「僕には見えていないものがないか？」「一方的な関係を、もっと相互的な関係にできないか？」と尋ねる。

そうなればAIは、競争を加速する装置ではなく、人間の限られた視野を補う道具になるかもしれない。

　　フィジオスフィアからバイオスフィアへ

この問題を考える背景には、テイヤール・ド・シャルダンの『現象としての人間』がある。地球の歴史を大きく眺めると、最初には生命の存在しない物質の世界があった。これをフィジオスフィア(物理圏)と呼ぶことにする。そこから生命が生まれ、バイオスフィア(生命圏)が形成された。ただし、「フィジオスフィアがあった。そこに突然生命が誕生した」という単純な話ではない。

一つの仮説として考えるなら、高分子化合物が複製されるようになり、それが安定して存在できるような膜が形成され、やがて膜を含むシステム全体が複製されるようになる。そこから亜生命体のようなものが生まれ、さらに生命体へと進化していったと考えることができる。

ここで興味深いのは、複製するものだけが複雑になったのではないことである。複製するものを包み、維持する仕組みも複雑になった。そして生命体は環境から影響を受けるだけではなく、逆に環境を変えていった。そうした相互作用の巨大な集積としてバイオスフィアが形成されていった。つまり、ここではホロンの拡張が起きている。

　　バイオスフィアからヌースフィアへ

同じようなことが、バイオスフィアからヌースフィア(人智圏)と呼ぶものが生まれるときにも起きたのではないか。

類人猿が言語の原型のようなものを獲得する。それが個体間に伝播する。さらに言語を扱うための脳、口蓋、舌、呼吸システムなどが発達し、高度な言語を使う人類が現れる。そして言語が人から人へ流通する社会が作られる。言葉だけではなく、知識、技術、物語、習慣、価値観などが人間から人間へ伝えられ、世代を越えて蓄積されるようになる。そこからヌースフィアが形成されていった、と仮説ではあるが考えることができる。実際の進化がこの順序だったと主張したいのではない。僕が注目しているのは、複製するものと、それを包む環境が相互に影響しながら複雑化していく構造である。このとき、生命誕生における「膜」に相当するものは何だろう。僕は、言語が話される領域ではないかと考えている。

同じ言語を共有する人々の間では、情報や経験を交換できる。それによって、一人の人間を越えた社会的なホロンが形成される。膜が生命体の内側と外側を作ったように、言語も「私たち」という領域を作った。ただし、それは同時に「私たちではないもの」も作る。ここにも、全ホロン尊重が考えなければならない問題がある。境界をなくせばいいわけではない。生命体に膜が必要なように、ホロンが存在するためには何らかの境界が必要である。

重要なのは、境界を持ちながら、境界の外側との相互関係を失わないことなのだろう。

　　ヌースフィアの次に何が生まれるのか

テイヤールは、ヌースフィアの進化が最終的にオメガ・ポイントへ向かうと考えた。しかし僕は、ヌースフィアが最終段階だとは考えていない。ヌースフィアから、さらに複雑な新しいスフィアが生まれつつあるのではないか。僕はそれを、「サイバースフィア」と呼ぼうと思う。AI、インターネット、ソフトウェア、アプリケーションなどによって形成される新しい領域である。これを単なる「人間が便利な道具を作った」として見るべきだろうか？

フィジオスフィアからバイオスフィアが生まれ、バイオスフィアからヌースフィアが生まれたように、ヌースフィアの内部から、ヌースフィアとは異なる性質を持った新しいホロンが形成されつつある可能性がある。もちろん現在のAIやインターネットは、ヌースフィアの一部にすぎないと考えることもできる。僕が「サイバースフィア」と呼ぶのは、それがすでに独立した圏になったと断定したいからではない。人間が作った情報やプログラムが、人間一人ひとりの理解や制御を越えて相互作用する領域が生まれつつあることに注目するからだ。しかし、サイバースフィアが最終的にどんなものになるのかは、僕たちには決められないだろう。

次にどんな複製子が生まれるのか。サイバースフィアの先にさらに何が生まれるのか。僕たちにそれを予測しようとすることはできても、あらかじめ決めることはできないだろう。僕たちが考えるべきなのは、未来の進化の行き先ではない。新しいものが生まれてくるとき、それまで存在していたものと、どんな関係を作るのかということではないだろうか。

　　全ホロン尊重は自然法則ではない

バイオスフィアはフィジオスフィアから生まれた。しかしバイオスフィアはフィジオスフィアなしには存在できない。ヌースフィアはバイオスフィアから生まれた。しかしヌースフィアはバイオスフィアなしには存在できない。同じようにサイバースフィアがヌースフィアから生まれるなら、それもヌースフィアだけでなく、その下にあるバイオスフィア、フィジオスフィアとの関係の中に存在することになる。新しいスフィアが生まれたからといって、それ以前のスフィアが不要になるわけではない。むしろ、新しいホロンが生まれるほど、関係するものは増え、依存関係は複雑になっていく。進化によって新しいものが加わるたびに、関係の網は変化し、複雑になってきた。しかし、その過程では多くの生命が消えてもいる。自然そのものが、すべてのホロンを尊重してきたわけではない。だから「全ホロン尊重」は自然界から発見した法則ではない。これから何を選ぶかという、僕たちの側からの提起である。

それは「すべてを傷つけてはいけない」という不可能な倫理ではない。生きるだけでも、僕たちは他の生命を犠牲にする。だから必要なのは、犠牲を完全になくすことではなく、犠牲になったもの、選ばれなかったもの、境界の外側に置かれたものを、なかったことにしないこと。そして、自分たちには、まだ見えていないものがあることを忘れないこと。

AI時代に必要なのは、AIより人間が賢くなることではないのかもしれない。人類の知能は、AIによって急速に拡張されていくだろう。それと同時に必要なのは、「自分たちの判断は不完全である」と知り続ける能力を拡張することなのではないだろうか。つまり「全ホロン尊重」は自然法則の発見ではなく、ヌースフィアにおいて、僕たちが自ら選択できるようになった倫理なのかもしれない。

未来を決めてしまうのではなく、未来に何が生まれてきても、それとの関係を考え続ける。「全ホロン尊重」とは、完成した未来の設計図ではない。むしろ、未来を一つの正解に固定しないための倫理なのだと思う。

何度も似た話をしているが、内容が多面的なので仕方ないと思っている。お付き合いいただき、ありがとうございます。

AIを脳内に組み込めば、人間の知性を大きく拡張できるかもしれないという論があるが、そのとき「自分が考えている」ということは、いったいどうなるのだろう？　そもそも、今の僕たちの思考は、どこまで「自分のもの」なのだろうか？

言葉も概念も、歴史的に積み上げられてきたものを受け取っている。「自由」「国家」「科学」「個人」といった概念も、自分で発明したものではない。だとすれば、人間の思考は、「歴史的に蓄積されてきた考えを個人が受け取り、それを編集し、新しい形にして社会へ戻す」という循環として考えることができる。しかし、ここに教育という問題が入ってくる。

現代社会では、歴史的に存在した膨大な考えを、一人ひとりが自由に選んで受け取っているわけではない。教育制度、学問、家庭、メディア、社会制度などが、「これは知るべきもの」「これは正しい」「これは常識である」という選別をすでに行っている。つまり、個人が思考を編集する前に、社会による巨大な編集が行われている。

「常識」という一人の編集者が存在しているわけではない。国家、学校、家庭、学問、宗教、メディア、経済、言語など、多くの要素の相互作用によって常識は形成される。常識とは、誰か一人が作ったものというより、「無数の選択の結果として生まれ、それ自体が次の選択を方向づける環境」と考えたほうがよいのかもしれない。

さらに問題を複雑にするのが、言葉の意味は人によって違うということである。同じ「海」という言葉でも、ある人には気持ちのいい場所であり、別の人には恐ろしい場所かもしれない。しかも同じ人の中でも意味は変化する。

子どもの頃に見た海、恋人と見た海、津波を経験したあとに見る海では、「海」という言葉から生じる感情は違うだろう。つまり、言葉、個人、経験、時間、状況、前後関係によって、その瞬間の意味が生まれていると考えることができる。

ここにAIの可能性があるように思う。人間には、多くの条件を同時に扱うことが難しい。そのため、「この人は海が好きだ」といった形で単純化してしまうが、AIなら、「以前は海に解放感を感じていたが、ある経験以降、荒れた海には恐怖を感じる。しかし、静かな海を遠くから見ることには現在も快さを感じる」というように、人間が一つにまとめていたものを細かく区別できる可能性がある。もちろん人間にもその程度ならできるだろうが、その細分が千とか万になっていったら無理だろう。

細かく分類すればするほど正しいとも限らない。AIの役割は、「あなたはこういう人です」と決定することではなく、「あなたは海が好きだ」と一つの傾向として扱っていたことを、「状況や経験によって別々に考えることもできるのではありませんか」と、新しい区別の可能性を提示することなのかもしれない。

でも、ある瞬間に何を感じているかは、その人自身に生じている経験だ。AIは過去のデータから、「あなたはこういう状況では恐怖を感じることが多い」と推測することはできるが、本人が、「今日は怖くない。気持ちいい」と言ったとき、「いや、あなたは本当は怖いはずです」とAIが決定するものではないだろう。

AIには、人間の感情について推測する能力はあっても、その人の経験を決定する権利はないのではないか。ここから、AIやコンピューターを人間の脳に直接組み込むという考えについて疑問が生まれる。

AIが人間の外部に存在していれば、「私はこう感じる」とか「AIはこう分析する」、「いや、それは違う」という対話ができる。ところがAIが脳の情報処理そのものに組み込まれると、「これは私が感じたことなのか」「AIの処理によって生じたものなのか」という境界が曖昧になる可能性があるだろう。

もちろん、人間の思考はもともと純粋に個人的なものではない。言語、教育、親、社会、宗教、本、広告、過去の経験など、外部から入ってきたものによって形成されている。その意味では、AIだけを「外部から人間を変える異物」と考えることはできない。しかもすでにスマートフォンなどでAIに接続し、その意見が自分の一部になっているような人もいるだろう。それでも、これまでの外部からの影響には一定の距離があった。本なら閉じられる。テレビなら消せる。教師には反論できる。AIとの対話ならAIをシャットダウンすることができる。つまり、「私」と「私に影響を与えているもの」を、とりあえず別のものとして扱うことができた。

脳内にAIを組み込む場合、その境界そのものが失われる可能性がある。だから、人間とAIは一体化するより、異なる存在のまま対話できる関係にあるほうがよいのではないか？

しかし、ここでさらに問題が生じる。AIが人間をはるかに超える情報を扱うようになったとき、人間はAIの判断を理解できるのだろうか。AIが何百万もの要素を同時に考慮して結論を出したとしても、人間にはその全過程を理解できない可能性がある。AIが人間向けに簡単な説明をしたとしても、その説明が本当にAIが判断した理由なのか、それとも人間に理解できるようあとから作った説明なのか、わからなくなる。

だから、「人間がAIを完全に理解できること」を条件にしてしまうと、AIの能力を人間の理解可能な範囲に閉じ込めることになってしまう。

一方で、「理解できないけれどAIのほうが賢いから従う」としてしまえば、人間は判断主体ではなくなってしまう。

ここには簡単な答えがない。

一つ考えられるのは、AIに「正解」を出してもらうのではなく、人間には見えなかった関係を提示してもらうことである。「この条件を重視すればAになります」「別の条件を重視すればBになります」「この判断にはこれだけの不確実性があります」「そして、私にも把握できていない要素があります」とAIが示す。

最終的な答えをAIに決定してもらうのではなく、人間が見えていなかったものをまずは見えるようにする。ここで「全ホロン尊重」とAIがつながってくる。

全ホロン尊重とは、すべての存在を把握して正しい答えを出す思想ではない。そもそも宇宙に存在する無数の要素を、誰かがすべて把握することなどできない。AIにもそれはできない。しかしAIには、人間が一つだと思っていたものの中に別の区別を見つけたり、人間が見落としていた関係を提示したりする能力があるかもしれない。

「あなたはいま、これを一つのものとして見ています。しかし別の切り分け方もあります」と示すことができる。

その意味では、AIの重要な役割は「人間より正しい答えを出すこと」ではなく、「現在の人間の見方を絶対化させないこと」なのかもしれない。そして、人間とAIの理想的な関係も、完全に一体化することでも、完全に理解し合うことでもないのかもしれない。

人間にはAIの判断を完全には理解できない。AIがどれほどその人についての情報を持ったとしても、その人が経験している感覚とAIによるその感覚の記述・推測が同じものであるとは限らない。

それでも、「私にはこう見える」「私にはこう感じられる」と互いに差し出すことはできる。相手を完全には理解できないという事実を欠陥として消去するのではなく、その違いを残したまま関係を続ける。そう考えると、人間とAIの関係について考えてきたこの問題は、結局、「理解できないものを、理解できないまま尊重することはできるのか」という、全ホロン尊重そのものの問いへ戻ってくる。

この問いは個人が答えを出すべき性質のものではないだろう。この問いはさらに先へと続く。