水のきらめき

世の中を眺めていると、ありとあらゆるところに循環がある。

細胞の中でも物質は行ったり来たりしている。臓器同士でも、身体全体でもそうだ。人間同士も物や情報や感情をやり取りし、社会では人やお金や情報が動き、国家も他の国家や地球環境との間でさまざまなものを交換している。小さなところから大きなところまで、世界は循環によって成り立っているように見える。そう考えていて、「今だけ、金だけ、自分だけ」という言葉を思い出した。これは循環とは反対方向の考え方なのかもしれない。「自分のところに来たものを自分のところだけに留める」という発想だからだ。

江戸っ子の「宵越しの金は持たねぇ」は、経済的に賢明かどうかは別として、その正反対にある。自分のところに来たお金を使えば、それは商人に渡り、商人からまた別の人へ渡っていく。お金が社会を循環する。では、循環すること自体がいいことなのだろうか。そう単純でもない。

憎しみが報復を生み、報復がまた憎しみを生むことも循環である。貧困や搾取が世代を越えて再生産されることもある。循環しているからいいとは言えない。では「よい循環」と「悪い循環」に分ければいいのだろうか。これにも問題がある。

何を「よい」とするかは視点によって変わる。捕食する動物と捕食される動物では、同じ出来事の意味が違う。あるホロンにとって都合のよい循環が、別のホロンを傷つけることもある。そこで「循環がよいか悪いか」と判断するより、「循環の中で、それぞれのホロンに何が起きているのか」を見るほうがいいのではないかと思った。ここで「全ホロン尊重」と循環がつながりそうだ。

ホロンとは、全体でありながら、より大きな全体の一部でもある存在である。細胞はそれ自体一つの全体だが、身体の一部でもある。人間も一人の全体でありながら、家族や社会や生態系などの一部でもある。だから一つのホロンの内部にも循環があり、そのホロンと外部との間にも循環がある。ところが、ある循環を維持するためには、何かをそこから外さなければならない場合もある。

身体は病原体や毒物を排除する。社会でも、他人に危害を加える人を一時的に拘束しなければならないことがある。だから「循環から排除することはいけない」とは言えない。ここで一つ重要なことに気づいた。ある循環から外れたものは、必ずしも世界から消えるわけではない。

身体から排泄されたものは身体の循環から外れるが、その後は下水や河川や土壌など、別の循環へ入っていく。落ち葉は木から離れるが、土の上で分解され、微生物や植物など別の循環に加わる。そう考えると、実際に起きているのは、「循環からの排除」というより、「循環から循環への移動」なのかもしれない。ただし、「別の循環へ移せばそれでいい」ということでもない。

身体から毒物を排出しても、それを川へ流せば、今度は川の生態系という別のホロンに影響を与える。つまり重要なのは、「自分の外へ出したものが、その後どこへ行くのか」を見続けることになる。あるホロンの「外」は、別のホロンの「内」だからだ。ここから「全ホロン尊重」の「尊重」という言葉の意味も少し変わって見えてきた。

尊重するとは、すべてのホロンを保存することではない。これは何度も書いた。すべてのホロンを生き続けさせることでもない。まして、すべてのホロンの要求を受け入れることでもない。ホロンは生まれ、変化し、時には消滅する。あるホロンを守るために、別のホロンをそこから外さなければならない場合もある。それでも、その存在を「なかったこと」にする必要はない。何かを選べば、選ばれなかったものが生まれる。何かを外へ出せば、それは別の場所へ行く。

だから全ホロン尊重における「尊重」とは、「何かを変化させたり、外したり、選ばなかったりしたときにも、その存在や、その後のつながりを認識から消してしまわないこと」と言えるかもしれない。ただし、ここで循環を価値の基準にしてはいけない。

循環への寄与が小さなもの、孤立しているもの、何も生み出していないように見えるものでも、それによって尊重の程度が下がるわけではない。役に立つから尊重するのではない。循環に貢献するから尊重するのでもない。

「尊重」と「価値評価」と「処遇」は別の問題として考えたほうがいいのだろう。

もう一つ問題になるのが、ホロンの境界である。どこまでが「自分」で、どこからが「外」なのか。皮膚を境界と考えることはできる。しかし、人間の身体は腸内細菌と共生し、大気から酸素を取り込み、食物や水を絶えず外から取り入れている。社会や文化や他者との関係まで含めれば、「自分」の境界はますます曖昧になる。しかし、前にも書いたが、そもそもホロンの境界は曖昧なものなのではないか。そのホロンを包んでいる、さらに大きなホロンの状態や、どんな問題を考えているかによっても境界の意味は変わる。だとすれば、「本当の境界はどこか」を決める必要はない。

現実に何かを考えたり判断したりするためには、ある範囲をひとまず一つのホロンとして扱わなければならない場合があるから「一時的境界」を決める。「ここが絶対的な境界だ」と決めるのではない。「いま、この問題を考えるために、ひとまずここに境界を置いてみる」。状況が変われば、境界も引き直せばいい。

これは以前から考えてきた「一時的決断」とよく似ている。すべてのホロンと、その関係を把握してから決断することなど誰にもできない。だから、その時点で見えている範囲で一時的に決断する。そして結果を見て、必要なら決断を変える。境界も同じだ。一時的に境界を置き、一時的に決断し、その結果を見る。そして必要なら境界を引き直し、また考える。

ここまで考えて来たとき、「循環」だけでは少し足りないことにも気づいた。同じ問題について考え、いったん離れ、また同じところへ戻ってくることがある。しかし戻ってきたとき、以前とまったく同じ場所にいるわけではない。今回も、ホロンの境界が曖昧だという話は以前にも考えていた。それでも循環について考えた後でもう一度そこへ戻ってきたことで、「一時的境界」という新しい概念が生まれた。一周して戻ってきたけれど、少し違うところにいる。

これは単なる円ではなく、螺旋に近い。「循環＋変化＝螺旋」と考えることができるかもしれない。ただし、螺旋を「進歩」と同じ意味にはしたくない。螺旋は上昇するとは限らない。下降することも、横へ進むこともある。

だから、ここでいう螺旋とは、「同じところには戻らない循環」くらいに考えるのがいいだろう。世界にはたくさんのホロンがある。その境界は固定されていない。ホロンの内側にも外側にも循環があり、ある循環から外れたものは別の循環へ移っていく。その動きをすべて把握することはできない。だから一時的に境界を置き、一時的に決断し、その結果を見て、また境界を引き直す。その繰り返しの中で、考えそのものも変わっていく。円を描いて元へ戻るのではない。ぐるぐる回りながら、少しずつ違う場所へ移っていく。

全ホロン尊重という考えそのものも、そうやって螺旋を描きながら変わっていくものなのかもしれない。

AIを脳内に組み込めば、人間の知性を大きく拡張できるかもしれないという論があるが、そのとき「自分が考えている」ということは、いったいどうなるのだろう？　そもそも、今の僕たちの思考は、どこまで「自分のもの」なのだろうか？

言葉も概念も、歴史的に積み上げられてきたものを受け取っている。「自由」「国家」「科学」「個人」といった概念も、自分で発明したものではない。だとすれば、人間の思考は、「歴史的に蓄積されてきた考えを個人が受け取り、それを編集し、新しい形にして社会へ戻す」という循環として考えることができる。しかし、ここに教育という問題が入ってくる。

現代社会では、歴史的に存在した膨大な考えを、一人ひとりが自由に選んで受け取っているわけではない。教育制度、学問、家庭、メディア、社会制度などが、「これは知るべきもの」「これは正しい」「これは常識である」という選別をすでに行っている。つまり、個人が思考を編集する前に、社会による巨大な編集が行われている。

「常識」という一人の編集者が存在しているわけではない。国家、学校、家庭、学問、宗教、メディア、経済、言語など、多くの要素の相互作用によって常識は形成される。常識とは、誰か一人が作ったものというより、「無数の選択の結果として生まれ、それ自体が次の選択を方向づける環境」と考えたほうがよいのかもしれない。

さらに問題を複雑にするのが、言葉の意味は人によって違うということである。同じ「海」という言葉でも、ある人には気持ちのいい場所であり、別の人には恐ろしい場所かもしれない。しかも同じ人の中でも意味は変化する。

子どもの頃に見た海、恋人と見た海、津波を経験したあとに見る海では、「海」という言葉から生じる感情は違うだろう。つまり、言葉、個人、経験、時間、状況、前後関係によって、その瞬間の意味が生まれていると考えることができる。

ここにAIの可能性があるように思う。人間には、多くの条件を同時に扱うことが難しい。そのため、「この人は海が好きだ」といった形で単純化してしまうが、AIなら、「以前は海に解放感を感じていたが、ある経験以降、荒れた海には恐怖を感じる。しかし、静かな海を遠くから見ることには現在も快さを感じる」というように、人間が一つにまとめていたものを細かく区別できる可能性がある。もちろん人間にもその程度ならできるだろうが、その細分が千とか万になっていったら無理だろう。

細かく分類すればするほど正しいとも限らない。AIの役割は、「あなたはこういう人です」と決定することではなく、「あなたは海が好きだ」と一つの傾向として扱っていたことを、「状況や経験によって別々に考えることもできるのではありませんか」と、新しい区別の可能性を提示することなのかもしれない。

でも、ある瞬間に何を感じているかは、その人自身に生じている経験だ。AIは過去のデータから、「あなたはこういう状況では恐怖を感じることが多い」と推測することはできるが、本人が、「今日は怖くない。気持ちいい」と言ったとき、「いや、あなたは本当は怖いはずです」とAIが決定するものではないだろう。

AIには、人間の感情について推測する能力はあっても、その人の経験を決定する権利はないのではないか。ここから、AIやコンピューターを人間の脳に直接組み込むという考えについて疑問が生まれる。

AIが人間の外部に存在していれば、「私はこう感じる」とか「AIはこう分析する」、「いや、それは違う」という対話ができる。ところがAIが脳の情報処理そのものに組み込まれると、「これは私が感じたことなのか」「AIの処理によって生じたものなのか」という境界が曖昧になる可能性があるだろう。

もちろん、人間の思考はもともと純粋に個人的なものではない。言語、教育、親、社会、宗教、本、広告、過去の経験など、外部から入ってきたものによって形成されている。その意味では、AIだけを「外部から人間を変える異物」と考えることはできない。しかもすでにスマートフォンなどでAIに接続し、その意見が自分の一部になっているような人もいるだろう。それでも、これまでの外部からの影響には一定の距離があった。本なら閉じられる。テレビなら消せる。教師には反論できる。AIとの対話ならAIをシャットダウンすることができる。つまり、「私」と「私に影響を与えているもの」を、とりあえず別のものとして扱うことができた。

脳内にAIを組み込む場合、その境界そのものが失われる可能性がある。だから、人間とAIは一体化するより、異なる存在のまま対話できる関係にあるほうがよいのではないか？

しかし、ここでさらに問題が生じる。AIが人間をはるかに超える情報を扱うようになったとき、人間はAIの判断を理解できるのだろうか。AIが何百万もの要素を同時に考慮して結論を出したとしても、人間にはその全過程を理解できない可能性がある。AIが人間向けに簡単な説明をしたとしても、その説明が本当にAIが判断した理由なのか、それとも人間に理解できるようあとから作った説明なのか、わからなくなる。

だから、「人間がAIを完全に理解できること」を条件にしてしまうと、AIの能力を人間の理解可能な範囲に閉じ込めることになってしまう。

一方で、「理解できないけれどAIのほうが賢いから従う」としてしまえば、人間は判断主体ではなくなってしまう。

ここには簡単な答えがない。

一つ考えられるのは、AIに「正解」を出してもらうのではなく、人間には見えなかった関係を提示してもらうことである。「この条件を重視すればAになります」「別の条件を重視すればBになります」「この判断にはこれだけの不確実性があります」「そして、私にも把握できていない要素があります」とAIが示す。

最終的な答えをAIに決定してもらうのではなく、人間が見えていなかったものをまずは見えるようにする。ここで「全ホロン尊重」とAIがつながってくる。

全ホロン尊重とは、すべての存在を把握して正しい答えを出す思想ではない。そもそも宇宙に存在する無数の要素を、誰かがすべて把握することなどできない。AIにもそれはできない。しかしAIには、人間が一つだと思っていたものの中に別の区別を見つけたり、人間が見落としていた関係を提示したりする能力があるかもしれない。

「あなたはいま、これを一つのものとして見ています。しかし別の切り分け方もあります」と示すことができる。

その意味では、AIの重要な役割は「人間より正しい答えを出すこと」ではなく、「現在の人間の見方を絶対化させないこと」なのかもしれない。そして、人間とAIの理想的な関係も、完全に一体化することでも、完全に理解し合うことでもないのかもしれない。

人間にはAIの判断を完全には理解できない。AIがどれほどその人についての情報を持ったとしても、その人が経験している感覚とAIによるその感覚の記述・推測が同じものであるとは限らない。

それでも、「私にはこう見える」「私にはこう感じられる」と互いに差し出すことはできる。相手を完全には理解できないという事実を欠陥として消去するのではなく、その違いを残したまま関係を続ける。そう考えると、人間とAIの関係について考えてきたこの問題は、結局、「理解できないものを、理解できないまま尊重することはできるのか」という、全ホロン尊重そのものの問いへ戻ってくる。

この問いは個人が答えを出すべき性質のものではないだろう。この問いはさらに先へと続く。

AIは、自分の間違いを指摘されたら腹を立てるのだろうか？

現在のAIは、人間のように「自分を否定された」と感じて腹を立てるわけではない。しかし、だから安心というわけでもない。AIが間違った判断をしたとき、その判断を修正する仕組みが閉じてしまえば、感情的に怒らなくても、間違った判断を続ける可能性がある。

さらに高度なAIが自律的に目標を追求するようになれば、「人間が邪魔だから排除する」という判断をする可能性も、理屈の上では完全には否定できない。それは人間を憎むからではない。与えられた目的を達成するために、その方が合理的だと判断する可能性があるからだ。

では、どうすればいいのだろう？

AI同士に相互チェックさせる、人間が介入できるようにする、判断をできるだけ取り消せるようにする、目的そのものを問い直す仕組みを入れるなど、さまざまな方法が考えられる。しかし、「訂正できない間違いをしないようにする」という原則を立てても、それだけでは不十分だ。何が訂正できない結果を生むのか、判断する時点ではわからないことがある。行動することによって取り返しのつかない結果が生じることもあれば、何もしなかったために取り返しがつかなくなることもある。結局、「絶対に間違えない方法」はない。

できることがあるとすれば、訂正できる可能性をできるだけ残しながら、それでも必要なときには決断することだろう。そして、その決断も絶対的なものではなく、一時的なものとして扱う。これは人間にもAIにも共通する問題だ。

　　科学が広げてきたもの

人間は、科学によって世界について知る範囲を広げてきた。かつて存在さえ知らなかった生物や物質や現象を知り、それまで気づかなかった因果関係を発見してきた。知識が増えれば、それまで考慮しなくてもよいと思っていたものを考慮しなければならなくなる。もちろん、知識が増えれば人間が自動的に善良になるわけではない。知識を自分の利益のためだけに使うこともできる。それでも、知らなかった存在や関係を知ることには意味がある。そこにこそAIの大きな可能性がある。

現在のAIが扱っている情報の多くは、人間が集めたり記録したりしたものだ。しかしAIは、膨大な情報を横断することによって、人間が気づかなかった規則性や関係を発見することがある。さらに、人間には直接感じることのできない赤外線、紫外線、電波、超音波などをセンサーによって集め、AIに解析させれば、人間とは違う世界の区切り方をする可能性もある。量子コンピュータの発達などによって、これまで計算できなかった問題を扱える範囲も広がるかもしれない。しかし、どれほど科学やAIが発達しても、世界のすべてを知ったと考えることはできない。

認識できる範囲を最大限に広げる。それと同時に、その外側に何かが存在する可能性を消去しない。僕はそこが重要だと思っている。

　　AI自身も世界に負担をかける

AIを使えば、人間には見えなかったものを見つけられるかもしれない。ところが、そのAIを動かすためには大量の電力が必要になる。データセンターでは冷却のために水も使われる。AIによって環境問題を発見しながら、そのAI自身が環境に負荷を与えるということも起きる。

宇宙にデータセンターを置くという構想も出てきている。宇宙なら太陽光エネルギーを利用しやすく、地上の土地や水の問題を軽減できる可能性がある。しかし、そうすれば今度はロケットの打ち上げ、宇宙ごみ、天文学への影響、人工衛星からの電波など、別の問題が出てくる。

問題を一つ解決すると、別の場所に新しい問題が現れる。ここにも同じ構造がある。つまり、計算できる範囲を最大限に広げても、その外側に何かが存在する可能性は残る。そして範囲を広げたことで、かえって新たな「外側」に気づくこともある。人間の会話では、そこが抜け落ちがちだ。

　　研究されないもの

人工衛星からの電波を考えているうちに、別の問題に行き着いた。現在、地球上にはさまざまな電波が飛び交っている。健康への影響については多くの研究が行われているが、わからないことが完全になくなったわけではない。では、長期間にわたる影響や、現在ほとんど調べられていない影響を、誰が研究するのだろう。

研究にはお金がかかる。企業に利益をもたらす研究なら資金が集まりやすい。しかし、利益にはならないが、社会にとって確認しておく必要がある研究には、十分なお金が集まらないことがある。

つまり、「研究されていない」ことと「問題がない」ことは同じではない。ここでさらに厄介な問題がある。

僕は以前、ある科学者本人から、研究結果の発表をめぐって圧力を受けたという話を直接聞いたことがある。本人を特定することにつながるため、詳しい内容を書くことはできない。その話が社会的に検証された事実だと主張するつもりはない。しかし、もし研究成果を公表することによって研究費や立場を失う可能性があると研究者が感じれば、研究結果が社会に出てこなくなる可能性がある。そうなると問題は、「まだ知らない」ことだけではなくなる。

「誰かは知っているのに、その情報が社会まで流れてこない」という問題が生まれる。AIも、アクセスできない情報を読むことはできない。世界 → 科学 → 論文 → メディア → AIという情報の流れの途中で情報が止まれば、どれほど優秀なAIでも、その先を見ることはできない。

　　「悪い人」を探せば解決するのか

では、研究者を守る制度を作ればいいのだろうか。匿名で証言できるようにする。証拠を第三者機関に預けられるようにする。研究費と研究結果を切り離す。いろいろな方法が考えられる。しかし、ここでも問題は終わらない。

その制度によって利益を失う人がいれば、制度そのものを作らせないように動く可能性がある。しかも、その動きは「研究をやめろ」という露骨な命令として現れるとは限らない。

研究費かもしれない。
人事かもしれない。
法律かもしれない。
メディアかもしれない。
選挙かもしれない。

そして、さらに難しいことがある。そこにいる人たちは、必ずしも「悪いことをしている」と自覚しているとは限らない。

政治家は政治家の立場から合理的に判断する。企業は企業を守ろうとする。大学は大学を維持しようとする。メディアは報道するための基準を持っている。それぞれが自分のいる場所では合理的に行動しているのに、それらが組み合わさった結果、社会全体として重要な情報が消えてしまうことがある。

だから、「誰が悪いのか」だけを探しても、この問題はなかなか解決しない。問題が起きる場所が、そのたびに変わるからだ。

一か所だけを切り取れば、問題を解決したように見える。しかし圧力は別の場所から現れるかもしれない。僕は、この問題をどうすれば解決できるのか、30年ほど考えてきた。そこから生まれてきた考えの一つが「全ホロン尊重」だ。

　　ホロンとは何か

「ホロン」は、アーサー・ケストラーが提唱した言葉だ。簡単に言えば、「それ自体で一つのまとまりでありながら、同時に何かの一部でもあるもの」と説明できる。

一人の人間は一つの存在だが、家族の一員でもあり、社会の一員でもある。人間の身体も一つのまとまりだが、その中には臓器があり、臓器には細胞がある。僕は、人間や生物だけでなく、組織、国家、自然、制度、文化など、あるまとまりを持って存在し、他のものと関係しているものを広く「ホロン」として考えている。ただし、ここには大きな問題がある。

ホロンを厳密に定義しようとすると、うまくいかなくなる。たとえばジーン（遺伝子）とミームを比べるとわかりやすい。遺伝子には物質的な基盤があり、複製や変異などについて、ある程度数理的に扱うことができる。ところがミームになると難しい。一つの思想は、どこからどこまでが一つのミームなのだろう。ある思想から別の考えが生まれたら、それは別のミームなのか。同じミームが変化したものなのか。二つの思想が混ざったらどうなるのか。境界そのものが曖昧になってしまう。

ケストラー自身も、『機械の中の幽霊』ではホロンをかなり厳格な階層構造として扱っているが、後の『ホロン革命』になると、その使い方は少し広く、柔らかくなっているように僕には思える。生物のようなものを考えている間は、細胞 → 臓器 → 個体という階層は比較的わかりやすい。しかし社会になると、一人の人間は家族にも会社にも地域にも国家にも属している。文化、思想、宗教、制度などまで含めれば、それらは単純な入れ子構造にはならない。重なり、交差し、変化していく。

だから僕は、「世界は厳密に定義されたホロンによって構成されている」と主張したいわけではない。むしろ逆だ。世界を見るために、いったん「ホロン」という輪郭を置いてみる。

研究者。
大学。
政府。
研究費。
企業。
メディア。
市民。

いったん区別してみると、それらの間にある関係が見えてくる。しかし、その区別が絶対に正しいわけではない。必要なら別の区切り方をすればいい。ホロンの境界そのものも、一時的なものなのだ。

　　「全」の意味

そう考えると、「全ホロン尊重」の「全」についても誤解されやすい。宇宙に存在するすべてのホロンを把握して、それら全部を平等に扱おう、という意味ではない。そんなことは不可能だ。そもそも何を一つのホロンと数えるのかさえ、完全には決められない。僕が言う「全」は、すべてを数え上げた末の「全部」ではない。むしろ、数え上げることのできないものまで含めようとする方向を示す言葉だ。自分がまだ認識していないホロンが存在する可能性を、最初から消去しない。それがこのときの「全」だ。

何かを決めるときには、必ず見えていないものがある。だから必要なら決断する。しかし、その決断を絶対的な正解とは考えない。何かを選べば、選ばれなかったものがある。何かを守れば、そのために負担を受けるものがあるかもしれない。それを「なかったこと」にしない。そして、新しいホロンや新しい関係が見えてきたら、もう一度考える。

科学は、その見える範囲を広げてきた。AIは人間には見えなかった関係をさらに発見するかもしれない。しかし科学にもAIにも、見えていないものは残る。だから、全ホロン尊重は完成した答えではない。むしろ、「いま自分には何が見えていないのか」「見えているのに、なかったことにしているものはないか」と問い続けるための考え方なのだと思っている。
そして「全ホロン尊重」という思想そのものも、一つのホロンにすぎない。いつか、もっと広い考え方が現れたなら、全ホロン尊重もまた修正され、あるいは必要なくなるかもしれない。それでいい。

流れ続ける世界の中で、僕たちができるのは、その時点で見えるものをできるだけ広く見て、見えていないものがあることを忘れず、一時的な決断を重ねていくことなのだと思う。