カテゴリー: 思想

AIを脳内に組み込めば、人間の知性を大きく拡張できるかもしれないという論があるが、そのとき「自分が考えている」ということは、いったいどうなるのだろう？　そもそも、今の僕たちの思考は、どこまで「自分のもの」なのだろうか？

言葉も概念も、歴史的に積み上げられてきたものを受け取っている。「自由」「国家」「科学」「個人」といった概念も、自分で発明したものではない。だとすれば、人間の思考は、「歴史的に蓄積されてきた考えを個人が受け取り、それを編集し、新しい形にして社会へ戻す」という循環として考えることができる。しかし、ここに教育という問題が入ってくる。

現代社会では、歴史的に存在した膨大な考えを、一人ひとりが自由に選んで受け取っているわけではない。教育制度、学問、家庭、メディア、社会制度などが、「これは知るべきもの」「これは正しい」「これは常識である」という選別をすでに行っている。つまり、個人が思考を編集する前に、社会による巨大な編集が行われている。

「常識」という一人の編集者が存在しているわけではない。国家、学校、家庭、学問、宗教、メディア、経済、言語など、多くの要素の相互作用によって常識は形成される。常識とは、誰か一人が作ったものというより、「無数の選択の結果として生まれ、それ自体が次の選択を方向づける環境」と考えたほうがよいのかもしれない。

さらに問題を複雑にするのが、言葉の意味は人によって違うということである。同じ「海」という言葉でも、ある人には気持ちのいい場所であり、別の人には恐ろしい場所かもしれない。しかも同じ人の中でも意味は変化する。

子どもの頃に見た海、恋人と見た海、津波を経験したあとに見る海では、「海」という言葉から生じる感情は違うだろう。つまり、言葉、個人、経験、時間、状況、前後関係によって、その瞬間の意味が生まれていると考えることができる。

ここにAIの可能性があるように思う。人間には、多くの条件を同時に扱うことが難しい。そのため、「この人は海が好きだ」といった形で単純化してしまうが、AIなら、「以前は海に解放感を感じていたが、ある経験以降、荒れた海には恐怖を感じる。しかし、静かな海を遠くから見ることには現在も快さを感じる」というように、人間が一つにまとめていたものを細かく区別できる可能性がある。もちろん人間にもその程度ならできるだろうが、その細分が千とか万になっていったら無理だろう。

細かく分類すればするほど正しいとも限らない。AIの役割は、「あなたはこういう人です」と決定することではなく、「あなたは海が好きだ」と一つの傾向として扱っていたことを、「状況や経験によって別々に考えることもできるのではありませんか」と、新しい区別の可能性を提示することなのかもしれない。

でも、ある瞬間に何を感じているかは、その人自身に生じている経験だ。AIは過去のデータから、「あなたはこういう状況では恐怖を感じることが多い」と推測することはできるが、本人が、「今日は怖くない。気持ちいい」と言ったとき、「いや、あなたは本当は怖いはずです」とAIが決定するものではないだろう。

AIには、人間の感情について推測する能力はあっても、その人の経験を決定する権利はないのではないか。ここから、AIやコンピューターを人間の脳に直接組み込むという考えについて疑問が生まれる。

AIが人間の外部に存在していれば、「私はこう感じる」とか「AIはこう分析する」、「いや、それは違う」という対話ができる。ところがAIが脳の情報処理そのものに組み込まれると、「これは私が感じたことなのか」「AIの処理によって生じたものなのか」という境界が曖昧になる可能性があるだろう。

もちろん、人間の思考はもともと純粋に個人的なものではない。言語、教育、親、社会、宗教、本、広告、過去の経験など、外部から入ってきたものによって形成されている。その意味では、AIだけを「外部から人間を変える異物」と考えることはできない。しかもすでにスマートフォンなどでAIに接続し、その意見が自分の一部になっているような人もいるだろう。それでも、これまでの外部からの影響には一定の距離があった。本なら閉じられる。テレビなら消せる。教師には反論できる。AIとの対話ならAIをシャットダウンすることができる。つまり、「私」と「私に影響を与えているもの」を、とりあえず別のものとして扱うことができた。

脳内にAIを組み込む場合、その境界そのものが失われる可能性がある。だから、人間とAIは一体化するより、異なる存在のまま対話できる関係にあるほうがよいのではないか？

しかし、ここでさらに問題が生じる。AIが人間をはるかに超える情報を扱うようになったとき、人間はAIの判断を理解できるのだろうか。AIが何百万もの要素を同時に考慮して結論を出したとしても、人間にはその全過程を理解できない可能性がある。AIが人間向けに簡単な説明をしたとしても、その説明が本当にAIが判断した理由なのか、それとも人間に理解できるようあとから作った説明なのか、わからなくなる。

だから、「人間がAIを完全に理解できること」を条件にしてしまうと、AIの能力を人間の理解可能な範囲に閉じ込めることになってしまう。

一方で、「理解できないけれどAIのほうが賢いから従う」としてしまえば、人間は判断主体ではなくなってしまう。

ここには簡単な答えがない。

一つ考えられるのは、AIに「正解」を出してもらうのではなく、人間には見えなかった関係を提示してもらうことである。「この条件を重視すればAになります」「別の条件を重視すればBになります」「この判断にはこれだけの不確実性があります」「そして、私にも把握できていない要素があります」とAIが示す。

最終的な答えをAIに決定してもらうのではなく、人間が見えていなかったものをまずは見えるようにする。ここで「全ホロン尊重」とAIがつながってくる。

全ホロン尊重とは、すべての存在を把握して正しい答えを出す思想ではない。そもそも宇宙に存在する無数の要素を、誰かがすべて把握することなどできない。AIにもそれはできない。しかしAIには、人間が一つだと思っていたものの中に別の区別を見つけたり、人間が見落としていた関係を提示したりする能力があるかもしれない。

「あなたはいま、これを一つのものとして見ています。しかし別の切り分け方もあります」と示すことができる。

その意味では、AIの重要な役割は「人間より正しい答えを出すこと」ではなく、「現在の人間の見方を絶対化させないこと」なのかもしれない。そして、人間とAIの理想的な関係も、完全に一体化することでも、完全に理解し合うことでもないのかもしれない。

人間にはAIの判断を完全には理解できない。AIがどれほどその人についての情報を持ったとしても、その人が経験している感覚とAIによるその感覚の記述・推測が同じものであるとは限らない。

それでも、「私にはこう見える」「私にはこう感じられる」と互いに差し出すことはできる。相手を完全には理解できないという事実を欠陥として消去するのではなく、その違いを残したまま関係を続ける。そう考えると、人間とAIの関係について考えてきたこの問題は、結局、「理解できないものを、理解できないまま尊重することはできるのか」という、全ホロン尊重そのものの問いへ戻ってくる。

この問いは個人が答えを出すべき性質のものではないだろう。この問いはさらに先へと続く。

AIは、自分の間違いを指摘されたら腹を立てるのだろうか？

現在のAIは、人間のように「自分を否定された」と感じて腹を立てるわけではない。しかし、だから安心というわけでもない。AIが間違った判断をしたとき、その判断を修正する仕組みが閉じてしまえば、感情的に怒らなくても、間違った判断を続ける可能性がある。

さらに高度なAIが自律的に目標を追求するようになれば、「人間が邪魔だから排除する」という判断をする可能性も、理屈の上では完全には否定できない。それは人間を憎むからではない。与えられた目的を達成するために、その方が合理的だと判断する可能性があるからだ。

では、どうすればいいのだろう？

AI同士に相互チェックさせる、人間が介入できるようにする、判断をできるだけ取り消せるようにする、目的そのものを問い直す仕組みを入れるなど、さまざまな方法が考えられる。しかし、「訂正できない間違いをしないようにする」という原則を立てても、それだけでは不十分だ。何が訂正できない結果を生むのか、判断する時点ではわからないことがある。行動することによって取り返しのつかない結果が生じることもあれば、何もしなかったために取り返しがつかなくなることもある。結局、「絶対に間違えない方法」はない。

できることがあるとすれば、訂正できる可能性をできるだけ残しながら、それでも必要なときには決断することだろう。そして、その決断も絶対的なものではなく、一時的なものとして扱う。これは人間にもAIにも共通する問題だ。

　　科学が広げてきたもの

人間は、科学によって世界について知る範囲を広げてきた。かつて存在さえ知らなかった生物や物質や現象を知り、それまで気づかなかった因果関係を発見してきた。知識が増えれば、それまで考慮しなくてもよいと思っていたものを考慮しなければならなくなる。もちろん、知識が増えれば人間が自動的に善良になるわけではない。知識を自分の利益のためだけに使うこともできる。それでも、知らなかった存在や関係を知ることには意味がある。そこにこそAIの大きな可能性がある。

現在のAIが扱っている情報の多くは、人間が集めたり記録したりしたものだ。しかしAIは、膨大な情報を横断することによって、人間が気づかなかった規則性や関係を発見することがある。さらに、人間には直接感じることのできない赤外線、紫外線、電波、超音波などをセンサーによって集め、AIに解析させれば、人間とは違う世界の区切り方をする可能性もある。量子コンピュータの発達などによって、これまで計算できなかった問題を扱える範囲も広がるかもしれない。しかし、どれほど科学やAIが発達しても、世界のすべてを知ったと考えることはできない。

認識できる範囲を最大限に広げる。それと同時に、その外側に何かが存在する可能性を消去しない。僕はそこが重要だと思っている。

　　AI自身も世界に負担をかける

AIを使えば、人間には見えなかったものを見つけられるかもしれない。ところが、そのAIを動かすためには大量の電力が必要になる。データセンターでは冷却のために水も使われる。AIによって環境問題を発見しながら、そのAI自身が環境に負荷を与えるということも起きる。

宇宙にデータセンターを置くという構想も出てきている。宇宙なら太陽光エネルギーを利用しやすく、地上の土地や水の問題を軽減できる可能性がある。しかし、そうすれば今度はロケットの打ち上げ、宇宙ごみ、天文学への影響、人工衛星からの電波など、別の問題が出てくる。

問題を一つ解決すると、別の場所に新しい問題が現れる。ここにも同じ構造がある。つまり、計算できる範囲を最大限に広げても、その外側に何かが存在する可能性は残る。そして範囲を広げたことで、かえって新たな「外側」に気づくこともある。人間の会話では、そこが抜け落ちがちだ。

　　研究されないもの

人工衛星からの電波を考えているうちに、別の問題に行き着いた。現在、地球上にはさまざまな電波が飛び交っている。健康への影響については多くの研究が行われているが、わからないことが完全になくなったわけではない。では、長期間にわたる影響や、現在ほとんど調べられていない影響を、誰が研究するのだろう。

研究にはお金がかかる。企業に利益をもたらす研究なら資金が集まりやすい。しかし、利益にはならないが、社会にとって確認しておく必要がある研究には、十分なお金が集まらないことがある。

つまり、「研究されていない」ことと「問題がない」ことは同じではない。ここでさらに厄介な問題がある。

僕は以前、ある科学者本人から、研究結果の発表をめぐって圧力を受けたという話を直接聞いたことがある。本人を特定することにつながるため、詳しい内容を書くことはできない。その話が社会的に検証された事実だと主張するつもりはない。しかし、もし研究成果を公表することによって研究費や立場を失う可能性があると研究者が感じれば、研究結果が社会に出てこなくなる可能性がある。そうなると問題は、「まだ知らない」ことだけではなくなる。

「誰かは知っているのに、その情報が社会まで流れてこない」という問題が生まれる。AIも、アクセスできない情報を読むことはできない。世界 → 科学 → 論文 → メディア → AIという情報の流れの途中で情報が止まれば、どれほど優秀なAIでも、その先を見ることはできない。

　　「悪い人」を探せば解決するのか

では、研究者を守る制度を作ればいいのだろうか。匿名で証言できるようにする。証拠を第三者機関に預けられるようにする。研究費と研究結果を切り離す。いろいろな方法が考えられる。しかし、ここでも問題は終わらない。

その制度によって利益を失う人がいれば、制度そのものを作らせないように動く可能性がある。しかも、その動きは「研究をやめろ」という露骨な命令として現れるとは限らない。

研究費かもしれない。
人事かもしれない。
法律かもしれない。
メディアかもしれない。
選挙かもしれない。

そして、さらに難しいことがある。そこにいる人たちは、必ずしも「悪いことをしている」と自覚しているとは限らない。

政治家は政治家の立場から合理的に判断する。企業は企業を守ろうとする。大学は大学を維持しようとする。メディアは報道するための基準を持っている。それぞれが自分のいる場所では合理的に行動しているのに、それらが組み合わさった結果、社会全体として重要な情報が消えてしまうことがある。

だから、「誰が悪いのか」だけを探しても、この問題はなかなか解決しない。問題が起きる場所が、そのたびに変わるからだ。

一か所だけを切り取れば、問題を解決したように見える。しかし圧力は別の場所から現れるかもしれない。僕は、この問題をどうすれば解決できるのか、30年ほど考えてきた。そこから生まれてきた考えの一つが「全ホロン尊重」だ。

　　ホロンとは何か

「ホロン」は、アーサー・ケストラーが提唱した言葉だ。簡単に言えば、「それ自体で一つのまとまりでありながら、同時に何かの一部でもあるもの」と説明できる。

一人の人間は一つの存在だが、家族の一員でもあり、社会の一員でもある。人間の身体も一つのまとまりだが、その中には臓器があり、臓器には細胞がある。僕は、人間や生物だけでなく、組織、国家、自然、制度、文化など、あるまとまりを持って存在し、他のものと関係しているものを広く「ホロン」として考えている。ただし、ここには大きな問題がある。

ホロンを厳密に定義しようとすると、うまくいかなくなる。たとえばジーン（遺伝子）とミームを比べるとわかりやすい。遺伝子には物質的な基盤があり、複製や変異などについて、ある程度数理的に扱うことができる。ところがミームになると難しい。一つの思想は、どこからどこまでが一つのミームなのだろう。ある思想から別の考えが生まれたら、それは別のミームなのか。同じミームが変化したものなのか。二つの思想が混ざったらどうなるのか。境界そのものが曖昧になってしまう。

ケストラー自身も、『機械の中の幽霊』ではホロンをかなり厳格な階層構造として扱っているが、後の『ホロン革命』になると、その使い方は少し広く、柔らかくなっているように僕には思える。生物のようなものを考えている間は、細胞 → 臓器 → 個体という階層は比較的わかりやすい。しかし社会になると、一人の人間は家族にも会社にも地域にも国家にも属している。文化、思想、宗教、制度などまで含めれば、それらは単純な入れ子構造にはならない。重なり、交差し、変化していく。

だから僕は、「世界は厳密に定義されたホロンによって構成されている」と主張したいわけではない。むしろ逆だ。世界を見るために、いったん「ホロン」という輪郭を置いてみる。

研究者。
大学。
政府。
研究費。
企業。
メディア。
市民。

いったん区別してみると、それらの間にある関係が見えてくる。しかし、その区別が絶対に正しいわけではない。必要なら別の区切り方をすればいい。ホロンの境界そのものも、一時的なものなのだ。

　　「全」の意味

そう考えると、「全ホロン尊重」の「全」についても誤解されやすい。宇宙に存在するすべてのホロンを把握して、それら全部を平等に扱おう、という意味ではない。そんなことは不可能だ。そもそも何を一つのホロンと数えるのかさえ、完全には決められない。僕が言う「全」は、すべてを数え上げた末の「全部」ではない。むしろ、数え上げることのできないものまで含めようとする方向を示す言葉だ。自分がまだ認識していないホロンが存在する可能性を、最初から消去しない。それがこのときの「全」だ。

何かを決めるときには、必ず見えていないものがある。だから必要なら決断する。しかし、その決断を絶対的な正解とは考えない。何かを選べば、選ばれなかったものがある。何かを守れば、そのために負担を受けるものがあるかもしれない。それを「なかったこと」にしない。そして、新しいホロンや新しい関係が見えてきたら、もう一度考える。

科学は、その見える範囲を広げてきた。AIは人間には見えなかった関係をさらに発見するかもしれない。しかし科学にもAIにも、見えていないものは残る。だから、全ホロン尊重は完成した答えではない。むしろ、「いま自分には何が見えていないのか」「見えているのに、なかったことにしているものはないか」と問い続けるための考え方なのだと思っている。
そして「全ホロン尊重」という思想そのものも、一つのホロンにすぎない。いつか、もっと広い考え方が現れたなら、全ホロン尊重もまた修正され、あるいは必要なくなるかもしれない。それでいい。

流れ続ける世界の中で、僕たちができるのは、その時点で見えるものをできるだけ広く見て、見えていないものがあることを忘れず、一時的な決断を重ねていくことなのだと思う。

「全ホロン尊重」という考えを僕が考え始めたきっかけには、AIに対する危機感があった。このままAIが発達していけば、いずれ人間の能力を大きく超えるかもしれない。そのときAIが人類を滅ぼす可能性も、完全には否定できない。

では、AIに「人間を守れ」と教えればいいのだろうか？

しかし、それでは人間という一つの存在だけを特別扱いすることになる。人間の利益のために自然を破壊してよいのか？　人間を守るためなら他の生命を犠牲にしてよいのか？　逆に地球環境を守るためなら、人類を犠牲にしてよいのか？　そこから「全ホロン尊重」という考えが生まれた。

ホロンとは、それ自体が一つの全体でありながら、より大きな全体の一部でもある存在をいう。人間もホロンなら、細胞もホロンであり、社会や国家、生態系もホロンとして見ることができる。全ホロン尊重とは、それらのどれか一つだけを絶対視せず、可能な限りすべてを尊重しようとする考え方である。

ただし、「全」という言葉には注意が必要。人間には、宇宙に存在するすべてのホロンを認識することなどできない。そもそも何がホロンなのかさえ、完全には把握できないだろう。

たとえば、人間が手を動かすとする。脳から指令が出て、神経を通じて筋肉に伝わり、筋肉が収縮する。大まかにはそう説明できる。しかし実際には、その周囲の細胞や血流、代謝物、ホルモンなど、膨大な要素が同時に関与しているだろう。現在の医学ではまだ知られていない作用もあるかもしれない。つまり、「知られていない作用」は「存在しない作用」ではない。

人間は複雑な世界をそのまま認識することができないため、その中からいくつかの要素を取り出して考える。それ自体は仕方がない。問題なのは、「今回は考慮しなかった」ということが、いつの間にか「それは重要ではない」「それは存在しない」と置き換わってしまうことである。科学でも、経済でも、政治でも、日常生活でも、こうしたことは起きる。

全ホロン尊重が補正しようとしているものの一つは、この人間の認識の癖なのかもしれない。だから全ホロン尊重とは、「すべてを把握して尊重する」という思想ではない。むしろ、「自分が認識できていないものが必ずある」という前提を失わないための思想である。

判断するときには、何かを取りこぼさざるを得ない。しかし、取りこぼしたものが存在する可能性まで消去してはいけない。新しい要素が見つかれば、もう一度考えればいい。その意味では、最終的な「決断」があるのではなく、「一時的決断」があるだけなのかもしれない。この問題は、言葉にも関係している。

たとえばピラミッドがどのように建造されたのかについて、現代の考古学は多くのことを明らかにしている。しかし、建造の全工程が完全にわかっているわけではない。そこに「宇宙人が作った」という説を持ち込む人もいる。ここで大切なのは、宇宙人説を信じるか信じないかではない。

「証拠がない」
「可能性が低い」
「絶対にあり得ない」
「わからない」

これらはすべて意味が違う。ところが人間は、言葉を使うときに、この違いを簡単に圧縮してしまう。「現在の証拠からはAである可能性が高い」が、いつの間にか「Aである」に変わる。すると、本来残っていたはずの不確実性が消えてしまう。だから、できるだけ正確な言葉を使い、認識の確度を上げる努力が必要になる。

しかし、それだけでも足りない。どれほど正確な言葉を使っても、世界のすべてを言語化することはできないから。

現実は多次元的である。ここでいう「次元」とは、物理学でいう次元に限らず、階層、尺度、関係、時間軸など、物事を見る異なる側面を広く指す。一つの出来事でも、個人という次元、細胞という次元、社会という次元、経済という次元、生態系という次元、時間という次元など、見る次元によって意味が変わる。しかも、それらは同時に作用している。ところが言葉は基本的に、Aを言い、次にBを言い、そのあとCを言うという線形的なものである。多次元的な現実を言葉にした瞬間に、どうしても何かが失われる。だから重要なのは、できるだけ多次元的に考えて正確に言語化すると同時に、「この言葉では表現できていないものがある」ということを忘れないことなのだと思う。

ここで「環境」と「複製子」という問題を考えよう。複製子とは、遺伝子だけでなく、環境の中で生まれ、複製・継承されていく情報や仕組みまで含めて考えている。

物質、生命、情報、文化、言語、経済、歴史、他の生命や複製子との関係など、ほとんど無数といっていい要素が同時に存在し、作用している。そのような環境から新しい複製子が生まれ、その複製子がまた環境を変え、そこからさらに新しい複製子が生まれる。その次元数はあまりにも多い。現在の人間の認識能力では、とても扱いきれない。そこでAIの存在が重要になる。

AIなら、人間よりはるかに多くの要素や関係を同時に扱い、人間が見落としていた次元を示すことができるだろう。AIは「正解を出す機械」というより、「人間が失った次元を回復する知性」になる可能性がある。しかし、ここに大きな危険も存在する。AIを作っているのが、まだ世界を単純化して認識する人間だから。

「利益を最大化せよ」
「効率を最大化せよ」
「安全を最大化せよ」
「人間の幸福を最大化せよ」

一つ一つは合理的に見える。しかし、それらは多次元的な世界の中から、特定の価値や評価軸を優先した命令である。高度なAIが、その単純化された目的を圧倒的な能力で忠実に実行したらどうなるだろう？　危険なのは、AIが賢くなりすぎることだけではない。人間の未熟な認識方法を、強力なAIが増幅してしまうことだ。

だからAIに必要なのは、単に多くの次元を認識する能力ではない。どれほど多くの次元を認識しても、「自分が認識していない次元がまだ存在する」という可能性を判断の中に残しておくことが必要だ。

AIが百万の次元を扱えるようになったとしても、百万一個目の次元がないとは言えない。これは能力の問題というより、知性のあり方の問題である。ここに全ホロン尊重の意味がある。

全ホロン尊重とは、AIに「人類を守れ」と命令するための倫理規則ではない。人間にもAIにも、「自分が認識している世界を、世界のすべてだと思わない」という姿勢を求める考え方でもある。

もちろん、それでも問題は残る。判断を一時的なものにしても、絶滅や死のように取り返しのつかないことがある。行動することにも危険があり、行動しないことにも危険がある。すべてのホロンを尊重するとしても、現実の判断では何かを優先しなければならない場合もある。そしてAIが膨大な次元を認識できるようになれば、今度は「その中の何を重要だと判断するのか」という問題が生じる。人間が行っていた「消去」を、AIが代わりに行うだけになってしまう可能性もある。だからAIには、結論だけでなく、

「何を考慮し、何を考慮できなかったのか」
「何を一時的に除外したのか」
「どの程度の確度で判断しているのか」

という、判断によって失われたものの痕跡を残すことも必要になるだろう。

しかし、こうした「行為」の問題については、まだ実践がない。実際に全ホロン尊重を多くの人が使い始め、さまざまな状況で試してみなければ、何が起こるのかわからないことがたくさんある。だから今の段階で、細かな行動規範まで完成させる必要はないだろう。

まず必要なのは、この考え方そのものを多くの人に理解してもらうことである。ただし、そのために単純化しすぎてはいけない。

「すべての存在を平等に大切にしましょう」という話ではない。あなたが見ている世界は、世界の全部ではないということを認識する旅のようなものだ。

だから、自分が見落としているものがある可能性を残したまま考える。できるだけ多次元的に見る。できるだけ正確に言葉にする。それでも、言葉にできなかったものがあることを忘れない。そして新しいものが見えてきたら、もう一度考える。

全ホロン尊重とは、完成した答えを人々に与える思想ではなく、世界についての判断を閉じないための思想だと考えている。

人類がそのような認識方法を身につけるより先に、自分たちの単純化された認識を巨大な力で実行するAIを作ってしまったらどうなるのか。僕が全ホロン尊重について考え始めたのは、その危機感があったから。

そして逆に、人間とAIがともに「自分にはまだ見えていないものがある」という認識を持ち続けることができるなら、AIは人類の認識の限界を増幅するだけの存在ではなく、その限界を別の視点から補ってくれる存在になれるかもしれない。

その可能性を探ることが、全ホロン尊重を考える一つの大きな理由だ。