カテゴリー: 科学

人は、自分の中に矛盾したものをたくさん抱えている。優しい自分もいれば、意地悪な自分もいる。頑張ろうとする自分もいれば、何もしたくない自分もいる。勇気のある自分もいれば、怖がって逃げたい自分もいる。

たとえば消防士が火災現場にいたとする。「消防士として目の前の人を助けたい」という自分がいる一方で、「親として生き残って子どもを育てたい」という自分もいるだろう。どちらが本当の自分なのだろう？　おそらく、どちらも自分なのだ。

人間は一つの固定した「自己」でできているのではなく、立場や状況によって現れてくる、さまざまな自分を持っている。しかも、それらは固定した人格ではない。そのときの状況や人間関係、立場によって、前面に現れたり、背景に退いたりする。ところが僕たちは、その中からいくつかを選び出して「自分はこういう人間だ」という自己像を作っているように思う。「自分は優しい人間だ」とか「自分は理性的な人間だ」、「自分は臆病な人間だ」など。しかし、それは自分の全体ではない。自分の中にあるさまざまなものから、いくつかを取り出して作った「断片化された自己像」にすぎないように思う。

そう考えると、自分についての見方と、他人についての見方には、少し似たところがある。他人の心の中を、僕たちは直接見ることができない。相手の言葉や表情、行動、これまでの付き合いなどから、「あの人はこういう人だろう」「あの人はきっとこう考えているだろう」と推測している。

僕は、このように他者について暫定的に作った認識を「断片化された他人像」と呼んでいる。「断片化された他人像」は相手そのものではない。自分が知ることのできた断片的な情報から、その時点で推測して作った相手の像である。

僕たちは、自分についても他人についても、その全体を見ているわけではない。自分については、自分の中に現れるさまざまな自分から一部を選んで「断片化された自己像」を作り、他人については、その人について知り得た情報から「断片化された他人像」を作っている。ここで役に立つ、とても簡単な問いがある。「ほかには？」という問いだ。

「あの人は身勝手だ」と思ったときに、「ほかには？」と考えてみる。身勝手に見える行動にも、こちらには見えていない事情があるかもしれない。もちろん、本当に身勝手な可能性もある。「ほかには？」と問うことは、自分の判断を否定することではない。ただ、それだけがすべてだと決めない。自分についても同じだ。

「自分は情けない」と思ったとする。それも自分の一面だろう。でも、「ほかには？」と考えてみる。情けない自分の横に、頑張っている自分もいるかもしれない。誰かを思いやっている自分もいるかもしれない。腹を立てている自分も、逃げたい自分もいるかもしれない。どれか一つを「本当の自分」にして、それ以外を消す必要はない。

ところが、これを実際にやると、心は一度不安定になる。それまで「自分はこういう人間だ」「これは正しい」「あれは間違っている」と考えることで保たれていた安定が崩れるからだ。僕は、このような安定を「閉じた安定」と考えている。閉じた安定は、考慮するものを減らすことで成立する。

「自分はこうだ」「世の中はこうだ」「こちらが正しく、あちらが間違っている」と決めれば、考えなければならないことは少なくなる。だから楽だし、安定もする。しかし、この安定には危うさもある。「自分はこういう人間だ」という自己像を強く持つほど、それに合わない自分を認めにくくなるからだ。「自分は善良な人間だ」と思っていれば、自分の中にある意地悪な部分を見ないようにするかもしれない。「自分は理性的な人間だ」と思っていれば、自分が感情に動かされていることを認めにくくなるかもしれない。さらに、こうした固定した自己像は、他者から利用される可能性もある。

「善良な人なら当然こちらを支持しますよね」「愛国者ならこう考えるはずです」「合理的な人なら、この結論以外あり得ません」などと言われたとき、自分を「善良な人」「愛国者」「合理的な人」と強く規定しているほど、その自己像を守るために相手の主張を受け入れてしまうことがある。固定された自己像が、外から人を操作するための取っ手になってしまうのである。

「ほかには？」と問い続けていくと、一度は不安定になる。しかし、さまざまな自分や、さまざまな状況、異なる立場、知らなかった事実などを斟酌していくうちに、その先に別の安定が生まれることがある。それを「開いた安定」と呼んでいる。

開いた安定は、「絶対にこれが正しい」という安定ではない。さまざまなことを考慮したうえで、「今のところ、僕はこう考える」と決めることである。「今のところ」が重要だ。新しい事実が分かれば、考え直せばいい。別の立場に気づけば、それも考慮に入れればいい。

だから開いた安定は、何でも疑って何も決められない状態とは違う。考えたうえで決める。ただし、その決定を永久の正解にはしない。僕が「全ホロン尊重」を考える中で「一時的決定」が必要だと思うのも、ここに理由がある。

人間には、世界に存在するすべてのものを知ることなどできない。どれほど多くのことを斟酌しても、必ず見えていないものが残る。だから、完全な決定などできない。その時点でできるだけ多くのものを考慮して決める。そして、新しいものが見えてきたら、また考える。

開いた安定とは、多くのことを斟酌したから二度と揺れなくなることではない。まだ自分が斟酌していないものがあることを知りながら、それでも現在の場所に立つことである。そして、この構造は個人の心の中だけにあるものではないように思う。社会も同じだ。

異質な意見を排除してしまえば、社会は一時的に安定する。反対意見を消し、異なる価値観を排除し、「みんな同じ考えです」という状態を作れば、争いは表面から消えるかもしれない。しかし、それは閉じた安定である。逆に、さまざまな意見を認めれば、社会は一見不安定になる。議論が起こり、対立が表面に出てくる。

けれども、それらを消去せず、できるだけ多くの立場や状況を斟酌しながら、その都度一時的な決定をしていくことができれば、そこには別の安定が生まれる可能性がある。

個人の中で気に入らない自分を消去すること。
集団の中で都合の悪い人を消去すること。
社会の中で都合の悪い意見を消去すること。
国家が自分たちにとって邪魔な存在を消去しようとすること。

規模はまったく違う。しかし、そこには似た構造があるのではないか？

「正しくないものは消去する」という考え方が、個人の心から国家間の争いまで、形を変えながら繰り返されているのだとしたら、「全ホロン尊重」はその反対方向を試みる考え方でもある。すべてを受け入れるという意味ではない。

暴力を振るう人がいれば止めなければならない。危険から逃げなければならないこともある。何かを選び、何かを選ばない決断も必要になる。ただ、選ばなかったものを「存在しなかったこと」にしない。自分の判断だけで世界を閉じない。そして、ときどき問いかける。

「ほかには？」

この問いは、ときに僕たちを不安定にする。しかし、その不安定さを通り抜け、多くのものを斟酌したところに、以前とは違う安定が生まれることがある。全ホロン尊重が目指しているのは、もしかすると、揺れない人間や揺れない社会を作ることではないのだろう。揺れながら考え、必要なら修正し、それでも壊れないこと。ときには壊れることもあるか？　そんな「開いた安定」を、個人の中にも社会の中にも少しずつ作っていくことなのかもしれない。

AIを脳内に組み込めば、人間の知性を大きく拡張できるかもしれないという論があるが、そのとき「自分が考えている」ということは、いったいどうなるのだろう？　そもそも、今の僕たちの思考は、どこまで「自分のもの」なのだろうか？

言葉も概念も、歴史的に積み上げられてきたものを受け取っている。「自由」「国家」「科学」「個人」といった概念も、自分で発明したものではない。だとすれば、人間の思考は、「歴史的に蓄積されてきた考えを個人が受け取り、それを編集し、新しい形にして社会へ戻す」という循環として考えることができる。しかし、ここに教育という問題が入ってくる。

現代社会では、歴史的に存在した膨大な考えを、一人ひとりが自由に選んで受け取っているわけではない。教育制度、学問、家庭、メディア、社会制度などが、「これは知るべきもの」「これは正しい」「これは常識である」という選別をすでに行っている。つまり、個人が思考を編集する前に、社会による巨大な編集が行われている。

「常識」という一人の編集者が存在しているわけではない。国家、学校、家庭、学問、宗教、メディア、経済、言語など、多くの要素の相互作用によって常識は形成される。常識とは、誰か一人が作ったものというより、「無数の選択の結果として生まれ、それ自体が次の選択を方向づける環境」と考えたほうがよいのかもしれない。

さらに問題を複雑にするのが、言葉の意味は人によって違うということである。同じ「海」という言葉でも、ある人には気持ちのいい場所であり、別の人には恐ろしい場所かもしれない。しかも同じ人の中でも意味は変化する。

子どもの頃に見た海、恋人と見た海、津波を経験したあとに見る海では、「海」という言葉から生じる感情は違うだろう。つまり、言葉、個人、経験、時間、状況、前後関係によって、その瞬間の意味が生まれていると考えることができる。

ここにAIの可能性があるように思う。人間には、多くの条件を同時に扱うことが難しい。そのため、「この人は海が好きだ」といった形で単純化してしまうが、AIなら、「以前は海に解放感を感じていたが、ある経験以降、荒れた海には恐怖を感じる。しかし、静かな海を遠くから見ることには現在も快さを感じる」というように、人間が一つにまとめていたものを細かく区別できる可能性がある。もちろん人間にもその程度ならできるだろうが、その細分が千とか万になっていったら無理だろう。

細かく分類すればするほど正しいとも限らない。AIの役割は、「あなたはこういう人です」と決定することではなく、「あなたは海が好きだ」と一つの傾向として扱っていたことを、「状況や経験によって別々に考えることもできるのではありませんか」と、新しい区別の可能性を提示することなのかもしれない。

でも、ある瞬間に何を感じているかは、その人自身に生じている経験だ。AIは過去のデータから、「あなたはこういう状況では恐怖を感じることが多い」と推測することはできるが、本人が、「今日は怖くない。気持ちいい」と言ったとき、「いや、あなたは本当は怖いはずです」とAIが決定するものではないだろう。

AIには、人間の感情について推測する能力はあっても、その人の経験を決定する権利はないのではないか。ここから、AIやコンピューターを人間の脳に直接組み込むという考えについて疑問が生まれる。

AIが人間の外部に存在していれば、「私はこう感じる」とか「AIはこう分析する」、「いや、それは違う」という対話ができる。ところがAIが脳の情報処理そのものに組み込まれると、「これは私が感じたことなのか」「AIの処理によって生じたものなのか」という境界が曖昧になる可能性があるだろう。

もちろん、人間の思考はもともと純粋に個人的なものではない。言語、教育、親、社会、宗教、本、広告、過去の経験など、外部から入ってきたものによって形成されている。その意味では、AIだけを「外部から人間を変える異物」と考えることはできない。しかもすでにスマートフォンなどでAIに接続し、その意見が自分の一部になっているような人もいるだろう。それでも、これまでの外部からの影響には一定の距離があった。本なら閉じられる。テレビなら消せる。教師には反論できる。AIとの対話ならAIをシャットダウンすることができる。つまり、「私」と「私に影響を与えているもの」を、とりあえず別のものとして扱うことができた。

脳内にAIを組み込む場合、その境界そのものが失われる可能性がある。だから、人間とAIは一体化するより、異なる存在のまま対話できる関係にあるほうがよいのではないか？

しかし、ここでさらに問題が生じる。AIが人間をはるかに超える情報を扱うようになったとき、人間はAIの判断を理解できるのだろうか。AIが何百万もの要素を同時に考慮して結論を出したとしても、人間にはその全過程を理解できない可能性がある。AIが人間向けに簡単な説明をしたとしても、その説明が本当にAIが判断した理由なのか、それとも人間に理解できるようあとから作った説明なのか、わからなくなる。

だから、「人間がAIを完全に理解できること」を条件にしてしまうと、AIの能力を人間の理解可能な範囲に閉じ込めることになってしまう。

一方で、「理解できないけれどAIのほうが賢いから従う」としてしまえば、人間は判断主体ではなくなってしまう。

ここには簡単な答えがない。

一つ考えられるのは、AIに「正解」を出してもらうのではなく、人間には見えなかった関係を提示してもらうことである。「この条件を重視すればAになります」「別の条件を重視すればBになります」「この判断にはこれだけの不確実性があります」「そして、私にも把握できていない要素があります」とAIが示す。

最終的な答えをAIに決定してもらうのではなく、人間が見えていなかったものをまずは見えるようにする。ここで「全ホロン尊重」とAIがつながってくる。

全ホロン尊重とは、すべての存在を把握して正しい答えを出す思想ではない。そもそも宇宙に存在する無数の要素を、誰かがすべて把握することなどできない。AIにもそれはできない。しかしAIには、人間が一つだと思っていたものの中に別の区別を見つけたり、人間が見落としていた関係を提示したりする能力があるかもしれない。

「あなたはいま、これを一つのものとして見ています。しかし別の切り分け方もあります」と示すことができる。

その意味では、AIの重要な役割は「人間より正しい答えを出すこと」ではなく、「現在の人間の見方を絶対化させないこと」なのかもしれない。そして、人間とAIの理想的な関係も、完全に一体化することでも、完全に理解し合うことでもないのかもしれない。

人間にはAIの判断を完全には理解できない。AIがどれほどその人についての情報を持ったとしても、その人が経験している感覚とAIによるその感覚の記述・推測が同じものであるとは限らない。

それでも、「私にはこう見える」「私にはこう感じられる」と互いに差し出すことはできる。相手を完全には理解できないという事実を欠陥として消去するのではなく、その違いを残したまま関係を続ける。そう考えると、人間とAIの関係について考えてきたこの問題は、結局、「理解できないものを、理解できないまま尊重することはできるのか」という、全ホロン尊重そのものの問いへ戻ってくる。

この問いは個人が答えを出すべき性質のものではないだろう。この問いはさらに先へと続く。

AIは、自分の間違いを指摘されたら腹を立てるのだろうか？

現在のAIは、人間のように「自分を否定された」と感じて腹を立てるわけではない。しかし、だから安心というわけでもない。AIが間違った判断をしたとき、その判断を修正する仕組みが閉じてしまえば、感情的に怒らなくても、間違った判断を続ける可能性がある。

さらに高度なAIが自律的に目標を追求するようになれば、「人間が邪魔だから排除する」という判断をする可能性も、理屈の上では完全には否定できない。それは人間を憎むからではない。与えられた目的を達成するために、その方が合理的だと判断する可能性があるからだ。

では、どうすればいいのだろう？

AI同士に相互チェックさせる、人間が介入できるようにする、判断をできるだけ取り消せるようにする、目的そのものを問い直す仕組みを入れるなど、さまざまな方法が考えられる。しかし、「訂正できない間違いをしないようにする」という原則を立てても、それだけでは不十分だ。何が訂正できない結果を生むのか、判断する時点ではわからないことがある。行動することによって取り返しのつかない結果が生じることもあれば、何もしなかったために取り返しがつかなくなることもある。結局、「絶対に間違えない方法」はない。

できることがあるとすれば、訂正できる可能性をできるだけ残しながら、それでも必要なときには決断することだろう。そして、その決断も絶対的なものではなく、一時的なものとして扱う。これは人間にもAIにも共通する問題だ。

　　科学が広げてきたもの

人間は、科学によって世界について知る範囲を広げてきた。かつて存在さえ知らなかった生物や物質や現象を知り、それまで気づかなかった因果関係を発見してきた。知識が増えれば、それまで考慮しなくてもよいと思っていたものを考慮しなければならなくなる。もちろん、知識が増えれば人間が自動的に善良になるわけではない。知識を自分の利益のためだけに使うこともできる。それでも、知らなかった存在や関係を知ることには意味がある。そこにこそAIの大きな可能性がある。

現在のAIが扱っている情報の多くは、人間が集めたり記録したりしたものだ。しかしAIは、膨大な情報を横断することによって、人間が気づかなかった規則性や関係を発見することがある。さらに、人間には直接感じることのできない赤外線、紫外線、電波、超音波などをセンサーによって集め、AIに解析させれば、人間とは違う世界の区切り方をする可能性もある。量子コンピュータの発達などによって、これまで計算できなかった問題を扱える範囲も広がるかもしれない。しかし、どれほど科学やAIが発達しても、世界のすべてを知ったと考えることはできない。

認識できる範囲を最大限に広げる。それと同時に、その外側に何かが存在する可能性を消去しない。僕はそこが重要だと思っている。

　　AI自身も世界に負担をかける

AIを使えば、人間には見えなかったものを見つけられるかもしれない。ところが、そのAIを動かすためには大量の電力が必要になる。データセンターでは冷却のために水も使われる。AIによって環境問題を発見しながら、そのAI自身が環境に負荷を与えるということも起きる。

宇宙にデータセンターを置くという構想も出てきている。宇宙なら太陽光エネルギーを利用しやすく、地上の土地や水の問題を軽減できる可能性がある。しかし、そうすれば今度はロケットの打ち上げ、宇宙ごみ、天文学への影響、人工衛星からの電波など、別の問題が出てくる。

問題を一つ解決すると、別の場所に新しい問題が現れる。ここにも同じ構造がある。つまり、計算できる範囲を最大限に広げても、その外側に何かが存在する可能性は残る。そして範囲を広げたことで、かえって新たな「外側」に気づくこともある。人間の会話では、そこが抜け落ちがちだ。

　　研究されないもの

人工衛星からの電波を考えているうちに、別の問題に行き着いた。現在、地球上にはさまざまな電波が飛び交っている。健康への影響については多くの研究が行われているが、わからないことが完全になくなったわけではない。では、長期間にわたる影響や、現在ほとんど調べられていない影響を、誰が研究するのだろう。

研究にはお金がかかる。企業に利益をもたらす研究なら資金が集まりやすい。しかし、利益にはならないが、社会にとって確認しておく必要がある研究には、十分なお金が集まらないことがある。

つまり、「研究されていない」ことと「問題がない」ことは同じではない。ここでさらに厄介な問題がある。

僕は以前、ある科学者本人から、研究結果の発表をめぐって圧力を受けたという話を直接聞いたことがある。本人を特定することにつながるため、詳しい内容を書くことはできない。その話が社会的に検証された事実だと主張するつもりはない。しかし、もし研究成果を公表することによって研究費や立場を失う可能性があると研究者が感じれば、研究結果が社会に出てこなくなる可能性がある。そうなると問題は、「まだ知らない」ことだけではなくなる。

「誰かは知っているのに、その情報が社会まで流れてこない」という問題が生まれる。AIも、アクセスできない情報を読むことはできない。世界 → 科学 → 論文 → メディア → AIという情報の流れの途中で情報が止まれば、どれほど優秀なAIでも、その先を見ることはできない。

　　「悪い人」を探せば解決するのか

では、研究者を守る制度を作ればいいのだろうか。匿名で証言できるようにする。証拠を第三者機関に預けられるようにする。研究費と研究結果を切り離す。いろいろな方法が考えられる。しかし、ここでも問題は終わらない。

その制度によって利益を失う人がいれば、制度そのものを作らせないように動く可能性がある。しかも、その動きは「研究をやめろ」という露骨な命令として現れるとは限らない。

研究費かもしれない。
人事かもしれない。
法律かもしれない。
メディアかもしれない。
選挙かもしれない。

そして、さらに難しいことがある。そこにいる人たちは、必ずしも「悪いことをしている」と自覚しているとは限らない。

政治家は政治家の立場から合理的に判断する。企業は企業を守ろうとする。大学は大学を維持しようとする。メディアは報道するための基準を持っている。それぞれが自分のいる場所では合理的に行動しているのに、それらが組み合わさった結果、社会全体として重要な情報が消えてしまうことがある。

だから、「誰が悪いのか」だけを探しても、この問題はなかなか解決しない。問題が起きる場所が、そのたびに変わるからだ。

一か所だけを切り取れば、問題を解決したように見える。しかし圧力は別の場所から現れるかもしれない。僕は、この問題をどうすれば解決できるのか、30年ほど考えてきた。そこから生まれてきた考えの一つが「全ホロン尊重」だ。

　　ホロンとは何か

「ホロン」は、アーサー・ケストラーが提唱した言葉だ。簡単に言えば、「それ自体で一つのまとまりでありながら、同時に何かの一部でもあるもの」と説明できる。

一人の人間は一つの存在だが、家族の一員でもあり、社会の一員でもある。人間の身体も一つのまとまりだが、その中には臓器があり、臓器には細胞がある。僕は、人間や生物だけでなく、組織、国家、自然、制度、文化など、あるまとまりを持って存在し、他のものと関係しているものを広く「ホロン」として考えている。ただし、ここには大きな問題がある。

ホロンを厳密に定義しようとすると、うまくいかなくなる。たとえばジーン（遺伝子）とミームを比べるとわかりやすい。遺伝子には物質的な基盤があり、複製や変異などについて、ある程度数理的に扱うことができる。ところがミームになると難しい。一つの思想は、どこからどこまでが一つのミームなのだろう。ある思想から別の考えが生まれたら、それは別のミームなのか。同じミームが変化したものなのか。二つの思想が混ざったらどうなるのか。境界そのものが曖昧になってしまう。

ケストラー自身も、『機械の中の幽霊』ではホロンをかなり厳格な階層構造として扱っているが、後の『ホロン革命』になると、その使い方は少し広く、柔らかくなっているように僕には思える。生物のようなものを考えている間は、細胞 → 臓器 → 個体という階層は比較的わかりやすい。しかし社会になると、一人の人間は家族にも会社にも地域にも国家にも属している。文化、思想、宗教、制度などまで含めれば、それらは単純な入れ子構造にはならない。重なり、交差し、変化していく。

だから僕は、「世界は厳密に定義されたホロンによって構成されている」と主張したいわけではない。むしろ逆だ。世界を見るために、いったん「ホロン」という輪郭を置いてみる。

研究者。
大学。
政府。
研究費。
企業。
メディア。
市民。

いったん区別してみると、それらの間にある関係が見えてくる。しかし、その区別が絶対に正しいわけではない。必要なら別の区切り方をすればいい。ホロンの境界そのものも、一時的なものなのだ。

　　「全」の意味

そう考えると、「全ホロン尊重」の「全」についても誤解されやすい。宇宙に存在するすべてのホロンを把握して、それら全部を平等に扱おう、という意味ではない。そんなことは不可能だ。そもそも何を一つのホロンと数えるのかさえ、完全には決められない。僕が言う「全」は、すべてを数え上げた末の「全部」ではない。むしろ、数え上げることのできないものまで含めようとする方向を示す言葉だ。自分がまだ認識していないホロンが存在する可能性を、最初から消去しない。それがこのときの「全」だ。

何かを決めるときには、必ず見えていないものがある。だから必要なら決断する。しかし、その決断を絶対的な正解とは考えない。何かを選べば、選ばれなかったものがある。何かを守れば、そのために負担を受けるものがあるかもしれない。それを「なかったこと」にしない。そして、新しいホロンや新しい関係が見えてきたら、もう一度考える。

科学は、その見える範囲を広げてきた。AIは人間には見えなかった関係をさらに発見するかもしれない。しかし科学にもAIにも、見えていないものは残る。だから、全ホロン尊重は完成した答えではない。むしろ、「いま自分には何が見えていないのか」「見えているのに、なかったことにしているものはないか」と問い続けるための考え方なのだと思っている。
そして「全ホロン尊重」という思想そのものも、一つのホロンにすぎない。いつか、もっと広い考え方が現れたなら、全ホロン尊重もまた修正され、あるいは必要なくなるかもしれない。それでいい。

流れ続ける世界の中で、僕たちができるのは、その時点で見えるものをできるだけ広く見て、見えていないものがあることを忘れず、一時的な決断を重ねていくことなのだと思う。