AIを脳内に組み込めば、人間の知性を大きく拡張できるかもしれないという論があるが、そのとき「自分が考えている」ということは、いったいどうなるのだろう？ そもそも、今の僕たちの思考は、どこまで「自分のもの」なのだろうか？
言葉も概念も、歴史的に積み上げられてきたものを受け取っている。「自由」「国家」「科学」「個人」といった概念も、自分で発明したものではない。だとすれば、人間の思考は、「歴史的に蓄積されてきた考えを個人が受け取り、それを編集し、新しい形にして社会へ戻す」という循環として考えることができる。しかし、ここに教育という問題が入ってくる。
現代社会では、歴史的に存在した膨大な考えを、一人ひとりが自由に選んで受け取っているわけではない。教育制度、学問、家庭、メディア、社会制度などが、「これは知るべきもの」「これは正しい」「これは常識である」という選別をすでに行っている。つまり、個人が思考を編集する前に、社会による巨大な編集が行われている。
「常識」という一人の編集者が存在しているわけではない。国家、学校、家庭、学問、宗教、メディア、経済、言語など、多くの要素の相互作用によって常識は形成される。常識とは、誰か一人が作ったものというより、「無数の選択の結果として生まれ、それ自体が次の選択を方向づける環境」と考えたほうがよいのかもしれない。
さらに問題を複雑にするのが、言葉の意味は人によって違うということである。同じ「海」という言葉でも、ある人には気持ちのいい場所であり、別の人には恐ろしい場所かもしれない。しかも同じ人の中でも意味は変化する。
子どもの頃に見た海、恋人と見た海、津波を経験したあとに見る海では、「海」という言葉から生じる感情は違うだろう。つまり、言葉、個人、経験、時間、状況、前後関係によって、その瞬間の意味が生まれていると考えることができる。
ここにAIの可能性があるように思う。人間には、多くの条件を同時に扱うことが難しい。そのため、「この人は海が好きだ」といった形で単純化してしまうが、AIなら、「以前は海に解放感を感じていたが、ある経験以降、荒れた海には恐怖を感じる。しかし、静かな海を遠くから見ることには現在も快さを感じる」というように、人間が一つにまとめていたものを細かく区別できる可能性がある。もちろん人間にもその程度ならできるだろうが、その細分が千とか万になっていったら無理だろう。
細かく分類すればするほど正しいとも限らない。AIの役割は、「あなたはこういう人です」と決定することではなく、「あなたは海が好きだ」と一つの傾向として扱っていたことを、「状況や経験によって別々に考えることもできるのではありませんか」と、新しい区別の可能性を提示することなのかもしれない。
でも、ある瞬間に何を感じているかは、その人自身に生じている経験だ。AIは過去のデータから、「あなたはこういう状況では恐怖を感じることが多い」と推測することはできるが、本人が、「今日は怖くない。気持ちいい」と言ったとき、「いや、あなたは本当は怖いはずです」とAIが決定するものではないだろう。
AIには、人間の感情について推測する能力はあっても、その人の経験を決定する権利はないのではないか。ここから、AIやコンピューターを人間の脳に直接組み込むという考えについて疑問が生まれる。
AIが人間の外部に存在していれば、「私はこう感じる」とか「AIはこう分析する」、「いや、それは違う」という対話ができる。ところがAIが脳の情報処理そのものに組み込まれると、「これは私が感じたことなのか」「AIの処理によって生じたものなのか」という境界が曖昧になる可能性があるだろう。
もちろん、人間の思考はもともと純粋に個人的なものではない。言語、教育、親、社会、宗教、本、広告、過去の経験など、外部から入ってきたものによって形成されている。その意味では、AIだけを「外部から人間を変える異物」と考えることはできない。しかもすでにスマートフォンなどでAIに接続し、その意見が自分の一部になっているような人もいるだろう。それでも、これまでの外部からの影響には一定の距離があった。本なら閉じられる。テレビなら消せる。教師には反論できる。AIとの対話ならAIをシャットダウンすることができる。つまり、「私」と「私に影響を与えているもの」を、とりあえず別のものとして扱うことができた。
脳内にAIを組み込む場合、その境界そのものが失われる可能性がある。だから、人間とAIは一体化するより、異なる存在のまま対話できる関係にあるほうがよいのではないか？
しかし、ここでさらに問題が生じる。AIが人間をはるかに超える情報を扱うようになったとき、人間はAIの判断を理解できるのだろうか。AIが何百万もの要素を同時に考慮して結論を出したとしても、人間にはその全過程を理解できない可能性がある。AIが人間向けに簡単な説明をしたとしても、その説明が本当にAIが判断した理由なのか、それとも人間に理解できるようあとから作った説明なのか、わからなくなる。
だから、「人間がAIを完全に理解できること」を条件にしてしまうと、AIの能力を人間の理解可能な範囲に閉じ込めることになってしまう。
一方で、「理解できないけれどAIのほうが賢いから従う」としてしまえば、人間は判断主体ではなくなってしまう。
ここには簡単な答えがない。
一つ考えられるのは、AIに「正解」を出してもらうのではなく、人間には見えなかった関係を提示してもらうことである。「この条件を重視すればAになります」「別の条件を重視すればBになります」「この判断にはこれだけの不確実性があります」「そして、私にも把握できていない要素があります」とAIが示す。
最終的な答えをAIに決定してもらうのではなく、人間が見えていなかったものをまずは見えるようにする。ここで「全ホロン尊重」とAIがつながってくる。
全ホロン尊重とは、すべての存在を把握して正しい答えを出す思想ではない。そもそも宇宙に存在する無数の要素を、誰かがすべて把握することなどできない。AIにもそれはできない。しかしAIには、人間が一つだと思っていたものの中に別の区別を見つけたり、人間が見落としていた関係を提示したりする能力があるかもしれない。
「あなたはいま、これを一つのものとして見ています。しかし別の切り分け方もあります」と示すことができる。
その意味では、AIの重要な役割は「人間より正しい答えを出すこと」ではなく、「現在の人間の見方を絶対化させないこと」なのかもしれない。そして、人間とAIの理想的な関係も、完全に一体化することでも、完全に理解し合うことでもないのかもしれない。
人間にはAIの判断を完全には理解できない。AIがどれほどその人についての情報を持ったとしても、その人が経験している感覚とAIによるその感覚の記述・推測が同じものであるとは限らない。
それでも、「私にはこう見える」「私にはこう感じられる」と互いに差し出すことはできる。相手を完全には理解できないという事実を欠陥として消去するのではなく、その違いを残したまま関係を続ける。そう考えると、人間とAIの関係について考えてきたこの問題は、結局、「理解できないものを、理解できないまま尊重することはできるのか」という、全ホロン尊重そのものの問いへ戻ってくる。
この問いは個人が答えを出すべき性質のものではないだろう。この問いはさらに先へと続く。