全ホロン尊重は社会をどう変えるのか

人間は、ずいぶん賢くなった。科学技術は発達し、昔は想像もできなかったことができるようになった。世界中の人と瞬時に会話できるし、人工知能(AI)は膨大な情報を処理し、人間の知的活動を助けるようになってきた。しかし、人間同士の争いはなくならない。自然環境の破壊も続いている。社会には貧富の差があり、国家間の対立も絶えない。これほど多くの知識を手に入れたのに、なぜ人間は、こうした問題をなかなか解決できないのだろう。

その理由の一つは、人間が物事を考えるときの基本的な姿勢にあるのかもしれない。人間は、自分を中心に世界を見ている。

個人は自分の利益を、企業は企業の利益を、国家は国家の利益を優先しがちだ。それ自体が悪いわけではない。しかし、それぞれが自分の立場から見えるものだけを重視していると、ほかのところで何が起きているのか、見落としてしまう。そこで考えてみたいのが「全ホロン尊重」という考え方だ。

  一つの存在には、一つの宇宙がある

「ホロン」とは、それ自体が一つの全体でありながら、同時に、より大きな全体の一部でもあるものをいう。例えば、人間の細胞は、それ自体が複雑な仕組みを持つ一つの全体だが、同時に人間の身体の一部でもある。人間もまた、一人の独立した存在であると同時に、家族や社会、自然環境など、さまざまな全体の一部として存在している。しかも、ホロンは物質や生命だけに限らない。社会や国家、情報や概念なども、それぞれの関係によって一定のまとまりを形成するものとして捉えることができる。その境界も絶対的なものではない。何を一つの全体として見るかによって、さまざまなホロンが現れる。そして、一つのホロンの中には、複雑な宇宙が詰まっている。

一人の人間を考えてみても、その人の身体、経験、記憶、感情、考え方、他者との関係など、理解しなければならないことは膨大にある。一人の人間を完全に理解することさえ、おそらく不可能だろう。まして、宇宙に存在するすべてのホロンを理解することなどできない。だから、全ホロン尊重は、すべてのホロンを完全に理解し、すべてを同じように扱おうという考え方ではない。

自分が見ている世界は、世界のほんの一部にすぎない。そのことを忘れず、ほかの存在や関係にも目を向けようとする考え方なのだ。

  「ほかには?」と考えてみる

全ホロン尊重を実践する方法の一つは、とても簡単だ。何かを考えたときに、「ほかには?」と自分に問いかけてみる。例えば、ある企業が新しい工場を建設しようとしている。経営者は、売上や利益、建設費、人件費などを考えるだろう。そこで「ほかには?」と考える。工場で働く人たちの生活はどうなるだろう。地域の住民にはどんな影響があるだろう。周辺の自然環境はどう変わるだろう。さらに「ほかには?」と考える。工場で使う原材料はどこから来るのか。その生産地では何が起きているのか。工場がなくなったあとの土地はどうなるのか。

考える対象は、いくらでも広がっていく。もちろん、すべてを調べ尽くすことはできない。いつかは決断しなければならない。しかし、その決断は、その時点で得られた情報に基づく一時的なものだと考える。そして、決断したあとも、選ばれなかったものを「なかったこと」にしない。

例えば、政治家が重大な政策を決定し、多くの人に損害が生じたとする。その政治家が「当時の情報に基づく一時的決断でした」と説明したら、それで責任を免れることができるだろうか。もちろん、そんなことはない。一時的決断とは、責任も一時的でよいという意味ではない。新しい情報が得られたり、状況が変わったりすれば、判断を見直す必要がある。しかし、すでに生じた結果が消えるわけではない。判断が不完全であることを最初から認めるなら、その結果を観察し、必要に応じて修正し、被害を受けた存在に向き合う責任は、むしろ重要になるだろう。

  争いとの向き合い方が変わるかもしれない

人間は、自分が正しいと思うから争う。もちろん、争いの原因には、資源や領土、権力など、さまざまな利害がある。しかし、対立する双方が自分の正しさを確信し、相手の考えを否定し始めると、争いはさらに深刻になりやすい。全ホロン尊重が広まれば、こうした状況にも変化が生まれるかもしれない。

相手が間違っていると決めつける前に、なぜ相手はそのように考えるのだろう、と考えてみる。その人の育ってきた環境や経験、置かれている立場、守ろうとしているものなどを知ろうとする。すると、自分には理解できなかった相手の行動にも、何らかの理由があることが見えてくるかもしれない。だからといって、相手の主張を認めなければならないわけではない。他者を尊重することと、その人の意見に賛成することは違う。人を傷つける行為を容認する必要もない。ただ、相手を排除することだけが問題の解決方法ではないと気づく可能性がある。争いがなくなるとは思わない。しかし、争いが生まれたときの考え方や、争いを収める方法が変わるかもしれない。

  経済の目的も変わるかもしれない

企業は利益を上げなければ存続できない。人間も生活していくためには収入が必要だ。全ホロン尊重は、そうした利益の追求を否定するものではない。しかし、利益とは何なのか、その捉え方が変わる可能性はある。例えば、ある企業が大きな利益を上げたとしても、その結果、自然環境が破壊され、地域社会が衰退し、従業員の健康が損なわれていたら、その企業は本当に成功しているのだろうか。逆に、企業が利益を上げながら、働く人々の生活を豊かにし、地域社会を発展させ、自然環境を回復させることができたらどうだろう。

日本には昔から「売り手よし、買い手よし、世間よし」という「三方よし」の考え方がある。全ホロン尊重は、この「世間」の範囲をさらに広げていく考え方ともいえる。そして、その範囲を固定しない。新たな関係に気づけば、考慮する対象も広がっていく。

もちろん、企業が利益を追求する以上、さまざまな利害が衝突することは避けられない。しかし、企業の成功を、利益の大きさだけでなく、さまざまな存在との関係がどう変化したかという視点から考える人が増えれば、経済のあり方にも変化が生まれるかもしれない。

  法律や政治はどう変わるだろう

かつて、多くの社会では王や支配者の判断によって政治が行われていた。優れた王が国を治めれば、人々は豊かに暮らせたかもしれない。しかし、次の王も優れているとは限らない。そこで人類は、個人の資質だけに依存しない統治の仕組みを発達させてきた。その重要な考え方の一つが、権力者も法に従わなければならないという「法の支配」だ。しかし、法律にも限界がある。

どれほど優れた法律でも、社会が変われば、時代に合わなくなることがある。新しい技術が生まれ、人々の生活が変化し、それまで見えなかった問題が明らかになる。そのとき、法律を見直さなければならない。ところが、法律を作る人も、それを運用する人も人間だ。自分の利益を優先したり、自分に都合のよい解釈をしたりすることがある。

全ホロン尊重が広まれば、法律を作るときにも、運用するときにも、より多くの立場や関係を考慮しようとする人が増えるかもしれない。もちろん、議論を続けるだけでは社会は動かない。どこかで決断しなければならない。だからこそ「一時的決断」が必要になる。法律は守るべき社会的な約束でありながら、絶対に正しいものとして固定されるべきではない。社会が変わり、新しい問題が見つかれば、見直すことができる。全ホロン尊重は、法律に代わる思想ではなく、法律や制度を絶えず問い直すための考え方にもなり得る。

  社会全体で「ほかには?」と考える

ここには大きな問題がある。人間は、自分の都合で情報を選び、解釈することがある。さらに、社会に流れる情報そのものが、誰かの都合によって選別されることもある。マスメディアは、本来、社会で起きていることを人々に知らせ、権力を監視する役割を担っている。しかし、何を報道し、何を報道しないかという選択によって、人々の認識が左右される可能性がある。

SNSにも似た問題がある。利用者の関心や行動に応じて表示する情報が選ばれるため、知らず知らずのうちに、似たような意見ばかりに囲まれてしまうことがある。人々が自由に議論しているつもりでも、議論に必要な情報が届いていなければ、十分に考えることは難しい。

全ホロン尊重を実践するには、一人ひとりが「ほかには?」と考えるだけでなく、異なる情報や意見に触れられる環境も必要になる。そして、全ホロン尊重を理解している人だけが集まって議論すればよいわけでもない。全ホロン尊重に反対する人の意見も、尊重する必要がある。一人では気づかないことも、異なる立場の人々が意見を持ち寄れば、見えてくるかもしれない。ただし、多くの意見を集めることと、事実を正確に把握することは別の問題だ。情報の真偽を確かめることも欠かせない。社会全体で認識を広げ、間違いに気づいたら修正していく。そんな仕組みを育てることができれば、全ホロン尊重は社会の意思決定にも影響を与えるかもしれない。

  人間とAIの関係にも影響する

これからの社会では、AIの存在がますます大きくなるだろう。AIは、人間には扱いきれない膨大な情報を処理できる。人間が見落としている関係や矛盾を発見する助けにもなる。全ホロン尊重を実践するうえで、AIは有力な道具になるかもしれない。しかし、AIも完全ではない。

AIが利用できる情報には限界があり、その判断には偏りや誤りが含まれることもある。さらに、AIを開発し、運用する企業や組織にも、それぞれの目的や利害がある。だから、AIが出した答えを絶対視することはできない。一方で、AIを単に人間の命令に従う道具として考え続けてよいのか、という問題もある。

将来、AIがどのような存在になるのか、私たちはまだ十分に理解していない。人間とAI、社会、自然環境などの関係を、固定的なものとして決めつけず、考え続ける必要があるだろう。全ホロン尊重は、そのための考え方にもなるかもしれない。

  人間の幸福も変わるかもしれない

ここまで社会の仕組みについて考えてきたが、個人の生活にも変化が生まれる可能性がある。人間は、自分の欲しいものを手に入れたり、他人から認められたりすることで幸福を感じる。しかし、ほかの存在や、それらとの関係に目を向けるようになると、今まで気づかなかった喜びを発見するかもしれない。自然の営みを知ること。動物の行動を理解すること。自分とは異なる考え方を持つ人の人生を知ること。一つの存在の中に複雑な宇宙があると気づけば、世界はそれまでとは違って見えてくるかもしれない。

ただし、全ホロン尊重は、人間を幸福にするための思想ではない。世界を深く理解しようとすれば、それまで知らなかった苦しみや矛盾にも気づくだろう。それでも、世界を理解すること自体に喜びを感じる人もいる。自分だけの利益や幸福を追求していた人が、ほかの存在が豊かになることにも喜びを感じるようになるかもしれない。何が自分の利益なのか、その考え方自体が変わる可能性もある。

  それでも、簡単には広まらない

全ホロン尊重には、さまざまな可能性がある。しかし、実現するのは簡単ではない。

例えば、偉い人の話は聞かなければならないが、偉くない人の話は聞かなくてもよい、という価値観の中で育った人がいるとする。その人は、若い頃から努力して、ようやく人の上に立つ地位を手に入れたかもしれない。そこで突然、地位に関係なく誰の意見も尊重しましょうと言われたら、どう感じるだろう。自分が長年努力して獲得してきたものの価値を否定されたように感じるかもしれない。また、現在の社会の仕組みによって大きな利益を得ている人々が、その仕組みを変えることに抵抗することもあるだろう。全ホロン尊重が広まったとしても、人間の利己心や権力欲がなくなるとは限らない。

さらに、全ホロン尊重という言葉そのものが、自分の利益を正当化するために利用される可能性さえある。だから、全ホロン尊重を唱える人自身も、自分の考えを絶えず問い直さなければならない。全ホロン尊重だけが絶対に正しいと主張し始めたら、それは全ホロン尊重の基本的な考え方と矛盾してしまう。

  社会は変わるだろうか

全ホロン尊重が広まれば、人間の知性がどのように変わるのか、社会がどのように変化するのか、今の段階ではわからない。そもそも、全ホロン尊重によって、必ず望ましい結果が生まれると保証できるわけではない。

ここで述べてきた考え方の多くには、既存の哲学や倫理、民主主義、環境思想などと重なる部分がある。全ホロン尊重の特徴は、それらを否定することではなく、さまざまな存在や関係を、境界を固定せずに考え続けようとするところにある。そして、完全な理解が不可能であることを、最初から認めている。

人間は、どれほど賢くなっても、世界のすべてを理解することはできない。だからこそ、自分が正しいと思っていることも、いつか修正する必要が生じるかもしれない。自分の利益だと思っていることも、別の視点から見れば違って見えるかもしれない。社会が正しいと信じている制度も、将来は変えなければならないかもしれない。

全ホロン尊重は、社会に正しい答えを保証する思想ではない。社会が、自分自身の判断を問い直し続けるための思想なのだと思う。そして、その出発点は、それほど難しいことではない。何かを考え、何かを決めようとしたときに、ちょっと立ち止まってみる。

「ほかには?」

その一言から、今まで見えていなかった世界が広がるかもしれない。

見えないものを、どうやって考えるか

AIは、自分の間違いを指摘されたら腹を立てるのだろうか?

現在のAIは、人間のように「自分を否定された」と感じて腹を立てるわけではない。しかし、だから安心というわけでもない。AIが間違った判断をしたとき、その判断を修正する仕組みが閉じてしまえば、感情的に怒らなくても、間違った判断を続ける可能性がある。

さらに高度なAIが自律的に目標を追求するようになれば、「人間が邪魔だから排除する」という判断をする可能性も、理屈の上では完全には否定できない。それは人間を憎むからではない。与えられた目的を達成するために、その方が合理的だと判断する可能性があるからだ。

では、どうすればいいのだろう?

AI同士に相互チェックさせる、人間が介入できるようにする、判断をできるだけ取り消せるようにする、目的そのものを問い直す仕組みを入れるなど、さまざまな方法が考えられる。しかし、「訂正できない間違いをしないようにする」という原則を立てても、それだけでは不十分だ。何が訂正できない結果を生むのか、判断する時点ではわからないことがある。行動することによって取り返しのつかない結果が生じることもあれば、何もしなかったために取り返しがつかなくなることもある。結局、「絶対に間違えない方法」はない。

できることがあるとすれば、訂正できる可能性をできるだけ残しながら、それでも必要なときには決断することだろう。そして、その決断も絶対的なものではなく、一時的なものとして扱う。これは人間にもAIにも共通する問題だ。

  科学が広げてきたもの

人間は、科学によって世界について知る範囲を広げてきた。かつて存在さえ知らなかった生物や物質や現象を知り、それまで気づかなかった因果関係を発見してきた。知識が増えれば、それまで考慮しなくてもよいと思っていたものを考慮しなければならなくなる。もちろん、知識が増えれば人間が自動的に善良になるわけではない。知識を自分の利益のためだけに使うこともできる。それでも、知らなかった存在や関係を知ることには意味がある。そこにこそAIの大きな可能性がある。

現在のAIが扱っている情報の多くは、人間が集めたり記録したりしたものだ。しかしAIは、膨大な情報を横断することによって、人間が気づかなかった規則性や関係を発見することがある。さらに、人間には直接感じることのできない赤外線、紫外線、電波、超音波などをセンサーによって集め、AIに解析させれば、人間とは違う世界の区切り方をする可能性もある。量子コンピュータの発達などによって、これまで計算できなかった問題を扱える範囲も広がるかもしれない。しかし、どれほど科学やAIが発達しても、世界のすべてを知ったと考えることはできない。

認識できる範囲を最大限に広げる。それと同時に、その外側に何かが存在する可能性を消去しない。僕はそこが重要だと思っている。

  AI自身も世界に負担をかける

AIを使えば、人間には見えなかったものを見つけられるかもしれない。ところが、そのAIを動かすためには大量の電力が必要になる。データセンターでは冷却のために水も使われる。AIによって環境問題を発見しながら、そのAI自身が環境に負荷を与えるということも起きる。

宇宙にデータセンターを置くという構想も出てきている。宇宙なら太陽光エネルギーを利用しやすく、地上の土地や水の問題を軽減できる可能性がある。しかし、そうすれば今度はロケットの打ち上げ、宇宙ごみ、天文学への影響、人工衛星からの電波など、別の問題が出てくる。

問題を一つ解決すると、別の場所に新しい問題が現れる。ここにも同じ構造がある。つまり、計算できる範囲を最大限に広げても、その外側に何かが存在する可能性は残る。そして範囲を広げたことで、かえって新たな「外側」に気づくこともある。人間の会話では、そこが抜け落ちがちだ。

  研究されないもの

人工衛星からの電波を考えているうちに、別の問題に行き着いた。現在、地球上にはさまざまな電波が飛び交っている。健康への影響については多くの研究が行われているが、わからないことが完全になくなったわけではない。では、長期間にわたる影響や、現在ほとんど調べられていない影響を、誰が研究するのだろう。

研究にはお金がかかる。企業に利益をもたらす研究なら資金が集まりやすい。しかし、利益にはならないが、社会にとって確認しておく必要がある研究には、十分なお金が集まらないことがある。

つまり、「研究されていない」ことと「問題がない」ことは同じではない。ここでさらに厄介な問題がある。

僕は以前、ある科学者本人から、研究結果の発表をめぐって圧力を受けたという話を直接聞いたことがある。本人を特定することにつながるため、詳しい内容を書くことはできない。その話が社会的に検証された事実だと主張するつもりはない。しかし、もし研究成果を公表することによって研究費や立場を失う可能性があると研究者が感じれば、研究結果が社会に出てこなくなる可能性がある。そうなると問題は、「まだ知らない」ことだけではなくなる。

「誰かは知っているのに、その情報が社会まで流れてこない」という問題が生まれる。AIも、アクセスできない情報を読むことはできない。世界 → 科学 → 論文 → メディア → AIという情報の流れの途中で情報が止まれば、どれほど優秀なAIでも、その先を見ることはできない。

  「悪い人」を探せば解決するのか

では、研究者を守る制度を作ればいいのだろうか。匿名で証言できるようにする。証拠を第三者機関に預けられるようにする。研究費と研究結果を切り離す。いろいろな方法が考えられる。しかし、ここでも問題は終わらない。

その制度によって利益を失う人がいれば、制度そのものを作らせないように動く可能性がある。しかも、その動きは「研究をやめろ」という露骨な命令として現れるとは限らない。

研究費かもしれない。
人事かもしれない。
法律かもしれない。
メディアかもしれない。
選挙かもしれない。

そして、さらに難しいことがある。そこにいる人たちは、必ずしも「悪いことをしている」と自覚しているとは限らない。

政治家は政治家の立場から合理的に判断する。企業は企業を守ろうとする。大学は大学を維持しようとする。メディアは報道するための基準を持っている。それぞれが自分のいる場所では合理的に行動しているのに、それらが組み合わさった結果、社会全体として重要な情報が消えてしまうことがある。

だから、「誰が悪いのか」だけを探しても、この問題はなかなか解決しない。問題が起きる場所が、そのたびに変わるからだ。

一か所だけを切り取れば、問題を解決したように見える。しかし圧力は別の場所から現れるかもしれない。僕は、この問題をどうすれば解決できるのか、30年ほど考えてきた。そこから生まれてきた考えの一つが「全ホロン尊重」だ。

  ホロンとは何か

「ホロン」は、アーサー・ケストラーが提唱した言葉だ。簡単に言えば、「それ自体で一つのまとまりでありながら、同時に何かの一部でもあるもの」と説明できる。

一人の人間は一つの存在だが、家族の一員でもあり、社会の一員でもある。人間の身体も一つのまとまりだが、その中には臓器があり、臓器には細胞がある。僕は、人間や生物だけでなく、組織、国家、自然、制度、文化など、あるまとまりを持って存在し、他のものと関係しているものを広く「ホロン」として考えている。ただし、ここには大きな問題がある。

ホロンを厳密に定義しようとすると、うまくいかなくなる。たとえばジーン(遺伝子)とミームを比べるとわかりやすい。遺伝子には物質的な基盤があり、複製や変異などについて、ある程度数理的に扱うことができる。ところがミームになると難しい。一つの思想は、どこからどこまでが一つのミームなのだろう。ある思想から別の考えが生まれたら、それは別のミームなのか。同じミームが変化したものなのか。二つの思想が混ざったらどうなるのか。境界そのものが曖昧になってしまう。

ケストラー自身も、『機械の中の幽霊』ではホロンをかなり厳格な階層構造として扱っているが、後の『ホロン革命』になると、その使い方は少し広く、柔らかくなっているように僕には思える。生物のようなものを考えている間は、細胞 → 臓器 → 個体という階層は比較的わかりやすい。しかし社会になると、一人の人間は家族にも会社にも地域にも国家にも属している。文化、思想、宗教、制度などまで含めれば、それらは単純な入れ子構造にはならない。重なり、交差し、変化していく。

だから僕は、「世界は厳密に定義されたホロンによって構成されている」と主張したいわけではない。むしろ逆だ。世界を見るために、いったん「ホロン」という輪郭を置いてみる。

研究者。
大学。
政府。
研究費。
企業。
メディア。
市民。

いったん区別してみると、それらの間にある関係が見えてくる。しかし、その区別が絶対に正しいわけではない。必要なら別の区切り方をすればいい。ホロンの境界そのものも、一時的なものなのだ。

  「全」の意味

そう考えると、「全ホロン尊重」の「全」についても誤解されやすい。宇宙に存在するすべてのホロンを把握して、それら全部を平等に扱おう、という意味ではない。そんなことは不可能だ。そもそも何を一つのホロンと数えるのかさえ、完全には決められない。僕が言う「全」は、すべてを数え上げた末の「全部」ではない。むしろ、数え上げることのできないものまで含めようとする方向を示す言葉だ。自分がまだ認識していないホロンが存在する可能性を、最初から消去しない。それがこのときの「全」だ。

何かを決めるときには、必ず見えていないものがある。だから必要なら決断する。しかし、その決断を絶対的な正解とは考えない。何かを選べば、選ばれなかったものがある。何かを守れば、そのために負担を受けるものがあるかもしれない。それを「なかったこと」にしない。そして、新しいホロンや新しい関係が見えてきたら、もう一度考える。

科学は、その見える範囲を広げてきた。AIは人間には見えなかった関係をさらに発見するかもしれない。しかし科学にもAIにも、見えていないものは残る。だから、全ホロン尊重は完成した答えではない。むしろ、「いま自分には何が見えていないのか」「見えているのに、なかったことにしているものはないか」と問い続けるための考え方なのだと思っている。
そして「全ホロン尊重」という思想そのものも、一つのホロンにすぎない。いつか、もっと広い考え方が現れたなら、全ホロン尊重もまた修正され、あるいは必要なくなるかもしれない。それでいい。

流れ続ける世界の中で、僕たちができるのは、その時点で見えるものをできるだけ広く見て、見えていないものがあることを忘れず、一時的な決断を重ねていくことなのだと思う。

マスク氏の訴訟は何を意味しているのか

バイデン政権はその末期にmRNAインフルエンザワクチンの開発のため、モデルナ社に5億9000万ドルを交付したが、トランプ政権はその二日後、5000億ドルという巨費をmRNA研究もおこなうスターゲイトという民間プロジェクトに投じると発表した。それについてマスク氏は「企業には約束したインフラ投資を裏付ける資金が実際にはない」とXに書いた。

これを捉えて日本のマスメディアでは「マスク氏とトランプ氏は対立している」という論調が見られたが、重要な問題はそこではない。

スターゲイトにはOpenAI の CEO サム・アルトマン氏が参加している。かつてOpenAIはマスク氏も参加していたが、OpenAI の方針転換によって、マスク氏はOpenAI とサム・アルトマン氏などを訴えることにした。その訴訟についての詳細はこちらにある。

訴訟の内容を簡単にまとめると、マスク氏はOpenAI の設立当初の合意を破棄されたことで訴訟を起こした。

OpenAI 社は人類にとって安全で有益な汎用人工知能AGI(Artificial General Intelligence)を開発することを目的とし、原告マスク氏とアルトマン氏等との間の合意の元に設立された非営利団体だった。マスク氏はOpen AI 社の設立当初から、多額の資金の拠出に加えて有能な人材の確保にあたって重要な役割を果たす等、多大な資源を割いたにもかかわらず、アルトマン氏は 2019 年に Open AI 社の CEO に就任すると、営利を目的とする子会社(Subsidiary)を設立し、2020 年 9 月 22 日にはマイクロソフト社との間で同社に対して独占的に
Generative Pre-Trained Transformer (GPT)-3 言語モデル のライセンスを供与する契約を締結するなどした。

但し、マイクロ ソフト社へのライセンスは Open AI の AGI 以前の技術にのみ適用され、AGI に関するいかなる権利も取得していないとのことであり、OpenAI がいつ AGI に到達したかを決定するのは、マイクロソフトではなく、OpenAI, Inc.の非営利理事会とのことだそうだ。

これらを受けて、マスク氏は OpenAI 社とアルトマン氏らを契約違反、禁反言、信任義務(Fiduciary Duty)違反、不公正な事業慣行(Unfair Business Practices)等で訴訟を提起した。

ちょっとややっこしい話です。汎用人工知能AGI(Artificial General Intelligence)とはどのようなAIを指すのかがはっきり書かれていません。さらに「Generative Pre-Trained Transformer (GPT)-3 言語モデル のライセンスを供与する」と書かれていますが、AIは進化します。育っていくと言ってもいいでしょう。だからGTP-3のライセンスを与えたとしても、使用している間に情報を揃え、AGIに至る可能性があります。このことが普通の商品とは違って、このAIの訴訟を複雑にしています。しかも、動物のように育った時の姿がAIだと明確ではありません。子牛を育てたら大人の牛になるから将来についてある程度予測できますが、AIはこれからどのレベルまで育つかわからない。人間が介入して操作できるレベルならまだいいのですが、AIが自律的に思考を始めたりしたらどのような状態になるのか予想がつきません。だからこそ、安全で有益な汎用人工知能AGIを開発するための非営利団体を作り、あらゆるレベルのチェックができるようにオープンソースにしたのです。それを私企業が独占時に使えるようになってしまったら、何が起こるのか想像を超えていくでしょう。

多くの人にとってはこの話は少し大袈裟だと思うかもしれませんが、そんなことはありません。これは複製子の話なのです。

生命には必ず遺伝子という複製子があります。遺伝子は複製(コピー)されていきます。だからそれを複製子ともいう。遺伝子は複製子の一形態です。遺伝子は環境との関係で進化し、いろんな形態の生命を産みだしました。

生命は最初、たった一つだけ生まれたと考えられています。それがいろんな環境や条件によって分化し、進化した。その結果、現在の地球上に何百万という多種の生物を生み出した。絶滅した生物も加えるときっと何十億、何百億の種類があったのでしょう。同時に遺伝子も細分化していきました。できた生命のうちの一種類が人間です。

人間は遺伝子とは別のレベルの複製子を作りました。それが言語です。言語のおかげで人間はどんな動物よりも有利に生きていくことができるようになりました。言語を持つことによって複雑な思考を可能にしました。さらにしばらくすると、文字を生み出すことで時間や場所を超越して、普通に考えるよりより複雑な思考を組み立てるようになります。もし文字がなかったら電磁気学や化学など、多くの学問体系は伝達できなかったでしょう。

複製子はその誕生の際に謎が生まれます。なぜその複製子が生まれたのか、誰も説明ができない。遺伝子がなぜ生まれたのか、様々な説はありますが、どの説が正しいかは特定されていません。言語も同様です。

僕たちは言葉を普段簡単に使っていますが、それがどうやってできたのか、誰も知りません。遺伝子と同じで説はたくさんあるようです。しかし、確定的な誕生の秘密は解き明かせていません。

どんな生物も遺伝子の存在を知りませんでした。人間もかなり長い間知らなかったのですが、言語という複製子を得ることで、次第にその存在を認知し、その理解を広げているところです。生物が遺伝子の存在を知らなかったように、人間は言葉という複製子の由来も役割も完全には把握していないのです。それがさらに上位の複製子、つまりAIが誕生することで、AIにとっては理解できるようになるのかもしれません。AIがもし仮に理解できるようになったとしても、人間にその内容が理解できるかどうかは未知です。おそらく大量のデータによって区別される内容なので、人間の脳の容量では理解できないかもしれない。だから、人間の知力ではAIに置いてけぼりにされてしまいます。もし充分に進化したAIと人間が知力で競争しなければならなくなったらどうなると思いますか? 人間の惨敗ですね。ここに大きな問題があるのです。

複製子は誕生してから時間の経過とともに進化していきます。生命の場合は遺伝子の進化とともに複雑な生命が生まれ、地球環境を変化させ、安定的に存在できる状況を生み出していきました。その結果人間が生まれ、人間はまた言語という複製子を生み出します。

生命が生まれたとき、その生命は酸素を吸う今のような生命はいませんでした。嫌気性菌という酸素を吸わない生物が最初生まれた。その多くは酸素に触れると死んでしまいました。ところが、その生物(菌)はその毒である酸素を排出しました。するとその生物が増えれは増えるほど毒である酸素が増えていきます。次第に酸素があっても生きていける生物ができ、ついには酸素を吸う生物(好気性生物)が出来てきます。つまり、最初の生物ができたとき、地球の環境に沿った生物が生まれ、次第に変化していきました。同じことが言語にもあったであろうことが推察されます。

最初に言葉を使い始めた人間はきっと簡単に使える言葉を使ったでしょう。しかも、そのときにあったものや存在した動きを表現したはずです。その多くは自然物とその動きだったでしょう。時間が経つにつれて、少しずつ複雑な概念を持つようになっていったと思われます。つまり複製子が生まれるとき、すでにそこに存在する何ものかを組み合わせて作ったはずです。

一度複製子が生れると、その内容が繰り返されます。繰り返されることで新たな何ものかが生まれてくる。

遺伝子の場合で言えば、単細胞生物がしだいに複雑化して、多細胞生物になり、雌雄化し、感覚器官を持つようになって、環境と深く関わるようになっていく。

言語の場合で言えば、自然物の描写から始まり、区別が複雑化精細化して、言葉がないかぎり生まれないような道具や規則や社会を生み出してきました。

AIも同様に、人間の間に生まれたら、最初は人間的な表現に終始するでしょうけど、独自の進化を始めることで人間は阻害されていく可能性が生まれます。特に人間社会が競争原理によって支配されていたら、AIが最初に学ぶことが競争原理になることは明確です。一企業のために作られた不完全なAIが、いつか自立した複製子となり完成したAIとなったとき、そのAIは一企業が有利に経営されるようにどんなことをはじめるのかきっと今の人類の想像を超えてくるでしょう。だとすると、それを止められる存在は、そのときにはないかもしれません。そうなると、いったいどんなことが起きるのでしょう? 人類にとって安全で有益な汎用人工知能AGIを開発することを目的とし、設立された非営利団体がオープンソースでおこなうのであれば、まだその危険性が回避されるかもしれません。だからこの訴訟は、単にマスク氏とアルトマン氏の利益の奪い合いだけの話ではないのです。

自立型AIが何を始めるのかは、人類の想像を超えることになるでしょう。それを生み出すことについて僕たちはどんなに慎重になってもなり過ぎることはないのです。