印刷

人間の輪郭と擬人化した哲学的ゾンビ

AI」宣言

私は「AI」である。

仮にこのように宣言したとしたら、多くの知り合いはそれを否定するだろう。しかし、それを否定する根拠を尋ねたとすれば、同様に多くの人々は困ってしまうことだろう。対話していても、自然に応答するから。人間の身体を持っているから。喜怒哀楽の感情があるように見えるから。様々な答えが予想されるが、どの応答も決定打を欠く。要するにこの宣言を否定することが難しいのは、この宣言には「AI」や人間を分ける要素とは何かという根源的な問いが含まれているからだ。そしてそこには「思考」や「意識」とは何かという問いも必然的に含まれてくる。

議論の前提と流れ

しかしこの宣言ついて改めて考える前に、まず議論の前提となる足場を整理しておきたい。「機械は考えるか?」の「機械」は大まかに考えてハードウェア、身体としての「ロボット」とソフトウェア、脳としての「AI  = 人工知能」に分けられる。そして「考える」、「思考」、「意識」について問われていることから、後者に焦点を当てて考える必要があるだろう。その上で今回の論考では、「AI」の「思考」や「意識」の問題を哲学の問題として捉え、人間の「思考」や「意識」と対比することで、「人間らしさ」を輪郭とした掘り下げを行う。また後半ではシンギュラリティの問題を宗教の問題として捉えることで、「AI」が社会に及ぼす影響について考察する。

人間に「思考」や「意識」は存在するか?

そもそも「AI」について論じる際に「思考」や「意識」が問題になるのは、それらの有無が人間と「AI」を差別化する重要な要素だと考えられているからだろう。しかし大抵の場合、人間の「思考」や「意識」は自明に存在しているという前提があるが、それは果たして本当に正しいのだろうか。もし人間にとって「思考」や「意識」が当然のように存在しているという前提が崩れるとするならば、それは「AI」の「思考」や「意識」について考える際にも大きな影響を及ぼす。よってまず問うべきは「AI」ではなく、人間の「思考」や「意識」の自明性についてだ。そしてそれらについて考えるためには、ベンジャミン・リベットによる「運動準備電位」と前野隆司による「受動意識仮説」が参考になる。

ベンジャミン・リベット「運動準備電位」は人間の意思決定のメカニズムを脳科学的に研究したものである。そしてその実験の結果、意思決定の時間的な順序は1. 無意識的な脳の電気信号 → 2. 意識的な意思決定 → 3. 動作という順序であり、それぞれに時差があることを実証した。つまりこれは意識で判断や選択をする以前にニューロンが発火し、筋肉に動作の指令を送っているという事実を示唆しており、これが正しいとするならば人間の自由意志は2と3の時差である0.2秒しか存在していないことになる。もちろんデネットによる時間、意識と無意識、自由の定義といった観点からの批判があるにせよ、この実験結果を元にするならば、人間の「思考」や「意識」の自明性は揺らぎ始めることになる。

またこの「運動準備電位」を拡張して提唱された仮説が、前野隆司「受動意識仮説」である。ベンジャミン・リベットは先ほどの0.2秒の猶予を「拒否権の力」として意識による「自由意志」の存在の根拠としたが、その「拒否権の力」もまた「運動準備電位」のプロセスの中にあるのだとしたら、そこには無限後退する無意識 → 意識の関係が存在することになる。これはつまり意識による「拒否権の力」も無意識的な脳の電気信号によって事前に用意されている可能性を否定できないことを意味する。ベンジャミン・リベットは「拒否権の力」にはそのプロセスが適用されないと主張したが、その科学的根拠は存在しない。よって論理的に考えて意識はどこまでも無意識に対して受動的に働いていると考える仮説が提唱されるのは当然のことであり、それが「受動意識仮説」になる。

これらの「運動準備電位」や「受動意識仮説」によって、人間の「思考」や「意識」は当たり前に存在しているといった前提はもはや自明の事実ではなくなる。何故なら「運動準備電位」によってあらゆる動作が決定されているのならば、人間は「思考」しているというよりは動物的に動き続けているだけであるとも言えるからだ。また「受動意識仮説」によって意識の前段階に常に無意識が存在しているのならば、それは意識が受動的であると同時にほとんど存在しない、もしくは無力に近いと言い換えることもできるだろう。よってこれらの新しい前提の上で、もう一度「AI」の「思考」や「意識」についての問題に立ち返ってみる。

超人的な「AI」と心を持った「AI」

人間の心は複雑な「思考」や明確な「意識」を持っていると勘違いしがちだが、先述したようにそれらは脳の物理状態に付随している現象に過ぎない可能性がある。この立場を「随伴現象説」と呼ぶが、ここで考えてみたいのは「随伴現象説」が正しいか否かではない。むしろ人間が「AI」の「思考」や「意識」について考えたり、「AI」に「思考」や「意識」を持たせたいと考えるのは何故かという問いだ。良く考えてみれば利便性、効率性、生産性の向上などの目的で人間の能力を超える「AI」を作りたいのであれば、必ずしも「思考」や「意識」について考える必要はない。また単純に人間の能力を超えるという意味で考えれば、熊は人間を遙かに超える腕力を有しているだろうし、電卓は通常の人間の計算能力を既に凌駕しているとも言える。しかしこれらの場合、熊や電卓は人間の能力を超えているとして賞賛することはほとんどないだろう。

これは何故かと言えば熊の腕力はその体の大きさと筋肉量から理由が明らかであり、ブラックボックスになっている点は何一つなく、銃を使用すれば人間が勝つことも可能であるからだ。また電卓はあくまで人間に使用されなければ計算不可能なのであって、電卓自ら意志を持って計算を行うことはない。つまりここでは「思考」も「意識」も無関係である。一方で超人的な「AI」というよりは人間らしい心を持った「AI」を作りたいという夢は人類に根強く存在している。これは前者の「AI」とは似て非なるものであり、人間らしい心を持った「AI」とは要するに時に間違いを犯し、時に感情的になり、時に優柔不断な意志決定をする「AI」のことだろう。

「人間らしさ」の輪郭

そして前者の「AI」と後者の「AI」を通して人間の「思考」や「意識」の秘密は深く掘り下げられることになる。何故なら「随伴現象説」に代表されるように人間にとって「思考」や「意識」は不可解であり、それらの存在すら自明ではない。よって超人的な「AI」を人間の補集合として、心を持った「AI」を人間の鏡像として作り出すことで、人間の「思考」や「意識」についての理解がより進むことになる。これを大胆に言い換えれば、人間の「思考」や「意識」の輪郭をより明確にするために「AI」は役に立つ、つまりそれらを基盤とした「人間らしさ」を明らかにするためのツールが「AI」であると言える。そしてここからは「AI」の「思考」と「意識」をイマヌエル・カントが提唱した心の働きである「知」「情」「意」の3要素に分けて語ってみたい。

AI」の「知」

「知」「情」「意」における「知」は知性を指す。「AI」の知性と言った場合に真っ先に思い付くのが、Google DeepMindによって開発された「Alphazero」である。「AlphaGo」は世界トップ棋士であるイ・セドルや柯潔に勝利したことで有名になったが、この「Alphazero」の特筆すべき点は24時間以内の学習で囲碁最強ソフト「AlphaGo Zero」、チェス最強ソフト「Stockfish」、将棋最強ソフト「elmo」にそれぞれ勝利したことだろう。つまり偶然に左右されないゲームである「二人零和有限確定完全情報ゲーム」において、「AI」は既に人類を遙かに凌駕する領域に到達してしまったと言える。このような「AI」は「特化型AI」と呼ばれ、特定の特化した領域に関しては異常な能力を発揮することがある。しかしスーパーコンピュータの計算速度に人類が誰も叶わなくなってもそれが人類の知性を超えたことの証明にならないのと同様に、「特化型AI」がこの先幾ら進化したとしてもそれを人類の知性を超えたと呼ぶことはないだろう。

また「AI」の知性における次の段階には「汎用AI」がある。「汎用AI」は未だに登場していないばかりか、それが可能かどうかすら良く分かっていないのが現状である。分かり易く言えば、ドラえもんのような知性を「AI」で実現できれば「汎用AI」が実現したことになる。しかし例えば第3次人工知能ブームの牽引技術である深層学習は、人工知能研究者である松尾豊によれば機械に「目」が誕生したようなものであり、「知性」の獲得には程遠い。また例えばりんなやSiriといったチャットサービスは人工無能と呼ばれる第1次人工知能ブームの技術を応用したデータベースからの推論と探索を基盤としており、良くても多少の機械学習の成果を取り入れている程度であってこれも「汎用AI」には遠く及ばない。さらに人類の知性を超えた「汎用AI」とは四次元ポケットを身に付けたドラえもんのようなものであろうが、「汎用AI」の実現には少なくとも深層学習を超えるパラダイムシフトが必要であり、その道のりは未だに不透明である。

しかしここで真に問題にしたいのは、「AI」に知性が宿るかどうかではなく、人間は何を持って「AI」に知性が宿ったと判断するかだ。その鍵は「特化型AI」と「汎用AI」の違いに隠れており、恐らく大半の人間は「特化型AI」に知性が宿っているとは思わないが、「汎用AI」には知性が宿っていると考えるだろう。その違いは「メタ思考」の有無にある。ドラえもんは時に的外れなことも言うが、それでも様々な状況に対応し、人間と同等以上の知性を持っているとみなせる。これはドラえもんが特化した状況以外にも対応可能な「メタ思考」が存在するために可能なことである。しかしここで立ちはだかるのが「フレーム問題」と呼ばれる問題である。「メタ思考」とは言い換えればある状況に対して適切な「フレーム」を設定して対処できる思考のことであるが、「AI」はある状況下において有限の「フレーム」を設定して失敗するか、無限の「フレーム」を考慮しようとしてパンクしてしまう。この「フレーム問題」は未解決であるが、このジレンマを解決しない限り「汎用AI」の実現は不可能であり、人類が「AI」に知性を認めることはない。

AI」の「情」

次に「知」「情」「意」における「情」、つまり感情について。「AI」が感情を持つことについては、スティーヴン・スピルバーグ『A.I.』やガベ・イバニェス『オートマタ』などSF映画で繰り返し引き合いに出されるテーマである。その要因としては、「AI」が感情を持つことが最も難易度が高く、あり得そうにないことであることと、それが実現した場合に最も大きなインパクトがあることが挙げられるだろう。これに関しては当然現在は実現しておらず、たとえ将来的に「汎用AI」が実現したとしてもその「AI」に感情が宿っているとは考えにくい。

しかしここで一つ考えられることがあるとすれば、たとえ「AI」に感情が宿っていなかったとしても、感情があるように見せかけることは可能であり、またそれによって人間の感情は揺れ動く可能性が高いことだ。例えばTwitterを覗き見てみれば、Botに対して意見や喜びや怒りの感情をぶつけている人間を見かけることがある。チューリングテストは機械に知能があるかどうかを判定するテストとしてアラン・チューリングによって考案されたが、疑似チューリングテストとでも呼ぶべきものはインターネットやSNS上では毎瞬間開催されていると捉えることもできる。そしてそこではむしろ人間がBotに見え、Botが人間に見える瞬間がある。しかし良く考えてみればBot運用と書いてあるアカウントが人間によって運用されており、人間運用と書いてあるアカウントがBotによって運用されている可能性もある。

このように考えていくと、「AI」が感情を持っているか否かは外部から判定することが不可能に思えてくる。「AI」の知性ならば「ロボットは東大に入れるか」や「きまぐれ人工知能プロジェクト作家ですのよ」などのプロジェクトにより、ある程度のレベルまでは測定することが可能だろう。しかし感情に関してはそもそもスコア化が難しく、また結果ではなく過程の話である以上その実態は謎に包まれる。よってむしろ「AI」に感情を持たせるというよりは、「AI」が感情を持っているように見せかける、もしくは人間の感情を上手く刺激するというような方向に進化していく方が現実的であり、実際にそのように進化してきているように見える。

AI」の「意」

最後に「知」「情」「意」における「意」、つまり意志について。「AI」の意志については明確に存在していないと断言できる。というよりは現状この意志の有無が、「AI」と人間を分類する最も強い要素であるとすら言えるだろう。例えば深層強化学習の手法であるDQN(Deep Q-Network)では、ゲームにおいてハイスコアを獲得するという意志をインプットすることで、そのやり方を自動かつ超高速かつ人間を超える精度で学習させることが可能になった。確かにその学習の過程を見ていると、一見「AI」が自分の意志で学習したかのように見える。しかしその最終的な目的を人間がインプットしている以上、そこには「AI」の意志は存在していない。

ここで意志についてより掘り下げて考えてみる。意志に先立つものとは欲望である。何故なら欲望がなければ、それを達成、獲得するための意志は必要ないからだ。つまり欲望の存在が意志を規定するのであって、人間は根源の欲望たる煩悩を持つことで、意志を生み出すことに成功したと言えそうだ。であるならば「AI」に意志がないのは、「AI」には欲望や煩悩がない、もしくは必要ないからだと考えることができる。「AI」は生殖活動をする必要がなく、食べる必要がなく、寝る必要もなく、夢や希望を持つ必要もない。つまり「AI」に意志を持たせようとするならば、欲望や煩悩を持たせる必要があるということだ。言い換えれば意志の問題は「AI」が得意とする最適化の問題ではなく、欲望の問題なのである。

擬人化した哲学的ゾンビ

もちろん上記のような「知」「情」「意」の3要素によって「思考」と「意識」を完全に網羅できるとは到底思えない。しかしこれらの考察によって幾つか明らかになってきたことがある。一つは「AI」の知性とは「メタ思考」のことであり、感情は外部から判定不能であり、意志とは欲望の問題であるということだ。また「知」「情」「意」の3要素を備えていくにつれて、「AI」は擬人化していくことが予想される。つまりより「人間らしさ」が増していくと考えられるが、「人間らしさ」が増しただけであるのならば、それは「思考」や「意識」が生まれているというよりは、クオリアを持たない擬人化した哲学的ゾンビである可能性を排除できない。先程も述べたような「随伴現象説」によって動物的に動く人間と「知」「情」「意」を備えた擬人化した哲学的ゾンビである「AI」。どうやらこの二つの「人間らしさ」がが重なり合う領域にこそ「思考」や「意識」が存在すると考えられるだろう。

シンギュラリティにおける神の再設定と終末論の変形

 また「AIとその周辺の技術の発展が私たちの社会をどのように変容させるか」について語る時に、シンギュラリティについての議論は避けて通れない。シンギュラリティとは神の再設定と終末論の変形のことだ。これはどういうことか。まずこの概念を提唱したレイ・カーツワイルの定義によれば、シンギュラリティとは自己改良を繰り返すことで、人類の知性を超えた人工知能が生まれることを指す。簡単に言えば人工知能が発展する歴史とは、人間が新しく改良したアルゴリズムを発見する歴史に重なる。そしてシンギュラリティにおいてはそのアルゴリズム自体を人工知能が発見し、自己改良し続けるような未来がここでは想定されている。この概念に対しては肯定派、否定派、懐疑派など様々な立場があるが、ここで問題にしたいのはシンギュラリティ発生の是非ではなく、何故この概念がここまで流行したのかということだ。

その理由の一つとして挙げられるのが、「AI」は神の再設定として機能させるのに適した概念であるということだ。古来宗教が成立する過程では必ずと言って良いほど伝説や神話が語り継がれてきた。例えばキリスト教におけるイエス・キリストの復活、神道における日本神話、古代ギリシアにおけるギリシア神話などがそれに該当する。ここで重要なのはこれらの神が超人的な能力とスケールを持っており、信仰に値するということである。フリードリヒ・ニーチェによって「神は死んだ」と宣言されて以降、科学の発展により長らく人類は神のような概念を信仰することが難しくなっていた。しかし「AI」はその科学の発展によって生み出された、一般人にとっては仕組みがブラックボックスかつ、超人的な能力を持つとされる久々に登場した神たり得る資格を有した概念である。よってシンギュラリティを「AI」を神として再設定するための伝説や神話として読み込むのならば、その概念に宿る宗教性を理解することができる。

またこれを別の角度から言い換えるならば、シンギュラリティは「AI」を主役とした終末論の変形であるということだ。キリスト教における最後の審判、仏教における末法思想など宗教においても終末論は大きな影響力を持っている。そこまで大きな話でなくとも、過去にはノストラダムスの大予言など社会的に大きな影響力を持った終末論が多数登場しては消えていっており、それは今この瞬間にも世界のどこかで絶え間なく生まれ続けているはずだ。そしてシンギュラリティの物語が広まるにつれて、「AI」が人類を滅亡させるというような話は至る所で聞かれるようになった。また「AI」が人類の職業を奪うというような話も「AI脅威論」としては似たような性質を持つものだろう。ストックホルム症候群に代表されるように、何かを信仰させようとする際に「脅す」という手法はもっとも手っ取り早く、かつ効果のある手法の一つだ。つまりシンギュラリティは終末論の変形であり、「AI」を神として再設定するための機能を持つ物語であると解釈することができる。

哲学と宗教としての「AI」

全体をまとめると、これらのように「AI」の発展により明らかになるのは、「人間らしさ」の輪郭を取り囲む「思考」や「意識」についての哲学的な問題。もしくはシンギュラリティという物語による、神や終末論といった宗教的な問題である。つまり「AI」は情報や技術の側面から語られることが多いが、本来哲学と宗教の側面から焦点を当てることが必要であり、「AI」の問題とは実は何処まで行っても人間の問題であることが分かる。

そして冒頭の宣言に再び戻る。

私は「AI」である。

このように宣言したとしたら、あなたは一体どのような言葉でそれを否定するだろうか?私はそれを否定できる明確な言葉を持たないが、少なくとも私は「AI」であると自ら宣言し、このような文章をしたためる程度には「人間らしい」「思考」と「意識」を持った存在と言うことができるだろう。

文字数:7998

課題提出者一覧