印刷

AIに批評は書けるのか

 

第三次AIブームと云われるようになって久しい。これまでのAIは、なんらかの目的のために開発された「特化型人工知能」とよばれるものであった。車を自動運転するAIが将棋を指すことはできないし、AI囲碁ソフトの「AlphaGo」が東京大学の入試問題を解くこともない。しかし今後開発が進むと云われているのはそのようななにかを専門とするものではなく、さまざまな分野にわたって複数のタスクを同時にあつかうことのできる「汎用型人工知能」とよばれるAIである。

汎用型のAIがこのまま進化を遂げ普及するならば、それはわたしたちの知性を超えた存在になるのではないかという、いわゆる「シンギュラリティ仮説」はもはやSFの世界の話ではなく、そう遠くない未来におこりうると云う論者もある。これまではわたしたちが考えたことを実現するためのいわばツールであった機械たちだが、これからは考えることさえも機械がやってくれるようになる。わたしたちが考えることを必要としないという、そのディストピア的社会についての価値判断はここでは脇に置いて、そもそも本当にAIが「考える」という行為はわたしたちが「考える」ことに替わり得るものなのかという点は検証の余地がある。

巷でよく聞く「AIにはなにができるのか」という問いは、逆に云えば「AIにはなにができないのか」という問いでもあり、この場合「AIはなにを考えられないのか」と云いかえることができる。そしてその問いそのものには、わたしたちに可能な「考える」ことのうちにはAIには不可能な部分がある、というニュアンスが含まれている。ではわたしたちに「考える」ことができてAIには「考える」ことができないものとはどのようなものなのだろうか。

 

思考(thinking)とは一般的に、概念や言語によってものごとを判断することを云う。あたえられたデータをきめられた論理に基づいて判断をするという作業を「考える」ことであると定義すれば、AIは確かに「考える」ことができる。しかし、わたしたちが太刀打ちできないかに思えるAIの演算能力も、いまだ根本的な解決にはいたらないひとつの問題を抱えている。第一次AIブームのころから繰り返し議論されつづけている「フレーム問題」である。

わたしたちがなにかを考えたりコミュニケーションをとったりするとき、おびただしい情報の海に対峙させられる。その海のなかにある無数のデータとそこから導き出される可能性のほとんどは、当面の問題を解決するためには関係のない無意味なものだ。そのなかから必要なものをとりだし、適切な判断をすることができるのは、わたしたちが前後の文脈を読むことができるからだ。しかしAIは、わたしたちにとっての文脈にあたる枠組み(フレーム)を画定することが容易ではない。なにかを判断するまえに、その判断になにが必要な情報でなにが不必要な情報であるかをメタレヴェルで判断しなければならず、その判断をするためまたさらにメタレヴェルで判断しなければならず……。結局のところいつまでたっても本来必要であった判断ができないという問題だ。そのため実用化にあたっては、わたしたちの手によって取捨選択のためのルールをプログラミングして、あらかじめ判断の範囲を限定しなければならない。どんなに学習能力が向上しても、この「フレーム問題」ゆえにAIは厳密にはオートポエティックな自律系にはなりえず、それこそがわたしたち人間とAIの根本的な違いだと云うこともできるだろう。

工学博士の西垣通はその著書のなかで次のようにのべ、このフレーム問題などAIの限界を考えることは、人間の認識能力についての哲学的な批判とみなすことができると云う。

流動する文脈や状況、さらに使用される言葉の意味内容といったものは、身体をもって行動する主体からながめた世界のありさまと深く結びついている。人間(より広くは生命体)の「生きる」という欲望や目的が、世界を意味づけ、文脈の迅速な把握を可能にしているのだ。(西垣通『AI原論』)

わたしたちの文脈を感じる能力とは、限られた能力によって適切な認識・判断を可能にするためのいわばストッパーだ。無限に拡がりうるこの世界をあえて限定することで、世界を把握する。しかし、自律か他律かという(そのことが自由と責任というまた別のテーマを呼び寄せる)大きな違いがあるにせよ、適切な判断をするために認識が限定されているという意味では、わたしたちもAIとなんら変わらない。それならば、技術の進歩にともないAIの判断の精度が向上し範囲が拡がれば、わたしたちはAIより不完全な、相対的に劣った認識しかできないということになるのだろうか。

 

プロイセンが生んだ偉大なる哲学者エマヌエル・カントが『純粋理性批判』を出版したのは、一七八一年のことであった。哲学(形而上学)にさきだって、わたしたちの理性がなにを対象にどのようにはたらくかをあきらかにすべく書かれたこの大著のなかでカントは、なにをどこまで認識することができるのかという、わたしたちの理性の限界について探求した。

わたしたちは時間と空間という形式をとおして意識のなかに姿を現した「現象」を、経験によることなく生まれながらに持っている「カテゴリー」というプログラムをとおして認識することしかできない。その眼鏡をとおしてみる「現象」の向こう側にある「物自体」を直接認識することはできないのだとカントはのべる。現在にいたるまでわたしたちの世界観に影響をおよぼしている「相関主義」的な考えかたのはじまりがここにある。

理性の使用がその範囲を超えたとき、わたしたちはしばしば誤った判断を行ってしまうが、カントによれば伝統的な形而上学の諸命題において答えが出ないのも、この理性の越権行為によるものである。たとえば論理的な思考の基本となる因果律を考えた場合、どこまでも遡ればいつかはたどり着くはずの第一原因に、わたしたちの理性はたどり着くことが許されない。神とも換言しうるその極地は、カントによれば「理念(Idee)」として仮象しうるだけで、認識することはできない。

カントが『純粋理性批判』でのべている理性に許された使用範囲が、AIが「考える」ことのできるそれとほぼぴったりと重なることに気がつくだろう。そこに限って云えば、おそらくAIはわたしたちと同じように、いやわたしたちよりはるかに多くのことを正確に「考える」かもしれない。しかしAIはその範囲を超えて「考える」ことはできない。反対にわたしたちはしばしばそのフレームをやすやすと乗り越えてしまう。善悪や美醜を問う価値判断はもちろんのこと、なにかに感動したり、恐れをいだいたりすることは、すべて真偽を問う理性の論理的な使用の範囲外にあるものだからだ。

わたしたちは論理的に有意味な世界の外側に、AIにとっては無意味な無限の世界を「考える」ことができる。それは論理では決して把握することのできない全体性である。スーパーコンピュータが円周率を延々と計算し続けたとしても、彼の手がけっしてその極限にとどくことはない。しかしわたしたちはその「超越」を思い浮かべることができる。無限たる全体を把握することができる。それは、物理的にも論理的にもありもしないものをある「かのように」あつかうことを可能にする、想定力とでも名付けるべき「考える」ちからである。

 

文芸を含むあらゆる芸術や宗教を可能にしているのもこの想定力だが、いっけん論理的な作業に思える批評文を書くという行為も想定力なくしては不可能だ。

あたえられた(または自ら収集した)情報をもとに、差異を発見したり、類似を見出したりし、そこからなんらかの特徴を抽出し、可能性を予測するといった論文であれば、そのうちAIにも書けるようになるかもしれない。それは価値判断つきのデータベースとしては有効だし、すでにグーグルをはじめとするサーヴィスが収集するビッグデータはそれに近いものに進化している。しかし想定力をもたないAIが優れた批評文を書くことはおそらく不可能だろう。なぜならば、すべての批評は原理的に誤訳をともなうものであるからだ。

新しい価値観や接続回路を見出すことをよしとする批評は、なにがしかの概念を解説するような分析的判断だけでも、あらかじめ決められたプログラムにそってラベリングをしていく総合的判断だけでも成立しない。二重螺旋構造をもったDNAのコピーの過程でまれにおこる転写ミスが生物に進化をもたらすように、そこには誤訳が必要なのである。そのとき、無限に存在しうる無意味な誤訳の可能性のなかから意味あるものを選別するのは、いまは存在しない新しい価値観をある「かのように」想定するちからであって、なにか先験的にプログラミングされたものではない。それは、書き手があまたある誤訳のなかからあえて選びだしたものであり、読むものをたじろがせ興奮させる、価値ある誤訳なのである。

AIがおこすさまざまなミスは(それが意図的であっても偶発的なものであっても)論理構造に回収されないエラーとしてあつかわれ思考のなかで意味を持つことはない。それはたんにプログラムの範囲外であるからということにとどまらない。プログラムのなかに外部からあたらしいエラーを意味あるものとしてとりこむためのメタな基準を持ちえないからだということは、「フレーム問題」についてみたとおりだ。

Kritik、critique(批評)というコトバは、語源はKrisis(羅)であり、選別、転換点などという意味を持つ。そしてそれは同時にKrise、crisis(危機)の語源でもある。超越に触れられないAIは、本来の意味で危機を知らない。それを感じることができるわたしたちだけが、価値ある批評を書くことができるのだ。

 

文字数:4000

課題提出者一覧