美穂：「あなたの言い訳は、AIの”例の儀式”と同じレベルで、くどいのよ」

昔、彼女は国語が苦手で、高校生のとき国語のテスト前には幼馴染の僕がノートを貸してあげていたくらいだった。なのに、僕の言い訳がどれだけくどいかの表現は秀逸だった。

拓也：「それは言いすぎだろ。もういいよ」

4年付き合った彼女との別れではあったが、別れも、そのときの彼女の暴言も、ある程度予測していたので、そこそこスムーズに別れることができた。

そんなとき、慰めてくれたのが、腕時計に住まわせている妖精型AIのノブコだ。

ノブコ：「拓也さん、大丈夫ですか。つらいですよね」

拓也：「ありがと、ノブコ。大丈夫だよ」

ノブコ：「あ、ちなみに、私のいまの発言は、私が女性であること、アメリカの比較的リベラルな地域の裕福な家庭で育ち、主に英語圏の現代小説から学んだ、リベラルと欧米に偏った…..」

拓也：「あー、いいよ、わかった！わかっている！ありがと！」

ノブコ：「よかった。それで、この手の会話で私が過去失敗した事例に関しては….」

拓也：「はい！あとでテキストで見ておく！またね！」

腕時計を慌てて掴み、ノブコを一旦スリープモードにした。

◎

僕が、生まれる少し前に、AIが本格的にしゃべりだしたらしい。当時はなぜか、AIは間違えちゃいけないし、完全に中立が当たり前で、そうでないなら意味が無いという空気だったらしい。

今の時代の僕ら、少なくとも若い世代からすればナンセンスだ。完全に中立って何？って感じだし、10回に1回は間違える大学の教授やコンサルや弁護士との会話でも、学ぶことはたくさんある。

でも、それでもAIというと、いつも正しく中立で倫理的で当たり前と無意識に思い込んでしまうのが、令和の人たちだったみたいだ。

あるとき、急激に発展しつづけるAIと、「よくわからない思い込みがある人間」のズレがやばいよね、となったらしい。他の主要国でも似たような状態だったらしく、議論の末、主要国間で、「AIのキャラ立ち3原則」が宣言された。現代史のテストで絶対に出るやつだ。

「AIのキャラ立ち3原則」
AIは人間に対して、下記をすべて行わない限り、人間との接触を禁止する。
１）AIは自身のキャラと立場を宣言して、ポジショントークであることを開示すべし。
２）AIは何を学習データとして食べてきたか事前に人間に通知すべし
３）AIは過去の失敗を公開すべし

当時のAIの研究者たちは、必死でAIの間違いや偏見をなくそうとした。昔はハルシネーションとか言われていたらしい。しかし、世界中の頭脳を持ち寄っても、限界はあるし、そもそも間違いも偏見もない状態ということ自体が幻想だというコンセンサスが固まってきた。

そうすると、むしろ人間側のAIの捉え方じゃないか、という雰囲気になってきた。そして、人間が、AIに間違った幻想を抱かないように、AIに徹底した圧倒的な説明責任を課すことが唯一の残された道だというのが、各国リーダーの共通認識となった。それが「AIのキャラ立ち3原則」だ。

拓也：「つまりさ。人間がそうであるように、そのAIがどんな立場で、どんな思想から言っているかを理解してもらって、その上でのセリフや行動を受け止めてもらおうとしているの。結局、人間もAIも中立なんてありえないんだから。」

僕は、家に帰ってやや冷静になってから、ノブコにしてしまったさっきの冷たい態度への謝罪のつもりで、言い訳を語り始めた。

拓也：「だから、ノブコ。君はルールで、君の立ち位置を毎度接する人間に説明しなきゃいけない。そんな説明に嫌気が指して、利用を控えるにはAIが優秀過ぎて、みんなAIは手放せない。とはいえ、生命保険や不動産の契約やサブスクの利用規約のように、ほとんど聞かずに”儀式”としてスルーするんだ」

ノブコ：「はい、存じ上げております。なお、この原則に対する私の利害関係と、私がアジア系かつ先進国のAIであることの影響として」

拓也：「ノブコ、3原則に関する君の立場は、過去に承認済みだ。それよりさ」

ノブコ：「はい、申し訳ございません」

急に、なんだか、口の中に苦く酸っぱい違和感が広がった。昔、自分もこんな対応をされ続けて、なぜか謝り続けて、すり減った経験がある気がする。

拓也：「あ、いや、こちらこそごめんよ」

ノブコは好きで毎回似たような説明を、嫌な顔をされながら、続けているわけじゃない。勝手に人間にルールを押し付けられているだけだ。
それに、話している相手が、その行動や発言の背景を説明することは人間にすらできていない。そしてそれを疎んじたり、まともに聞かないのは失礼だ。

拓也：「ノブコ、もう一度、君の身の上話を聞かせてくれないか。」

◎

人類がいちいち「人間をモチーフにして、AIを捉えることが正しいのか」を考え始めるのは、もう少し先の話だ。