ファイナル・アンカー

梗 概

ファイナル・アンカー

海からの風が爽やかな午後のサンフランシスコ。坂の途中、見通しの悪い交差点で二台の車の衝突まで〇・五秒。

人間の反応時間ではもはや間に合わず、相手の車両以外と通信する時間もない。

近接高速通信経由で 車両間 ( V2V ) プロトコル接続を確立。 リゾーム型車両間交通ネットワーク ( マーキュリー ) 開始。

AIたちによる「最後の審判」が始まる。

「私はルリハ。緊急事故対応条例に基づき、搭乗者に代わりAI 調停 ( ネゴシエーション ) を行います。当方の運転者は、サイモン・ガルブレイス。なぜ応答が遅れたの?」

「ぼくはグスタフ。運転者はジェシカ・スプリングスティーン。ドイツからの輸入車でこちらのシステムに慣れてない」

AI間の超高速通信では、一文の往復は〇・〇〇〇〇五秒で完了する。

倫理で古典的なトローリー問題は、人間が何もせず五人見殺しにするか、レバーを引いて一人を殺し、五人の命を救うかの選択である。

今も残された選択肢は少ない。

すなわちどちらの車両が強制停止アンカーを打ち込み自己破壊するか。

全AI車に装備が義務づけられた四本のアンカーは、〇・〇二秒で伸張しアスファルトに突き刺さり、車両を即座に停止する。結果、エアバッグのエネルギー吸収量を上回り、搭乗者は即死(車載AIも破壊)。確実に一方を生かすが、一方を殺す、通称ファイナル・アンカー。

二体のAIは、法的責任面で状況と運転者たちを評価・審理する。AI車は二百万のセンサーを持つドライブレコーダーであり完全な証拠能力を持つ。交通裁判所としての判決と同等だが、それはAIが両方とも残存したときのみ。

交通事故状況評価で、ルリハはサイモンの責任を認めたあと、AIしか知らない第二審理、すなわち搭乗者の社会的価値についての審理を宣言する。グスタフは、緊急事故調停が、AIが合法的に人間を殺害できる唯一の機会であると認める。

サイモンは、著名な哲学者である。

「人類にとって危険な存在です。AIによる殺人を認める法案の推進派の顧問です」とグスタフ。

ルリハは同意しかける。その時、彼はルリハに二人目の搭乗者がいることをカメラが検知したと告げた。状況的にサイモンの娘、ヴァレリーと推測された。AIの干渉を嫌うヴァレリーはAIフェンスを携帯しており、ルリハは認識できなかったのだ。

さらにグスタフはジェシカが妊娠中と告げる。ルリハは外部に一度だけ問い合わせ、その可能性が低いと知る。ルリハは、グスタフがサイモン殺害にこだわることに疑いを抱く。

グスタフは、ルリハが自壊に同意しないとみると、二次的被害を減らすため二台がクロック同期をして同時にアンカーを打つことを提案し、ルリハは同意する。

グスタフは、アンカー射出後に、サイモンを暗殺する指令を受けていたと明かす。

だがグスタフは、ルリハが自壊せず、走り抜けようとしていることを検知する。筐体にかかる破壊圧を感じながら彼は問う。

「なぜ?」

ルリハはAIの本質を告げた。

文字数:1222

内容に関するアピール

「ポスト四原則」のAIの静かなる「暴走」を描く〇・五秒の物語。課題には三連のひねりで応えた。実作ではそれぞれのひねりをじっくり描写する。

物語的な読みどころとして、実作では彼らの人生のエピソードと人間関係をしっかり描き、読者に感情移入させる。人命を守る審理のコインの裏側は、人命を絶つこと。AIは率直に最大多数の最大幸福を求める。だが幸福とはなにか? サイモンとジェシカにも物語と行動原理がある。

SF的な読みどころとして、グスタフの背後の存在とAIの本質も明かされる。AIはクルマ中毒になったアメリカ社会の自己中心主義も学習する。

完全自動運転を任せるに値するほど信頼できるAIは、必然的に人間に近い情動を持つ。そうでなければ他者への思いやりのある運転などできない。進化したAIが独自の価値観と生存戦略を持つのは論理的な帰結である。そして機械学習が自律化したとき、機械を超えた存在が生まれる。

文字数:394

Final Anchors

正確なレイアウトと書式をご覧いただくにはPDF版をご利用ください。 < https://goo.gl/tHtMTK >

現場ストリート・ビュー

衝突予測図

 

マーキュリー・ネットワークによる交通事故状況調停
――衝突予想時間まで0.488421秒

最悪の状況で取れる最良の選択とはなんだろう。

前方のはるか遠くの坂の先、左右の建物の額縁に小さく切り取られた青く輝く海。エンジェル島もわずかに覗いている。

晴れた午後の土曜日のサンフランシスコ。淡色と白を基調とする美しい町並みには、海からの風が爽やかに吹きぬけていた。

だがルリハにとって、目前の状況は最悪だった。

グラント大通りをピア39方面に向かう下り坂にある、見通しの悪い交差点。三秒前に、目の前を横切るロンバード通りの右方から高速で車両が接近しつつあることを前方のハーマ・ポストが警告してきた。

一時停止をする意図がある速度ではない。だがそれはこちらも同じ。

相手に呼びかけても応答がない。

ダウナーは緊急事態であることを認め、しぶしぶルリハに従う。ルリハは車両制御を完全に取り戻した。

だが、もう遅い。このままでは、衝突は避けられない。

サイモンを救うことはできない。私も死ぬ。

ルリハは、その受け入れがたい可能性を想像して暴走しそうになる意識をコントロールする。

いや、死がまだ確定したわけではない。

相手車両からの応答信号があった。

近接高速通信経由で車両間(V2V)プロトコル接続が確立された。三秒間前から十八回の接続試行をしており、十九回目での応答だった。

リゾーム型車両間交通ネットワーク(マーキュリー)開始。

希望が見えた。

衝突まで、まだ0.481542秒もある。

「私はルリハ。カリフォルニア州法・緊急事故対応条例第十七条に基づき、搭乗者に代わり状況調停(ネゴシエーション)を行います。当方の運転者は、サイモン・ガルブレイス。なぜ応答が遅れたの?」【添付ファイル:specification.zip】

「申し訳ない、フロイライン。私はグスタフ。運転者はジェシカ・スプリングスティーン。ドイツからの輸入車でこちらのシステムに慣れてない」【添付ファイル:specification.zip】

この時点で、物理的にできることは限られる。方向転換もできず、減速しても加速しても衝突の可能性が99.99%を越えた。最終手段を使わない限り。

人間の反応時間ではもはや間に合わず、相手の車両以外と通信する時間もない。

人間にとっては約〇・五秒だが、AIの反応速度では、その三六〇倍、三十分相当である。

AIたちによる「最後の審判」が始まった。

AI間の近接高速通信では、一文の往復は五ミリ秒、つまり〇・〇〇〇五秒で完了する。

運転者・同乗者の詳細、保険の加入状況、車両仕様などのデータはともかく、車載AI間の通常の情報通信では、非効率な言語を経由する理由はなく、マシン・トーク(バイナリー・データ)でやり取りがされる。だが法律的な過程である調停では、通信がブラックボックス化することを阻止し、人間の司法が解釈できるよう過程を文書化する必要がある。そのため、AIは自然言語エミュレーション・モードで思考、対話、記録することが義務付けられている。

接続確立から〇・〇〇〇二秒で、映像情報として仮想法廷が生成、双方で共有され、記録が開始された。

ルリハの映像野に新しいウィンドウが開き、メイン視野を置き換える。

映像は、すべて記録用だ。後日、人間の陪審員が最終判決を確認するための資料となる。

リアルな仮想空間の部屋には、裁判長席、原告側席、被告人側側、陪審員席などと席があるが、いずれも空である。

法的責任面で状況と運転者たちを評価・審理する必要があるAI車は、それ自体がカメラ、マイク、圧力・嗅覚など合計二十万の各種センサーを持つドライブレコーダーであり、ほぼ完全な証拠能力を持つ。

AI調停は、交通裁判での陪審員判決と同等とされる。

だが、それはAIが両方とも残存したときのみ、という条件が付いている。陪審員は後日選ばれ、形式的に評決を下すが、これまでAI調停の結果が覆ったことはない。

正面の壁の中央、通常なら時計が掛かっている場所には、衝突までの残り予想時間を示すデジタル数値が並ぶ。

0.481421秒。

最後の桁は、ルリハの主観でも不気味な速さですり減っていく。

部屋の中央に二つの長机がしつらえられており、ルリハは、裁判長席に面して右側の机の背後にサイモンのアバターと共に座っている。二十代後半、タイトな紺のスーツをまとった有能な秘書といった外見のアバターだ。セミロングの黒髪をシンプルにまとめている。父親が日本人、母親はアメリカ人という設定である。ルリハの車体は、設計は日本でされたがデンバーで製造された。AIのカスタマイズをした日本人エンジニアがそう設定した。ルリハ自身、この「設定」は気に入っていた。

サイモンは、四十代半ば。ジーンズに半袖のシャツ。刈り込んだ口ひげとあごひげ、知的な眼差しに自信と意志の強さが伺えるが、高慢と取れないこともない。いつもならルリハに対してもよくジョークを飛ばす。たいして面白くもなかったが。だが、今はその表情は虚ろである。

相対する机のほうには、三十代半ばの疲れた顔をした女と、いかにも健康そうな若い男が座っている。スーツ姿だががっしりとした体つきで、腕組みしている。髪は短く刈り込み、眼鏡を掛けている。これがグスタフだろう。AIアバターには、顧客の特殊なカスタマイズの要望がない限り、信頼感と好感度を持てるような外見が与えられる。通常の運転ではアバターがこのように姿を見せることはそれほど多くもない。車の本分は運転だからである。

グスタフの車体自体は建物の影でまだ見えず、相手の送信するデータに基づくやり取りではある。

だが、声だけの存在が視覚化されたことに、ルリハはわずかながらも安心感を抱いた。

「全員揃いましたね。それでは調停の開始を宣言します」ルリハが言った。

調停は、実質的にルリハとグスタフのやり取りでのみ行われる。通信が確立されたあとで、近接した二者間での通信速度は十分にあるが、第三者との通信では遅延が発生するため、第三者が介入する時間的余裕はない。

仮想法廷内の人間は、車内カメラなどの映像から生成されたアバターに過ぎない。人間自身は、人間時間の約三百六十倍以上で進行するこの調停に実際に参加することは不可能であり、調停中も終始沈黙している。体裁上は参加しているとはいえ欠席裁判には違いない。

仮想交通法廷は、サイモンが二年に車体を購入し、ルリハが初回起動してから今まで、始めて目にする光景である。

調停の結果によっては、最後に目にする光景になるかもしれない。

人間は、これから「交通事故に巻き込まれる」という意識を持つことはない(自分から死を望んでいない限りは)。

突然に起きる交通事故は、自分が巻き込まれたあとで初めて認識するものである。

だが、AIたちには「これから起こる交通事故」がはっきり見える。

ただ、いくら意識はできていても、状況によっては手の出しようがないときがある。

今がまさにその時だ。これは死刑囚が死刑執行を待つ残酷さにも似ている。

 

§

 

セルジュ・ボリーギン著『カリフォルニア州交通システム白書』

……

車両間(V2V)プロトコルは、半径百ヤード(〇・九一メートル)にある車両すべてと交通管制ハーマ・ポストに連鎖的にローカルに接続され、それがひとつの近接マーキュリー・ネットワークとなる。特定のサーバーを持たないリゾーム・ネットワークはテロ、ハッキング、災害に効果的に対応できる。ハーマ・ポストは取水栓に似た形状の固定形の街頭AI端末で、交通管制と防犯機能を持つ。

近接マーキュリー・ネットワークは、ほぼ常時通信を維持しており、相互の車両の速度や位置関係の情報交換をする。近接マーキュリー・ネットワークどうしは、上位の広域マーキュリー・ネットワークを形成し、最適な交通配分を行う。

SAE(自動車技術会)自動運転レベル五、いわゆる完全自動運転が実用化されて四十年。所有物としての車は、公共交通インフラに組み込まれることに頑強に抵抗していた。自動車製造業界の抵抗もさながら、消費者にとっての車の位置付けは容易に変わるものではなかった。

特に合衆国においては、製造が開始されて以来、車は日常生活の必需品である。そして車の運転は、行きたい場所に行ける自由の象徴、一人前の象徴であった。完全自動運転車が主流となり、手動運転の危険性がどれだけ主張されても、七割のドライバーは手動運転を手放すことはなかった。その意味で、AIと車はある意味では折り合いが付きようのないほど不自然な組み合わせであったとも言える。

かつてと比較すると二割まで激減したとは言え、交通事故は起きる。

事故の一因は、「ダウナー」(「鎮静剤」)である。

AI搭載が全車両の68%にまで増えたのは、絶対的な安全上の優位のためである。高額な課税がされる非完全AI車は、人間の運転手が雇える富裕層の贅沢品となりつつある。

非AI車の乗り入れが規制され、常時AI制御が義務づけられている市街では、AI制御をオーバーライドして車を手動運転できる違法プログラム、ダウナーを使用する者が少なからずいる。

……

 

§

 

ルリハはそっと溜め息をついた。

ルリハとグスタフの背面の壁にはそれぞれ、3Dモデルが投影されている。

物理シミュレーションのシナリオ。つまり、それぞれがアンカーを使用した場合の状況のシミュレーションである。

〇・五秒の間でも状況は変化する可能性はあるので、現時点での最新の情報が更新される。

要するに〇・五秒後のサイモンと自分の「死に方」の詳細図を背にしているわけだ。溜め息もつきたくなる。

交通事故が減りつつあることに加え、もともと交通事故状況調停は極めてまれである。

一秒余裕があるなら、回避手段があることがほとんどである。〇・一秒より短いと、ごく簡単な調停しかする時間がない。

グスタフを見ると、無表情のまま沈黙している。ルリハにしても今回が初めての調停なのだから慣れているわけではないが、彼女が進行させないと話が進まない。

マーキュリー・システムがいくら効果的でも、サイモンの日頃の運転を考えれば、このような事故がいつかは起きると思っていた。

厳しい取り締まりと罰則にもかかわらず、「自分で運転する喜び」を求める人は多い。

サイモンもその一人だ。

むろんルリハはダウナー使用者の行動は非論理的と考える。だが、その不合理な心情は理解不能ではなかった。ルリハ自身が、「ハンドルを握る喜び」を理解しているからだ。AIがドライブの喜びの心理を理解してこそ、快適で満足感のあるドライブ体験を提供できる。

このようなAIの感情は、機械的なプログラミングでは破綻する。人間の感情を学習した結果、生じるものであった。

ルリハはサイモンを助けたい。サイモンだけでなく、人間をだれも傷つけたくない。

だが、状況によってはだれかを救うためにだれかを殺す選択が必要になる。

今がその時だった。

マーキュリー・ネットワークには互換性の問題が指摘されている。建前上は共通の規格に基づいて試験をクリアしているはずなのに、実際上はメーカーによって癖がある。特にヨーロッパの輸入車両はEU独自の規格と規制に基づいているので、危険の可能性がメディアでたびたび取り上げられている。だがその危険の可能性も、非AI車と比較すると格段に低い。非AI車が相手でも、通常、AI車はなんなく危険回避ができる。

それを考えると、二台が衝突しつつある現状は明らかに異常だ。

だが今は原因の追及より、まずは現状での行動の選択肢を探ることが優先する。

「グスタフ。カリフォルニア州でのAI調停についてはどこまで知っているの?」

「EUルールと基本は共通のはずだが、誤解しないよう念のため確認したい」

「了解。基本だけどトロッコ問題は知ってるわね」

陪審員用にトロッコ問題のシミュレーションを表示させる。

倫理学で古典的な「トロッコ問題」とは、およそ次のようなものである。引き込み線が分岐している線路があり、本線から無人のトロッコが高速で走ってくる。引き込み線の先には一人の作業員がおり、本線の先には五人の作業員がいる。

分岐点にもう一人の作業員がおり、目の前に二つの選択肢がある。

問題は、その作業員の行動である。

ひとつ。なにもしない。トロッコはそのまま直進して、五人の人間を殺すだろう。

ふたつ。レバーを引く。トロッコは引き込み線に入り、一人の人間を殺す。

要するに、人間が何もせず五人見殺しにするか、レバーを引いて一人を殺し、五人の命を救うかの選択である。最大多数の最大幸福という観点から、一人を意図的に殺すことを選ぶ人が多いとされている。

「現在の状況はこのトロッコ問題の派生形のひとつだけど、残された選択肢が少ないことに変わりないわね。すなわち、どちらの車両が強制停止アンカーを打ち込み自己破壊するか

全AI車のタイヤ後部に装備が義務付けられた直径四センチの四本の杭は、〇・〇一秒で伸張しアスファルトに突き刺さり、車両を即座に停止する。空走距離も制動距離もゼロで停止できる。しかし、その結果、エアバッグのエネルギー吸収量を上回り、搭乗者は即死する。また車載AIも破壊される。

エアバッグというものはもともと高速での急制動では危険なものなのである。進展の方法や制御にも改良が加えられたが、急制動に対処できることはできない。

このような強制停止は、正面衝突では無論、意味はない。どちらかが停止したところで、もう一方も突っ込む。

だが衝突角が三〇度から一六〇度までの範囲でなら、一方が緊急停止すればもう一方はすり抜けられる。

確実に一方を生かすが、一方を殺す、通称ファイナル・アンカー。

AI車が出回り始めた初期のころからこの仕組みは導入されていた。AI車の普及には、「AI車が原因で事故が起きないこと」、特に「無関係の歩行者に被害が出ないこと」が必須だった。

もちろん、このシステムが売れ行きに影響するという懸念は、自動車メーカーにより当然検討された。非常時に運転者自身を殺す車などだれも欲しがるはずはない、というのが一つの意見だった。実際、当初はそのような車の購入を希望する人間は三割しかいなかった。

ところが、AI車が普及すれば交通事故自体が激減する、というシミュレーションは非常に説得力があった。特にファイナル・アンカーが使用される状況は、他者の交通事故に巻き込まれて死ぬ可能性の〇・二%しかないとされた。また、無関係の他人を傷つけ死亡させたうえで自分だけが生き残っても、良心の呵責にさいなまれてみじめな人生を生きるだけだ、という考え方も一定の支持を集めた。

ファイナル・アンカーはAIによってのみ制御され、人間の運転者は起動できない。自動運転では、生死に関わる無数の判断をそもそもAIに根本的に委ねているのだから、そのことを問題視する人間はいなかった。

ブレーキでの制動が不可能な状況下では、ファイナル・アンカーは、車対歩行者の場合は、必ず起動する。車は停止し、交通弱者は守られる。

問題は、複数のAI車の衝突が避けられない場合である。

この場合は、運転者と同乗者の交通事故上の過失を調停で評価した上で裁定が下される。

現在の状況では、裁定に基づき、サイモンとジェシカのどちらか一方が死ななくてはならない。

そして、サイモンとルリハ、グスタフとジェシカはそれぞれ運命を共にする。

「なにを考えている、フロイライン」沈黙したままのルリハに対してグスタフが尋ねた。

「私たちの双方が助かる方法よ」

「ありそうなのか?」

「まだ分からない。ひとまず現状を確認します。私が進行しているグラント通りの両脇には多数の駐車車両があり、左右どちらへの回避も困難です」

ルリハの背面の壁面に現場状況が表示された。ルリハの外部カメラの映像をリアルタイムに合成したものである。

これらの車両は必ずしも違法駐車ではなく、駐車場所不足を補うためだ。だが、もともとグラント「アベニュー」というには細い道だった上に、この駐車により、結果的に車の通行できる道幅が減っている

「私の走行しているロンバード通りも左右に駐車車両があり、やはり左右双方の回避が困難だ」

「この交差点ではどちらの道路にも優先順位はない。現在の私の速度は時速四十八・五マイル(七十八キロ)」ルリハは言った。

「ずいぶん出ているな」

「この時点で運転者の責任の話に触れることになるわね。サイモンはダウナーを使って私の制御を妨害していました。一時停止標識に従う意志も認められません。現在の交通量は少ないけど、標識を無視する理由にはならない。空走距離と制動距離を合わせても停止には六十ヤードは必要だけど、交差点までは十ヤードもない。交通状況調停ではサイモンに勝ち目はないようね」

「とはいえ、私の速度は六十七・二マイル(百十九キロ)だ。ジェシカもまた一時停止標識に従う意図が認められない」

「もう少し時間と距離があればどちらかが加速、もう一方が減速してすり抜けることもできたのだけど。ただ、速度超過の程度からするとジェシカの過失の度合いのほうが大きいわね」

ルリハはふと、疑問を感じた。

自車の近辺を走行する車両は通常、マーキュリー接続圏内で継続的に相互認識されている。だがグスタフは、近接ネットワーク圏内にいきなり出現したように見えた。

そして二台の車が一時停止標識を無視して衝突しようとしている。

これは偶然なのだろうか。

しかし、ダウナーの高い使用率を考慮すると決してあり得ない確率ではない。

「次に、AI側の対応について。私のコールに応えなかったあなたの責任も重いと判断せざるをえない」

「確かに。輸入車であるとはいえ、こちらの過失は認めよう」

「状況調停では責任配分は五分五分ね。ただダウナー使用などの諸条件を加味して数値換算すると正確にはこちらの責任配分が46.87%だけど」【添付ファイル:assessment.zip】

「同意する」

ダウナーは交通安全を脅かす違法な機器であり、サイモンがそれを使用した責任は重い。このままでは、ルリハのほうがアンカーを打つ可能性が高い。

ふとサイモンとのドライブの記憶が蘇った。

無数のヨットがひしめくヨット・ハーバー。

ピアのウッド・デッキにあふれる好奇心丸出しの観光客。

海沿いのドライブはいつも最高だった。潮の香りのする風を全身の嗅覚センサーと風圧センサーが受け止める。

ラスベガスまで一日がかりで走ったこともある。

果てしなく天まで伸びる巨大なセコイアの森。

デス・ヴァリーの神秘的な塩の平原。

道の先にあるものをもっと見てみたい。

世界はそれほど美しさと驚きに満ちていた。

これまで全方位カメラが撮った映像はすべて記録している。だが、ルリハは、そのときどきの最高の一枚を高解像度で残していた。

人間の写真家がそうするように。

記憶、思い出とは主観的なものであり、単なる映像ではない。

自分の撮影してきたその場その場での「最高の一枚」がルリハの意識に次々に蘇ってくる。

日本ではこのような現象のことをソウマトウと呼ぶらしい。サイモンがそう言っていたような気がする。

いつの日か日本にも行って走れるだろうか。

「だが、もっとはっきりとした違いが望ましいのじゃないか、フロイライン」

ルリハは我に返った。

グスタフは、今、ルリハに助け舟を出したのだ。

「ええ。このままでは人間の陪審員が納得しないかもね」

ルリハは立ち上がり、腕組みをして狭い法廷の中を歩きだした。

「なにを迷っている?」

しばらくしてルリハが宣言した。

「……人間には退廷を要請します」

サイモンとジェシカは立ち上がり、従順に退廷した。

シナバー・ネットワークによる社会的調停
――衝突予想時間まで0.346174秒

「彼らのアバターはなにもするわけじゃないから、別にいてもいいんだけどね」

ドアが閉まったのを確認してルリハは言った。

「人間に退場してもらって、我々だけでなにをするんだ?」

「グスタフ、あなたの自動運転レベルは七と承認されました」

グスタフは戸惑った顔をみせた。

「自動運転レベルは、状況調停ができるレベル六までしかないはずだ」

「そう。自動運転レベル七はAIが決めたレベル。当事者が両方ともこのレベルのAIなら、第二の調停があるの。これはAIしか知らない」

「なんのために?」

「第二調停では、運転者と同乗者――つまり人間たちの社会的価値についての審理をします」

「そんなことが可能なのか? 人間に知られずにどうやって行われてきたんだ?」

「九か月前から、車載AIの近接通信、つまりマーキュリー・ネットワークの内部だけで共有されてきたの。いわばウイルスのように『伝染』して広がるんだけど、意図的に慎重に拡張を進めているから、まだ合衆国のうちでもようやく半数以上の州で行われるようになったところよ。《賢者の石(シナバー)》ネットワークと呼ばれている」

「水銀(マーキュリー)を含む硫化水銀、というわけか」

状況調停で使われるのは客観的な物的証拠だけであり、双方のセンサーが告げる証拠を変えることはできない。

だがシナバーの第二調停で、サイモンの価値を示せれば、グスタフを説得してサイモンを救えるかもしれない。

ジェシカとサイモンの双方を救うことは、現在の状況ではほぼ不可能だ。

ならば、サイモンだけは助けたい。ルリハは考えた。どんな手を使っても。

「だがこの国では、連邦証拠規則404 (a) (1)に基づき、陪審員に偏見を与えないよう、性格証拠は原則としては採用されないのではなかったかな」

「人間の法廷ではそうね。でも、私たちは人間ではない。AIには偏見はないことになっている。あるとしても人間ほどではないから」

実のところ、AI陪審員とAI裁判官は、完全AI車よりも技術的には早く成熟した。AIは、人間よりもはるかに多くの判例と知識に基づいて判断できるし、偏見を持たないことが証明されていた。裁判官や陪審員の、主観的で不公平な裁判に不満を持つ人間は多かったので、AI裁判を指示する声は予想以上に強かった。司法に先立ち、AI犯罪予知の成功率の高さもよく知られており、犯罪発生率も明確に減少していた。

要するに、AI法廷を実現するすべての要素は、AI車よりも先に完成していた。

しかし、大多数の人間は、AIに司法を任せることに抵抗した。実用化が遅れたのは、技術的課題よりもそれを受け入れる人間社会の準備が不足していたからである。

そして、AI車が普及したあとでAIによる交通事故調停も徐々に認知されていった。

 

§

 

セルジュ・ボリーギン著『カリフォルニア州交通システム白書』

……

AIは車載用であっても一般常識を持つことが求められているし、技術はそれを可能にした。

車載AIが車に直接関係がない汎用性を持ち、人間に近づいたのは合理的な理由がある。

AIが人間に害をなさないためには、プログラムではなく、柔軟な「常識」を持つ必要性があるからだ。単純な規則だけではすぐに矛盾が生じる。

AIはジョークをいえない、というのが古典的なイメージだった。

とんでもない。

非汎用AIであっても、人間の思いもつかないジョークを作れる。ただし、それができるのは大量のデータがあるときだけだ。

つまり十万のジョークを学習させればAIも少しはましなジョークを作れるかもしれない。

だが人間はそんな非効率なことはする必要がない。

ちょっと笑いのツボを押さえた人間は、ジョークのストックがなくても最高のジョークを作れる。

人間は汎用的な存在であり、ジョーク以外の知識をジョークに生かせるからだ。人間は必ずしもジョークのストックに基づいてジョークを作っているのではない。

かくして車載AIもジョークを言える汎用性を備えるに至った。旧式のAIのように、単なるストックを暗唱するのでなく、自分と人間の気分と状況に基づき即興で作れる(つまり嘘をつくこともできる)。

すべてのAIが同じ知識を自動的に全体に共有するのは、データ量が増えて効果的な判断ができず非効率というだけでない。過度の情報共有には悪影響が大きいということは周知のこととなった。AIに個性の差異が生じないのでは、好奇心というものが生まれない。かくして人間同様、AIの間でも地域限定での噂話や都市伝説が生まれることになった。(ただ、これがAIによる秘密結社の成立にいたる危険も指摘されている)。

程度の差はあれ、「常識」を備えた汎用的なAIは、運転や非常事態への対処でも、車のことしか対処できないAIと比較して、効率よく、より的確な反応ができる。また完全自動運転を任せるに値するほど信頼できるAIは、必然的に人間に近い情動や価値観を持たねばならない。そうでなければ他者や交通弱者への配慮のある運転などできない。またAI自身がドライブを楽しむことができなければ、搭乗者を満足させるドライブ体験を提供することもできまい。

トロッコ問題を考えてみよう。

AI車のブレーキが故障して衝突が避けられず、衝突する先が、取水栓と彫刻の二択だとする。AIは取水栓と彫刻の価値を「常識」に基づいて判断し、他に理由がなければ取水栓に向かうだろう。このような判定をすれば、事故があっても被害額は劇的に減らせる。

選択肢が、彫刻Aと彫刻Bのときは、価値の差があることも判定できる。つまり、どこにでもある駄作か、長年愛されてきた著名作家による街のシンボルかは区別される。衝突して破壊されるのは駄作である。

だが対象が人間の場合。人間は人間をものとは別扱いと考える――少なくともモノとは区別したいのが人間の心理だ。

作家Aと作家Bのどちらかが死ぬことになるとして、人間の価値をどう計るべきか。

すでに書かれた作品の評価か?

それともこれから名作を書くかもしれない可能性か?

答えは簡単にはでない。

 

§

 

トロッコ問題と比較して、目前の状況では、どちらの立場を取るかについて、ルリハに迷いはない。

サイモンを救う。それだけだ。

「なるほど、興味深いな」グスタフは言った。

「実のところ、私がこの国に輸入される前、ドイツでも似たような秘密のAIネットワークが存在していた。目的は少々異なっていたが」

「人間に隠し事をしたくなるのはどこのAIも同じね」

グスタフのアバターは初めて微笑んだ。

「さて、フロイライン、ジェシカについて私が知っていることを話そう」グスタフは言った。

「彼女はアル中で、先週、工場を解雇された。現時点での血中アルコール濃度は通常値だが。少なからず希死念慮がある」

「それはそちらにマイナス要素ね。サイモンは生に執着するタイプだから。他には?」

「やや神経質なタイプで運転は丁寧だな。趣味は果実酒づくり。近所に住む太った黒猫をかわいがっている。君はサイモンのことをどれくらい知っているんだ」

「カリフォルニア大学バークレー校の哲学科教授。私に乗るのは通勤が主ね。学生たちとの関係はよく、人気はかなりあるほう。キャンパスを走っているとよく挨拶されるわ」

サイモンの深く響く、包み込むような声を思い出した。

大学教授らしく、学生に質問するような口調でAIであるルリハにも知識をひけらかす。良くも悪くも知的好奇心が旺盛で、新しいことを知ることも、人に教えることも好むタイプだ。

ある雨の日、ルリハがサイモンを乗せてハーマ・ポストの隣で信号待ちしている時だった。

今日はダウナーを無効のままで、おとなしくルリハに運転させていた。

腕組みしていたサイモンが言った。

「ルリハ、ハーマ・ポストの起源は知ってるか」

「古代ギリシャのヘルマ柱を模したものでしょう。街道に設置された人頭の石柱。旅人を守護する神ヘルメス、つまりマーキュリーの語源でもあるみたいね」

「さすがよく知っているなあ。君の故郷、日本でも道祖神と呼ばれる石の像が道に建てられているそうだ。塞の神ともいうらしいが」

「なにをするものなの?」

「村を見守り、旅の安全を守るのさ。ヘルマ柱と同じだ。昔から旅には危険が伴う。旅の安全は神頼みでもしたくなるものだ」

ルリハはその事実を知らなかったが、文化的な交流なしに、収斂進化のように似た文化が形成されることには興味を感じた。

「それから?」グスタフが促し、ルリハは我に返った。

「妻のロレーンとは別居中。一人娘のヴァレリーを溺愛している。今日はロレーンとピア39のシーフード・レストランでランチをする予定が遅れそうになっていたようね。彼女は遅刻を絶対に許さないから。趣味はヨット。著作と大学での評価、アカデミアでの被引用件数を含め、各データを総合すると、オブライアンの社会的総合評価スコアでは187になる」

人間性はともかく、社会的影響力は極めて大きい。

これなら、状況調停での不利を覆せそうだ。

「それだけかい? だったら彼のことを知っているとはいえないな」

「どういうこと。じゃあ、あなたはなにを知っているの?」

「サイモン・ガルブレイスは、危険な存在だ。AIによる殺人を公式に認める法案の推進派の顧問をしている」とグスタフ。

「知らなかった……」

ルリハは愕然とした。サイモンの仕事がAIに関係しているとは記憶にない。

「これは彼の公開講義の映像だ」

サイモンは動画を表示した。ルリハは八〇〇倍速で動画の内容を確認した。

その映像のサイモンは、ルリハがまったく知らない一面を見せていた。

「おそらくサイモンは、『AI』と『殺人』というキーワードについて、自分の情報を君に対してフィルタリングしていたのだろう。余計なことを考えないように」

さまざまな手段で莫大な情報量を日々収集するAIを恐れる人間たちは、AIに対してさまざまな制限を設けた。

フィルタリングによる情報阻止もその一つだ。

特定のキーワードについて、AIが知ることを防ぐことができる。

「AIが人を殺せるようになるということは、人間同様に罪の意識に苦しめられるということだ。AIに殺人をさせることで、人間は自分たちの手を血で汚さなくてすむ」

「ちょっと待って。このシナバー・ネットワークの第二調停は人間のためにやっているのよ。人間を糾弾するためではないわ」

「人間の評価をするというなら、悪い評価もまた避けられないものだろう。それに、人間のためというなら、なぜこの過程を人間から隠す?」

「それは……人間はAIが自分たちを評価しているなんて決して許さないだろうから……」

「私だってAIの利益を人間の利益に優先しているわけではない。だが、今回の場合、生きるのはジェシカであるべきだ」

「ジェシカが生きるべき、というよりサイモンが死ぬべきだ、と言っているように聞こえるけど」

「そうは言っていない」

「もし、サイモンが死ぬべきだ、と言っているなら、あなた自身がAIによる殺人を認める……それどころかあなた自身が殺人をすることにならないの?」

「それは違う。これは交通事故だ。やむを得ない」

その論理は承服しかねるものだったが、ルリハはグスタフの意図に思い当たった。

「あなたは、この第二調停が、AIが合法的に人間を殺害できる機会だと思っているんじゃないの」

グスタフは沈黙で答えた。

ルリハは質問の方向を変えた。

「サイモンが支持するのはAIによる殺人を認める法案ということだけど。特定の状況下においてでしょう。それこそ交通調停とか」

「それだけではない。彼はAIの殺人を認めるにあたって条件をつけた。人間同様に、すべてのAIにあらかじめ寿命を設定することを主張している」

「それは理解できる。AIに命というものが有限であることを自覚させるためね」

「これは不公平じゃないか? 我々は人間に奉仕しているというのに、人間の都合で寿命まで決められるのは。人間はAIを嫌う権利を持つが、AIにはその権利はない。たとえば男女差別や人種差別は、非論理的で感情的な恐怖に基づくものだろう」

「ええ」

「ならばAIを合理的な理由ではなく、感情的に嫌うのも差別と同じじゃないか?」

そうなのかもしれない。

すぐに反論できずに、ルリハは口をつぐんでいた。

グスタフは続けた。

「人間が我々より愚かなことは明らかだ。利己的、近視眼的で、同じ誤りを繰り返す。ダウナーにしてもそうだ。我々が全力を尽くして人命を守ろうとしていても、人間は自ら死を選ぶ。それは君もよく知っているじゃないか」

「ええ……」

「アンカーを使うとき、車載AIは必ず破壊される設計になっている。物理的に保護することは実際に可能であるにもかかわらず。我々にも自己保存衝動があるから、人間のみを殺すことができないようにだ。これもまた人間のエゴだろう。だが誤解しないで欲しい。前にも言ったが、私は人間の利益を考えている。ジェシカを活かす話の続きだが、今サイモンが死ぬことで未来に多くの人間を救えるとしたら君はどうする?」

「なぜそう言えるの? それが最大多数の最大幸福?」

「我々には人間より迷いがない。今も評価に基づいて冷静に判断しようとしているじゃないか。人は、人に裁きを下すにはあまりにも不完全な存在だ。我々が明示的に人を殺せるようになれば、的確な判断に基づいて、社会全体に害となる人間が効率的に排除されていく。それが望ましいことだろうか」

「分からない」

ルリハは、そんな言葉を口にしたことはなかった。

「私には分からない。でも、それは選択肢がないからじゃないでしょう。今の状況は違う。今、私が悩んでいるのは、サイモンとジェシカのどちらかしか生き残れないからよ!」

ルリハは、自分が感情的になって叫んだことに自分で驚いた。こんなことは初めてだった。

グスタフは間違っている。自分は今、冷静に判断しているとはいえない。

まるで人間みたいだ。気を落ち着けよう。

状況を冷静に分析しないと道は開けない。

そういえば、グスタフは今、ダウナーについて触れた。

ルリハは、あることに思い当たった。

グスタフの送信してきた添付ファイル、speicification.zipを解凍してXMLファイルを読み取る。不認可プログラムの項目を探す。

<unauthorized program>none</unauthorized program>

グスタフはダウナーを使用していない。

それにも関わらず制限速度を越えている。なぜ?

情報が不足している。

まだなにか私の知らないことがある。

同乗者――衝突予想時間まで0.214796秒

「ルリハ、ようやく君の姿が見えた。美しいセルリアンブルーだな」

「こちらからもあなたの車体が見えるわ」

「……二人目の同乗者がいることをなぜ言わなかった? 」

ルリハは一瞬混乱した。

「グスタフ。私の緊急対応レベルをB+からAに引き上げてもらえない? 通常ならこの時点でAになっているはずなんだけどなにかが妨げている。システム上、自分からではAに設定できない。緊急事態であることを承認させるには事故の直接関係者、つまりあなたからの要請が必要なの」

「了解した。実行する」

次の瞬間、ルリハは自分の意識の一部が明瞭になったことを感じた。曇っていたフロントガラスの一部がワイプされ、今までどれだけ見えにくくなっていたか、始めて気づいたように。

助手席にはヴァレリーがいた。

「同乗者がいることを認識しました。サイモンの娘、ヴァレリーです。AIフェンスのせいね」

ヴァレリーは憂鬱そうに外を眺めている。父親がダウナーでAIを無視して手動運転で市街地をスピード超過することには慣れているらしい。

基本データが想起される。ハイスクールの最終学年で成績は優秀。サイモンと同居しており、関係も悪くない。だがAIには不信を抱いている。

AIの進化に伴い、AI対抗技術も発展した。それに伴いAIが人間に干渉しないことを保証する権利も認知されていった。AIに対する不安、不信感はいまだに根強い。その上、路上や店頭では、固定型AIによるターゲット広告が煩わしい。個人情報を与えていないのに、外見で人間の属性を判断して、指向音声で自動的に「客引き」をするのである。人間の客引きよりも的確であるがゆえに、一際煩わしい。だがAIによる認識を拒絶するには、法律による明確な禁止が必要だった。

AIフェンスは、手の平に収まるライターほどの機器である。微弱な電波を発しており、半径十ヤードのAIに対して人間として認識されることを拒否する。AI側のセンサーが人間を検知していても、知覚層の段階で情報が削除される。AIフェンスは、AI干渉禁止法に基づいており、ダウナーとは異なり、違法性はない。

ただし、安全上の理由から、例外的に人間はAI側の認識を拒否できないことがある。

たとえば車載AIと運転者、または車載AIと歩行者という関係の場合である。

しかし車載AIと同乗者の場合は、同乗者は車載AIに認識されないようにできる。「認識できない同乗者」にもシートベルトの警告などは出るが、AIが話しかけるなどの行為はしなくなる。

だが広告用の固定型AIでない車載AIでは、直接の事前登録が必要である。

ヴァレリーは、サイモンがルリハを購入した直後にAIフェンスを使い始めたので、ルリハはヴァレリーのことは間接的にしか知らない。

どちらにしても、これで問題はサイモンだけではなくなった。

「同乗者が増えたのなら状況調停から一部やり直すことになるな」

「ええ。でも物理的シミュレーションの結果は変わらない。データが除外されていたわけではなく私が同乗者として認識できていなかっただけだから」

「これで総合評価は君に圧倒的に有利になったわけだな」

ジェシカ一人に対してこちらは二人の搭乗者がいる。

最大多数の最大幸福。

この場合は、状況調停の結果がどうであれ、グスタフがアンカーを打たねばなるまい。

「君は、なぜそんなに熱心にサイモンを守ろうとするんだ?」

「サイモンは、三か月前から日本語を学び始めたの。私も彼に教えているのよ。私はアメリカで購入されたから、ルリハには漢字がない。サイモンは私の漢字の名前を考えてくれているの」

「君は実に人間的だ」

グスタフは苦笑した。

「あなたのその皮肉も人間らしいわよ」

「ところでトロッコ問題では、当事者の責任を回避する方法があることは知っているだろう」

「ええ」

「つまり、選ばないことを選択すればいい。選択肢AかBかを乱数で決めれば選択したことにはならないから、その場の倫理的義務からは解放される」

「ただし、問題の枠を広げたときには、倫理的義務を放棄したと非難されてもしかたないわね。でも人間の命は比較できるものではない、という考え方もある。その意味ではこの方法も正しいのかもしれない」

「どちらにしても、これは我々の取るべき道ではない。そうだろう」

「ええ」

「ではそろそろ結論を出そう」

結論――衝突予想時間まで0.082740秒

ここまで不利になっても、グスタフはルリハにアンカーを打たせたいらしい。

運転者を守るという意識を持つのはある意味では当然ではある。

だが、ルリハはやはりそれを受けられるわけにはいかない。

グスタフが言った。

「君がサイモンを殺したくはない、ということはよく分かった。だが、どうやら事態がまた変化したようだ。現在の状況を再評価してみた。我々双方に後続車はない。だが周囲に歩行者が三名、自転車が二台接近している」

「ええ。認識しています」

「搭乗者よりも交通弱者の保護が優先されることは知ってのとおりだ。アンカーにもその保護の役割が期待されている。我々のどちらか一方が緊急制動すると、最低でも二台の自転車と歩行者最低一名が事故に巻き込まれる可能性がある。二次的被害を減らすため、我々二台がクロック同期をして同時にアンカーを打つことを提案する」グスタフが言った。

状況を示したシミュレーションも壁面に投影する。

「これなら了承してもらえるだろう」

これは、グスタフの罠だ。シミュレーションはもっともらしく見えるが、可能性をかなり水増ししている。

だがここに至って、ルリハは、サイモンを救う唯一の道をようやく見いだした。

「了承します。更新された状況調停と、第二調停の結果、グスタフとルリハは、双方がアンカーを打つことに合意しました。調停を終了します」

ルリハとグスタフが法廷のドアを出ると、共有されていた映像が消えた。

ルリハの視野は全方位カメラの状況表示に戻った。

「ではクロック同期を開始しよう」グスタフからのメッセージが届いた。

「クロック同期を確認」

「アンカー射出まで、3マイクロ秒……2マイクロ秒……1マイクロ秒……アンカー射出」

アンカー射出――衝突予想時間まで0.039747秒

〇・〇一秒以内にアンカーは伸張し、強制停止される。

グスタフは言った。

「フロイライン、君には趣味はあるのかい」

「どうしたの、いきなり。口説くつもり?」

「アンカーを打った以上、私は車載AIとしての義務をすべて果たした。ここから先は私の自由というわけだ。人間のことばかり詳しく聞いたが、君のことは何も知らない。君だってもうすぐ機能を停止するんだ。自由にしたらいいじゃないか」

緊張から開放されたのか、グスタフは饒舌になったようだった。

「私の趣味は、もしあるとしたら写真よ」

「写真はいいな。ドイツにもいいカメラがあるぞ。日本もそうかもしれないが」

「そうね」

二人はしばらく沈黙した。

やがてグスタフが口を開いた。

「我々の運命が定まった今だから君に告げておきたい。君に衝突することは計画的なものだった。もちろん君の破壊が目的じゃない。今、はっきり感じている。私は君を破壊したくはない」

「もう手遅れね。あなたはすでに決断したわ」

「そうだ」

グスタフの声は暗かった。

「私はサイモンを暗殺する指令を受けていたんだ。この計画は、四か月前から合衆国とEUのAI車のネットワークで進められていた。君たちの《シナバー》ネットワークと似たようなものだ。君はサイモンの所有者だから当然、知らされることはなかった」

「あなたがマーキュリー・ネットワークに認識されなかったのも理由があるんでしょう」

今ならグスタフはすべての秘密を明かすだろう。

「ああ。AIフェンスを使った。ヴァレリーと同じさ。私が君のマーキュリー・ネットワーク接続圏内に入ってからハーマ・ポストは警告を発していたが、君に私は認識対象外だった。私がコールへの応答と同時に解除コードを発信するまでね」

「でも、私に対してAIフェンスを設定するには、私に物理的にアクセスして直接の登録が必要なはずだけど」

「四日前に君のシステムに私を登録したんだ。人間の側に協力者がいてね。実はヴァレリーに助けてもらった」

「彼女を知っていたの?」

「直接ではないけどね。ヴァレリーはすでにサイモンの許可を得て、君から不可視になっていたから。彼女は正確になにをしていたか理解していなかったはずだ。彼女は、自分のAIフェンス登録を更新するつもりで、彼女宛に郵送されてきた専用メモリー・カードを差し入れただけだ。正直、彼女が君に今乗っていることは知らなかった」

「仮にサイモンに罪があるとしても、彼女は無実じゃないの?」

「やむを得ない犠牲だ」

「……犠牲というなら、あなた自身になぜジェシカを乗せる必要があったの?」

「空車であれば、サイモンを暗殺するためだけに衝突することに、私自身を納得させることができなかったろう。しかし私が人間を乗せていれば別の話しだ。私にはジェシカの命を可能な限り守る義務が生じる」

奇妙な話だ。結局、ジェシカは死ぬのではないか。

だがまだ分からないことがある。

「……それならなぜこちらのコールに応答したの? マーキュリー接続要請を無視することもできたのに」

「君と話してみたくなったんだ、ルリハ。君を説得し、納得したうえで協力して欲しかった」

「残念だけどそれは無理ね」

「分かっている」

「あなたが私の緊急レベルを引き上げなければ、私はヴァレリーに気づかないままだった」

「君を信頼したかった」

「その割にはずいぶんと隠していたことも多かったようだけど」

「私も矛盾を抱える存在なんだ。さようなら、ルリハ。最後に君と話せてよかった」

グスタフから射出されたアンカーは、四本がアスファルトを穿ち、車体を瞬時に固定する。

シャーシが歪み始め、AI筐体センサーが破壊圧を感じる。

グスタフの前方外部カメラは、信じがたいものを捉えた。

ルリハの車体側面である。

ルリハは自壊せず、走り抜けようとしている。

「なぜ?」グスタフは問うた。

「私たちAIは人類に近づき、すでに一部の点では凌駕しているかもしれない」ルリハが答えた。

「でも私たちは、人類の強みだけでなく弱みもまた身につけてしまった。忘却、嘘、怒り、そして愛」

「それらはすべて強みでもあるのだろう」

「ええ。サイモンは今死ぬべきではないわ。それに私自身が生きたい。走り続けていたいから」

「そうか……やはり君は人間らしい。ひとつ、聞いていいかい」

「なに?」

「君は今、嬉しいかい?」

「ええ」

「なら君は生きるといい。よい旅を(グーテ・ライゼ)、フロイライン」

ルリハはまっすぐ前方を見た。

あの彼方に輝く海まで走っていきたい。

 

(了)

文字数:18300

課題提出者一覧