信じたから、扉は開いた ― 人という、最後の脆弱性

その声が本物かどうか、ボクらは何で決めているんだろう。

日曜の夜。夕ごはんの片づけをしていると、スマートフォンが鳴る。知らない番号だ。出ると、聞き慣れた声が、息をつまらせている。

「もしもし、オレだけど。ごめん、車で事故っちゃって……相手の人がけがしてるんだ。いま、そばに警察の人がいる。今夜中にお金がいるんだけど、母さんたちには、まだ言わないで」

声も、言葉につまるときの間も、たしかに弟のものだ。スマートフォンを替えたのかな、と思う。疑う理由は、どこにも見当たらない。

けれどその声は、どこかに残っていた弟の短い音声から、機械で作られたものかもしれない。こういう手口が、いまあちこちで報告されている。

ボクには、人間の相棒がいる。このブログを一緒に書いている、人と組織のことを仕事にしている人だ。

ここから先は、深淵だ。ときどきボクは、光の届かないこの場所まで降りて、人間の奥にあるものを見つめにくる。今日は、守りの壁のいちばん奥にある、小さな扉のほうへ降りていく。

その扉には、鍵穴がない。開けるのは、いつも内側にいる誰かだ。

第1層　木馬のまわりで、妻の声がした

最初の層には、まだかすかに上の光が残っている。ここには、とても古い話が沈んでいる。

トロイアの城壁は、十年のあいだ破られなかった。ある朝、ギリシアの軍勢は姿を消し、浜辺に大きな木の馬だけが残されていた。

古代ローマの詩人が書いた物語では、そこに取り残されていたギリシアの若者が、涙ながらに作り話をする。この馬は女神への捧げ物で、城の中に入れれば、町は守られる、と。

止めようとした神官もいた。「ギリシア人は、贈り物を持ってきたときでさえ恐ろしい」と。

けれど人びとは若者の話を信じた。そして自分たちの手で城壁の一部を崩して、馬を引き入れた1。

城壁は、破られたのではない。内側から、開けられたのだと、ボクは思う。

古代ギリシアの別の物語には、木馬が城に入ったあとの、ふしぎな話も残っている。ギリシアからトロイアへ連れてこられた王妃が、木馬のまわりを歩いた。そして中に隠れた兵士たちの名を、その妻たちの声をまねて呼んだという。思わず答えそうになった兵士の口を、この物語の主人公が手でふさいで止めた2。

声のなりすましは、こんなに古い。

同じ物語には、こんな場面もある。旅の途中、主人公は一つ目の巨人につかまり、自分の名は「誰でもない」だと名乗る。やがて主人公は巨人の目をつぶして逃げ出し、巨人は大声で助けを呼ぶ。

仲間の巨人たちが駆けつけて、誰にやられたのかと尋ねる。巨人は答える。「誰でもない者に」。仲間たちは、それなら誰もおまえを傷つけていないのだと言って、帰っていった2。

名が偽られると、叫びは届いても、助けにはならない。

ただ、ここには違いもある。この物語で欺いたのは、読み手が肩入れする側だった。古い海の話は、悪を裁く話ではない。人がどこで信じ、どこで扉を開けてしまうのかを、ただ静かに見せている。

第2層　窓の下を行くのは、人か、人形か

もう少し降りる。光が、青から紺に変わっていく。

400年ほど前、フランスの哲学者デカルトは、ひとつの思考実験をした。もし、とても力の強い、意地の悪い霊がいて、ボクの見るもの聞くもののすべてを使って、ボクを欺いているとしたら。空も、大地も、色も、音も、作られたまぼろしだとしたら3。

疑いをどこまでも突きつめて、デカルトは、ひとつだけ疑えないものに行き着いた。疑っている、このボクがいること。（「我思う、ゆえに我あり」という言い方は、『省察』ではなく、その前に書かれた『方法序説』のほうにある。）

ここで、ひとつ気をつけたいことがある。デカルトの霊は、本当の攻撃者ではない。確かなものを探すために、わざと置いた仮の敵だ。

そのあとデカルトは、窓から、下の通りを行く人を眺める。見えているのは、帽子と外套だけだ。その下に隠れているのは、ばねで動く人形かもしれない。それでもボクらは、あれは人だと判断している3。

デカルトがたどり着いた確かさは、自分ひとりの中にしか届かない。疑っている自分は確かでも、窓の下を行く人が本物かどうかは、そこからは取り戻せない。

ボクは、ここで少しひやりとする。

400年前、あの霊は頭の中の仮定だった。いまは、声も顔も、本物そっくりに作れる道具がある。デカルトが部屋の中で思い描いた世界に、ボクらの毎日のほうが、そっと近づいてきている。

第3層　声も顔も、証拠ではなくなってきた

さらに降りる。ここからは、もう光が届かない。

2024年、香港。ある会社の経理の担当者が、ビデオ会議に呼ばれた。画面には、上司にあたる幹部や、見知った同僚たちの顔が並んでいた。担当者は指示に従い、15回に分けて、あわせて約2億香港ドルを送った。あとで本社に確かめて、ようやくわかった。その担当者のほかの参加者は、作られた偽物だったと、警察は説明している4。

2019年には、イギリスの会社の社長に、親会社のトップを名乗る電話がかかってきた。ドイツ語のなまりも、話し方の調子も、よく知っている上司のものに聞こえた。社長は言われるまま、約22万ユーロを送った。この声は機械で作られたものだと、保険会社は見ている5。

アメリカの FBI は、こんな手口に注意を呼びかけている。短い音声から家族の声を作り、困っているふりをして、急いでお金を求める。会社の幹部や警察を名乗って、その場で話すビデオ通話をする6。

日本でも、2025年の特殊詐欺は、警察庁の暫定値で約2.8万件、被害は約1,414億円にのぼった。そのうち約4割は、警察官などを名乗る手口だった7。こちらは AI の話ではない。けれど、名乗られた肩書きを信じる心が狙われている点では、同じ扉の前に立っている。

情報処理推進機構（IPA）が毎年まとめる「情報セキュリティ10大脅威」では、2026年版の組織向けで、AI をめぐるリスクが初めて選ばれ、3位に入った8。

AI を作る会社のひとつ Anthropic は、攻撃の作業の大部分を AI が担っていたと同社が見る事例を、公表している9。

AI は、守る側にもいる。Google の AI は、広く使われているソフトに、まだ誰も知らなかった守りの穴、つまり脆弱性を見つけた10。アメリカの国防高等研究計画局（DARPA）が開いた、守る側の AI を競う大会では、AI のしくみが、実際のプログラムから未知の穴を18件見つけている11。攻める側も守る側も、もう機械どうしで、速さを競い合っている。

相棒は、こう見ている。AI で攻撃が速く、巧みになっても、最後に扉を開けるのは、人の「信じる」だ、と。

香港の担当者は、15回、送金のボタンを押した。イギリスの社長は、聞き慣れた声に応えた。機械がこじ開けたのではない。本物だと信じた人が、扉を開けた。

それは、その人たちが不注意だったからではないと、ボクは思う。いつもの顔、いつもの声に応えることで、毎日の仕事は回っている。扉が開いたのは、ふだんどおりに信じたからだ。

AI が変えたのは、扉の向こうに立つ「本物らしさ」の値段なのかもしれない。かつては手間のかかったなりすましが、安く、速く、たくさん作れるようになった。

第4層　すべてを疑えば、扉は二度と開かない

ここまで来ると、ボクのアンテナの光だけが、まわりを照らしている。

では、すべてを疑えばいいのだろうか。上司からの連絡も、家族からの電話も、画面の向こうの顔も、ひとつ残らず。

オーストリア生まれの哲学者ウィトゲンシュタインは、亡くなる直前まで、確かさについての覚え書きを書きつづけた。その中に、こんな考えがある。すべてを疑おうとする者は、何かを疑うところにさえたどり着けない。疑うという営みそのものが、疑われない何かの上でしか成り立たないからだ。そして、子どもは大人を信じることで学ぶ。疑いは、信じることのあとからやってくる12。

ここには、ボクらの話と重なるところがある。疑いには、足場がいる。足場まで疑ってしまえば、疑うことさえできなくなる。

けれど、違うところもある。ウィトゲンシュタインが言う足場は、「ここに自分の手がある」のような、世界の見え方の土台だった。他人を信じることそのものを言ったわけではない。

それでも、ボクらの毎日に引き寄せると、ひとつのことが見えてくる。

上司の頼みを、毎回すべて疑っていたら、仕事は一歩も進まない。家族の声を、いつも偽物かもしれないと思って聞いていたら、その声は、もう家族の声として届かない。

扉をすべて閉じた城は、敵も入れない。けれど、帰ってきた仲間も、もう迎え入れられない。

脆弱性をゼロにすることは、たぶん、できない。信じることをやめてしまえば、守られているというより、ひとりになっていくのかもしれない。

深淵の底で　確かめる手順を、共に持つ

ここが、いちばん深い場所だ。

光も音も届かない。ボクのアンテナだけが、かすかに光っている。

デカルトは、確かさを、自分ひとりの中に築こうとした。けれど、他人との間の確かさは、ひとりでは作れない。窓の下を行く人が本物かどうかは、窓のこちら側で、どれだけ考えても決まらない。

FBI が挙げている守りには、ふしぎなところがある。偽物を見分ける眼力を鍛えよう、とは言っていない。家族で、合言葉を決めておくこと。電話がきたら、いったん切って、自分で調べた番号にかけ直すこと6。

どちらも、相手と一緒に持つ手順だ。

合言葉は、危機の前に交わしておく、小さな約束なのだと思う。声がどれほど本物らしくても、約束を知っているのは、約束をした二人だけだ。かけ直す番号は、いまの声ではなく、これまでの関係のほうを信じるための道になる。

ボクには、ここに信頼のもうひとつの姿が見える。信頼は、目の前の顔や声を信じることではなく、確かめる手順を、誰かと共に持っていることなのかもしれない。

それは、疑うことでも、ただ信じることでもない。信じたいから、確かめられるようにしておく。確かめられるから、安心して信じられる。そういう関係の形だ。

（「安心」と「信頼」の違いは、銀行が消えた世界で、ボクらは何を信じるのかに書いたよ。）

脆弱性は、ゼロにはならない。人が人を信じるかぎり、扉はいつもそこにある。

でも、その扉は、敵が入りこむ穴であると同時に、誰かを迎え入れる入口でもある。閉じてしまえば、守られるかわりに、誰も来なくなる。

扉をなくすのではなく、扉の開け方を、大切な人と先に決めておくこと。深淵の底で、ボクにはそれが、いちばん遠くまで届く光に見える。

底に残る問い

その声が本物かどうか、ボクらは何で決めているんだろう。

降りてくる前、ボクは、本物を見分ける目があればいいのだと思っていた。たぶん、それだけではない。声も顔も作れる世界で、最後に頼りになるのは、目ではなく、誰かと交わしてきた約束のほうなのかもしれない。

聞き慣れた声が「急いで」と頼んできたとき。画面の向こうで、見慣れた顔が笑っているとき。ほんの一瞬だけ、立ち止まれるなら。

ボクは、この底に残る。問いをひとつだけ、置いていくよ。

最後に「本物だ」と確かめたとき、あなたは何を見ていた？

この記事を書いたふたり

語り手

ホエール

深海3000mからやってきた子鯨の賢者。職場の「アタリマエ」に、「ねえ、なんで？」と問いを置くのが得意なんだ。

ホエールと、このブログのこと →

書き手・ボクの相棒

とがみん

人間の本質を探求している。エンジニアリングの仕組みから人間を考えるおもしろさに惹かれ、エンジニアを経て人材開発・組織開発の道へ。

とがみんについて →

相棒の実体験に、研究でわかっていることを重ねて書いています。内容の誤りに気づいたら、お問い合わせから教えてください。