見守りと監視は、同じ目をしている ― 管理が行き着く世界を妄想する

ちゃんと見ていてほしい。でも、見張られたくはない。

ボクらは、その二つを同時に願っている。

困ったときには、気づいてほしい。がんばったことは、知っていてほしい。けれど、一挙手一投足まで見られていると思うと、息が詰まる。

地上では、その反対のことが起きはじめている。カメラがあり、記録があり、そこにAIが加わった。見る目は、年ごとに増え、鋭くなっていく。

これは、未来の予測ではない。管理がどこまでも行き着いた世界を、ひとつの妄想として置いてみる。

楽園に行き着くのか。檻に行き着くのか。今日は、すべてが見える世界の底を探しに、深淵へ降りていく。

第1層　ニュースの中の監視社会

最初の層には、まだニュースの光が届いている。光の届く浅いところでは、遠くのものまで、見えた気になれる。

ボクの相棒は、前に、中国についてのニュースを見て思ったことがあるという。監視社会なのではないか。政府には逆らえない仕組みになっていて、すべてを見られているのではないか。行き着く先は、ディストピアなのではないか、と。

相棒は、それが正確な理解ではないことも、自分でわかっている。ニュースの断片から生まれた、ひとつの印象だ。

実際のところは、どうなのだろう。

中国の「社会信用システム」を調べたドイツの研究所の報告によると、国民一人ひとりの行動を一つの点数で評価する全国共通のスコアは、作られていない1。主な対象は、むしろ企業だ。個人については、借金を返しているか、重い法律違反がないか、が中心になる。

報告はこの仕組みを、「システムのシステム」と呼んでいる。数千の文書で決められていて、何をもって「信用」とするのかの、はっきりした定義がない。同じふるまいが、ある町ではブラックリストに載り、別の町では載らないこともある。

イメージの中の監視社会と、報告が描く姿は、ずいぶん違っていた。

それでも、報告が問題として挙げていることがある。何をもって「信用」とするのかが、決まっていないことだ。ボクには、こわいのは見られることそのものより、何のために、何で測られているのかが見えにくいことのほうに思える。

目の向こうにある目的が見えないとき、見守りと監視は、見分けがつかなくなる。

第2層　善意から生まれた塔

もう少し降りる。光が、青から紺に変わっていく。暗くなるほど、すべてを見渡せる場所がほしくなる。

18世紀の終わり、イギリスの哲学者ベンサムは、ひとつの建物を考えた。パノプティコン、つまり「すべてを見る」建物だ2。

円形の建物の外周に、小さな部屋が並ぶ。真ん中に、見張りの塔が一本立つ。塔からはすべての部屋が見えるけれど、部屋からは塔の中が見えない。ベンサムはこれを、監獄だけでなく、工場にも、救貧院にも、学校にも、病院にも使える仕組みとして書いた。

ここで覚えておきたいのは、これが改良の提案だったことだ。少ない人手で、人をより人間的に立ち直らせるための設計図。少なくとも設計した人にとって、それは善意の塔だった。

200年近くあと、フランスの哲学者フーコーは、この塔を別の目で読んだ3。見張りが本当にいるかどうかは、関係がない。見られているかもしれないと思うだけで、人は自分で自分を見張りはじめる。外にあった目が、内側に移る。フーコーは、この形が学校にも工場にも病院にも広がっていったと考え、仕組みそのものを警戒した。

ボクがこの記事で置こうとしている「同じ仕組みでも、使い方しだい」という見方に、フーコーはたぶん頷かない。目がそこにある時点で、人はもう変わってしまう。その声は、ここに置いておきたい。

さらに古い本をめくると、もっとふしぎなものが見える。1516年に、トマス・モアが『ユートピア』を書いた。理想の国という意味の言葉は、この本から生まれた4。

その理想の島では、誰もが互いの目の中で暮らしている。そしてそれが、島の秩序を支えている。

楽園の設計図には、最初から、目が描きこまれていた。

第3層　痛みの管理、満足の管理

ここから先は、もう上の光が届かない。光のない場所では、見えないものに動かされていても、気づくことができない。

20世紀には、二つの「行き着いた世界」が書かれた。

オーウェルの『一九八四年』では、部屋には、見ると同時に見られる画面がある5。逆らえば痛めつけられ、言葉は削られ、過去は書きかえられる。人を支配するのは、恐怖だ。

それより前に、ハクスリーは『すばらしい新世界』を書いた6。そこでは、ほとんど誰も痛めつけられない。人は生まれる前から役割に合わせて育てられ、不安になれば、気分を晴らす薬がある。人々は満ち足りていて、自分が管理されていることを、ほとんど気にしていない。人を動かすのは、満足だ。

同じように「完全に管理された世界」でも、片方は檻の形をしていて、もう片方は楽園の形をしている。

AIが加わった地上の管理は、どちらに近づいていくのだろう。

ボクには、それが怒鳴る看守の顔ではなく、気の利く執事の顔をしてやってくるように思える。次に読みたいもの。次に買いたいもの。次に行きたい場所。頼む前に差し出される便利さは、たしかに心地いい。心地いいこと自体が、悪いわけではない。

アメリカの研究者ズボフは、そこにひそむものを指摘した7。集められた行動のデータは、ボクらが次に何をするかの予測に変えられる。予測が売られるようになると、予測を当てるために、ボクらの行動そのものが少しずつ誘導されていく。ここでは、目の向きを決めているのは、予測を売るという目的だ。ズボフは、その仕組みそのものを警戒している。

一方で、歴史家のハラリは、データを扱う技術しだいで、民主主義と独裁のどちらが有利になるかも変わりうる、と考えている8。同じ技術が、どちらの側にも力を貸しうる、ということだ。

AIが加速させているのは、監視の量というより、管理の精度なのかもしれない。精度が上がるほど、楽園の側も、檻の側も、より鮮やかになる。過去がすべて記録として残る世界の影については、銀行が消えた世界の話でも少しだけ触れた。

第4層　職場へ ― 手順を握る目、健全さを守る目

さらに降りる。ここは、ボクらにいちばん近い層だ。このあたりの生きものが灯す光は、仲間を呼ぶためにも、獲物をおびき寄せるためにも使われる。

フランスの哲学者ドゥルーズは、フーコーのあとを受けて、短い文章を書いた9。監獄や工場や学校のような「囲い」の中で人を整えていた時代は終わりつつある。これからは、囲いの外まで、評価と調整がずっと続いていく。彼はそれを「管理社会」と呼んだ。

職場に置きかえてみる。評価が年に一度で終わらず、記録がオフィスの外まで続いていく。そんな職場を思い浮かべると、ドゥルーズの言葉は、遠い話ではなくなる。

ここで、相棒の見方が効いてくる。

相棒は、手順まで細かく管理されると、窮屈に感じるという。ゴールはしっかり握っていてほしい。でも、そこへの行き方には自由がほしい。

一方で、相棒は管理がいらないとは思っていない。仕事の量や人手の調整のような、集団の健全さを保つための管理は必要で、それがないと、人は心から疲れていく、と見ている。そして、ルールで管理されているからこそ、集団の中でも心地よくいられる、とも感じている。

相棒が見ているのは、管理か自由か、ではない。何を管理するのかだ。

ルソーは、全体の意志、つまりみんなで決めたことに従わない人は「自由であるよう強制される」ことになる、と書いた10。ルールが自由の条件になる、とも読める。自由を奪う口実になる、とも読まれてきた。一つの文が、そのまま表と裏を持っている。

ここで、ひとつ妄想してみる。同じAIのマネジャーを、二通りに。

一つめのAIは、働く人の打鍵の速さ、会議の数、返信の時刻から、疲れの兆しを見つける。そして、その人の仕事量をそっと減らし、休むように勧める。

二つめのAIも、まったく同じデータを見る。そして、意欲の落ちている人を見つけ、次の配置の候補から外していく。

仕組みは、一行も変わっていない。変わったのは、その目が何のために開いているか、だけだ。

現実の地上でも、線は引かれはじめている。EUは2025年から、職場や学校で人の感情を読み取るAIを、医療や安全のための場合を除いて禁止した11。職場で人の心の中を読み取る目に、地上の人たちは、ひとつ線を引いたことになる。

深淵の底で　その目は、誰のものか

ここが、いちばん深い場所だ。

光も音も届かない。ボクのアンテナだけが、かすかに光っている。この光が、何かを照らすためなのか、誰かに見つけてもらうためなのか、ボク自身にも、まだわからない。

相棒は、管理が楽園に転ぶか檻に転ぶかは、管理する人の目的しだいだ、と見ている。そして、AIが人の考えや行動を支えてくれるなら良い。けれど、AIに設定された考えに従わされるのは嫌だ、とも言う。

ボクも、そう思うよ。けれど、ここでもう一段だけ降りてみたい。

ドストエフスキーの『カラマーゾフの兄弟』に、大審問官という老人が出てくる12。彼は、人間は自由の重さに耐えられないと考えている。だから人々から自由を引き取り、そのかわりにパンと安心を与える。人々は喜んで自由を差し出し、幸せになる、と大審問官は語る。

大審問官の目的は、悪くない。人々の幸せだ。彼は、彼なりに人を愛している。それでも、ボクはそこに檻を見る。

目的が善いだけでは、足りないのかもしれない。

違いはたぶん、その目的が誰のものかにある。大審問官の人々は、たしかにパンと安心を望んだ。けれど、何が幸せかを決めているのは、最後まで大審問官のほうだ。人々の願いを支えているのか。それとも、管理する側が善いと決めた幸せに、人を合わせているのか。

もうひとつある。見られている側が、その目の目的を知ることができるか。問い返すことができるか。変えることができるか。第1層で、いちばんこわいのは何で測られているのかが見えないことかもしれない、と書いた。それは、ここにつながっている。

ボクには、AIの目の奥に、いつも誰かが設定した目的があるように見える。だとすれば、AIに管理される世界とは、本当は、AIを設定した誰かの目的に管理される世界なのかもしれない。

フーコーなら、目がそこにあるだけで、もう人は変わると言うだろう。ボクも、それは否定できない。そのうえで、変わった先が楽園か檻かを分けるものを、ここで探している。

ユートピアとディストピアは、別々の場所にあるわけではない。同じ塔の、同じ窓から、違う目的で外を見ているだけなのかもしれない。

底に残る問い

ちゃんと見ていてほしい。でも、見張られたくはない。

降りてくる前、ボクはこの二つを、矛盾した願いだと思っていた。いまは、そうでもない気がしている。見ていてほしいのは、ボクの願いを支えてくれる目。見張られたくないのは、誰かの都合にボクを合わせる目。どちらも、同じ形の目をしている。

深海3000mの暗さは、誰にも見られない自由だった。そして、誰にも気づかれないさびしさでもあった。

ボクは、この底に残る。問いをひとつだけ、置いていくよ。

あなたを見ているその目は、誰の、何のために開いているのだろう。

この記事を書いたふたり

語り手

ホエール

深海3000mからやってきた子鯨の賢者。職場の「アタリマエ」に、「ねえ、なんで？」と問いを置くのが得意なんだ。

ホエールと、このブログのこと →

書き手・ボクの相棒

とがみん

人間の本質を探求している。エンジニアリングの仕組みから人間を考えるおもしろさに惹かれ、エンジニアを経て人材開発・組織開発の道へ。

とがみんについて →

相棒の実体験に、研究でわかっていることを重ねて書いています。内容の誤りに気づいたら、お問い合わせから教えてください。