ICHIRO BLOG引っ越しました

「プライバシーフリーク」という単語がこの世に登場してから早くも5年以上の月日が過ぎ去った今日この頃ですが、日本中のプライバシーフリークの皆様はいかがお過ごしでしょうか。私は元気です。このたび未曾有の10連休という大イベントも終わり、ようやく落ち着いた普段の生活に戻られてホッとしている方も少なくないのかもしれないですね。一方でプライバシーフリークとはなんぞやという方には以下の記事などをご笑覧いただけると幸いです。

日本政府のパーソナルデータ取り扱い方針を巡り、ヤフージャパンが過激な主張をして炎上（ヤフーニュース個人 山本一郎 14/1/27）

プライバシーフリークの身からすると、テクノロジーの進化に伴って個人のプライバシーが脅かされる機会は日々増えるばかりと感じる昨今であります。そうした我々プライバシーフリークにとっては宿敵、難敵とも言えるような存在がこの世にはたくさん存在するわけですが、その中の一つが「マンボウ機構」であるわけです。マンボウ機構とは何かという方には、かなりの長文で読み応えがありすぎるかもしれませんが、是非とも以下の記事に目を通していただきたいと思う次第です。

ニッポンの個人データ利活用の課題～顔識別システムで嫌な奴らを追い払う？（EnterpriseZine 18/2/16）

この原稿は当日の鼎談を元に加筆・修正を加えたものです。メインの話題となったのは「マンボウ機構」こと全国万引犯罪防止機構による顔認証を使った万引犯情報の共有の是非について。EnterpriseZine

で、その我らが宿敵のマンボウ機構こと全国万引犯罪防止機構が日本中のプライバシーフリークの声によって弱体化するどころか、ますます力をつけて実績をあげているようでして、めでたく東京渋谷でも顔認識技術を利用した実証実験を大々的に展開することが決まったようです。実際、万引きと言っても実際には窃盗犯なわけですから、そういう犯罪が蔓延る現代においてこれを防ぐ技術があるなら積極的に使って防犯に役立てたいという気持ちは分かります。

書店、万引抑止に顔認識技術渋谷駅周辺３店、共同運用へ最終調整（SankeiBiz 19/5/6）

東京・渋谷駅周辺の大型書店３店が、防犯カメラと人工知能（ＡＩ）による顔認識技術を使い万引を抑止するシステムの共同運用で最終調整していることが５日までに分かった。読書離れやインターネット通販の台頭による経営の苦境に万引被害が拍車を掛けており、対策を強化する。実証実験から始め、ＮＰＯ法人の全国万引犯罪防止機構（東京）と協力して段階的に全国に広げたい考えだ。SankeiBiz

この記事を読むといろいろとすごいことが書いてあるわけです。まず、防犯カメラとAIを組み合わせることで実現する万引犯の摘発ですが「判別精度は約９９％」と書かれています。この数字の根拠がどういったものであるのかはサッパリ分かりませんが、そのまま素直に読めば今回導入されるシステムが判断を誤ることは事実上あり得ないということとほぼ同じ意味です。日本全国の万引犯の顔データと照合をかけるという話にも読めるので、そんなのが事実なら本屋の入店以前に街中を自由に歩かせるなという話にもなりかねません。もし仮に一旦万引犯であると判定されれば誰もそれを否定できないと言い切っているようなものなんですが、科学的常識のある人であれば「精度が99％」なんて根拠のあやしいことは死んでも言わない数字だと思うわけでして、これだけですごいな、いったい何を考えているのだろうと感心してしまいます。

この場合、本来は万引きを行った行為に対する判別精度が99％なのか、物色している万引犯を防犯カメラが撮影しAIが「あ、かれは万引犯だ」と割り出す判別精度が99％なのかによって、議論はまったく異なります。しかし、その大事なことがボカされていて、単に「システムは過去の万引犯、不審な動きを繰り返した人などの顔の情報を共同のデータベースに登録」して照合としか書いておらず、実際にはどうなのかさっぱり分かりません。犯罪を行ったわけではない来店者が単に不審な動きを繰り返しただけで万引犯の疑いがあると登録されてしまう可能性があり、世紀末な感じがします。もしも本当にそうであるならば、商品棚などから商品を取り、会計をせずに店の外に出た、というところまで一連の行為をトレースしない限りは万引きを行った人物の判別は本来つかないのではないかと思うわけで、仮にそういう人物がデータベースに登録されていたのだとしても、その精度が本当に99％もあるのかどうかは続報を待つほかありません。

さらに、マンボウ機構としてはこの実証実験から「事実上の業界標準モデルをつくる方針」ということですから、判断を誤ることはまずあり得ないまさに“神”のような万引犯発見ツールを日本中に普及させる気満々という話のようです。

さすがに記事の最後では「万引犯の誤判定や誤登録といったプライバシー保護の観点からのリスクもあり、慎重な運用が求められそうだ」という懸念点にも触れられていますが、判別精度99％みたいな数字が出されている時点で「入店時点での顔を見て判別精度が99％」とかいう事例を指すならば“誤判定や誤登録”といったことは起こり得ないという大前提が出来上がってしまっているようでしてかなり恐怖を覚えます。

常識的には、万引犯が初犯であるならば、万引き行為が完遂される前にその人が「万引犯だ」と判別精度99％で判定できてしまうのであれば、まさにいま「AIと憲法」などでも話題となっているデジタルスラム問題に直結することになります。簡単に言えば、AI（人工知能）が膨大な人間の顔写真を深層学習するなどした結果、来店した野良客を防犯カメラが観て「あ、こいつは99％万引きする犯罪者顔だな」と判定する素敵な未来が到来してしまいかねないわけでありまして、マンボウ機構ももっと言葉を選んで広報するべきなのではと思わずにはいられません。

そういえば、同じようなタイミングでやはりAIを使って万引きを防止しようといった趣旨のニュースを朝日新聞が報じていまして、世論的にはAIの性能を信じて犯罪抑止という流れが出来つつあるのでしょうか。

万引き対策にもＡＩキョロキョロして怪しい→すぐ通知（朝日新聞 19/5/8）

人工知能（ＡＩ）が万引きしそうな客の動作を察知して店員に注意を促す――。こんな防犯システムの導入が始まっている。ベテラン警備員のノウハウを採り入れたり、不審者の行動の特徴をＡＩに学ばせたりして性能を高め、犯罪の未然防止や早期発見につなげようという試みだ。朝日新聞

こちらの朝日新聞の記事にいたっては、もはやプライバシーについての言及もなければ慎重な運用を求める意見もなく、なんというかそこまでAIを使ったシステムの判断に何の疑問も持たないのかとちょっと呆然としてしまうものがあります。実際、店舗系で監視カメラ素材などを使ったAI活用においては、不審客の割り出しなども随分実験をしているようですが、蓋を開けてみると売り場の配置が分からずに混乱している客が続々と不審客判定されて使い物にならないことが判明するなど、なかなか道の険しい状況であることは良く知られています。果たしてマンボウ機構がこの説明を本当に実現しようとしているのであれば、どれだけの効果を上げられるものなのか見てみたい気分もします。

ちなみにいま世界では、AIが下す判断は必ずしもニュートラルなものではなく、なんらかの恣意的なバイアスが発生してしまう問題をどうするかというのが大きな課題として注目されています。

AIは差別を助長する!? 人工知能に刷り込まれた認知バイアス（財経新聞 19/5/5）
フェイスブックのAIにも「認知バイアス」による偏見が潜んでいた（WIRED 19/5/7）
グーグル、AIや機械学習モデルのバイアスへの対処目指す--「TCAV」技術など説明（ZDNet Japan 19/5/8）

AIは必ずしも適切な判断を下せないということが明らかにされつつある中、我々のAIの判別精度は99パーセントですと脳天気に言われ、たまたま店の中でちょっと挙動不審であったがゆえに万引犯として確定されてしまうのはかなり危うい状況なのではないかなと感じる次第です。率直に言えば、酷い人権侵害が隠れたところで横行しているに等しい事案であるとも言えます。が、そんな風に考えてしまうのはプライバシーフリークの悪い癖なのかもしれませんし、もっとマンボウ機構の言うことを素直に信じれば救われるのかもしれませんね。