「誤検知」改善への道
AI学習で日々進化！

アースアイズの万引き防止システムの営業マンであるXは、頭を悩ませていた。悩みの原因は、AIガードマンを導入している顧客からの「誤検知が多い」というクレームが後を絶たたないことだった。
クレーム対応に追われ、顧客へ謝罪をして回るX。同時に改善策を模索していたが、なかなかその糸口を掴めずにいた。

どうすれば、誤検知を減らせるのだろう…とXは思案しながらも、まずは「誤検知の録画映像」を自分の目で観て、１件１件何を誤検知しているかを確認することにした。

全ては、顧客の信頼を取り戻すために。

Xは、誤検知が多いある店舗に設置されている10台のカメラの録画映像をそれぞれ確認することにした。そして、膨大な量の誤検知映像を確認し「物の誤検知」や「人の動きの誤検知」「画像不鮮明による誤検知」など、その傾向や誤検知のパターンを分類していった。そして、それらの情報を整理し、具体的な誤検知の要因や誤検知の対象を特定するための手がかかりとして仮説を立てた。

10台のカメラのうち、Xが最初に発見したのは6番カメラで頻発していたドラッグストアの店頭に貼られたポスターの誤検出だった。そのポスターは、にこやかな笑顔で化粧品を宣伝する有名女優が大きく印刷されたものだった。AIガードマンは、人を検出すると白い枠で囲う機能があるが、映像を確認すると人ではないはずのポスターが白枠で囲われていた。つまり、AIガードマンはポスターを人として検出しているらしかった。

更に、買い物客がポスターの前に立つとポスターが隠れ、ポスターを囲っていた白枠が買い物客に移動したり、白枠がポスターと買い物客それぞれを囲い二重表示になってしまったり、白枠自体が消えたりするなどの誤検知が起きていた。

これらのことから、Xは以下のような仮説を立てた。

1. ポスターの前に立った買い物客を同一人物だとAIが認識し誤検知が発生
2. ポスターと買い物客を囲う白い枠が入れ替わるたびに、買い物客があたりを見回してキョロキョロしているとAIが認識し誤検知が発生
3. ポスターに印刷されている人物を人間だとAIが認識し、さらにその人（ポスター）が全く動かないために不審だとAIが認識し誤検知が発生

Xはこのポスターの誤検知に関する３つの仮説から、AIガードマンのAIモデルに対してポスターの特徴を追加学習することを検討した。

追加学習にあたり、Xは開発チームと協力しAIガードマンがポスターと人物を正確に区別することを目指し、以下の取り組みを行った。

　・ポスターの画像データを収集し、AIモデルの学習に取り入れる
　・AIガードマンの動作範囲や認識領域の調整
　・「動かない人」を検出しない技術を開発

また、Xは導入店舗にも協力を仰ぎポスターの配置やカメラの調整を行った。

その結果、AIガードマンがポスターを適切に認識し、買い物客の動きと区別できるようになったことから、ポスターの誤検知は減少した。

この取り組みをきっかけにXは、「原因を明らかにすれば、誤検知の改善は必ずできる」と確信し、次の誤検知の原因に取り組む準備を始めた。

Xは、まず誤検知を効率的に改善していくために「誤検知の要因ランキング」を作成した。最も多くの誤検知を引き起こしているカメラから順に対策を講じることで、効果を最大限に引き出せると考えたからだ。

次に、誤検知が多かった５番のカメラを対象にXは具体的な調査を行った。そして、見えてきたのは「サイネージに表示される等身大に近い人物の映像」をAIが人の動きと認識してしまったことによる誤検知だった。

Xは取り急ぎ、AIの再設定とサイネージの設置位置や角度の調整をすることにした。しかし、これは一時的な対策であり、サイネージの位置が変わると設定の見直しが必要だった。今後の手離れのことを考えると、できるだけ汎用性の高い対策を講じる必要がある。

そこで、Xが着目したのは、「サイネージやポスターなどは被写体の全身を映しているものが少なく、ほとんどが上半身や顔のアップである」という点だった。そのサイネージ映像の特徴をポスターの時と同様、AIに追加学習させることで、誤検知を軽減させられるのではないかと考えたのだった。学習の結果、特定の身体の部位を検出しないようにする設定が可能となり、誤検知を減少させることができた。

サイネージやポスター以外にも、ミラーやハンガー・マネキン等、小売業の店頭には人としてAIが捉えてしまう「モノ」が非常に多い。ただ、Xは一連の経験を通じて、大きな手ごたえを感じていた。原因を確認し、仮説を立て、検証を繰り返すことでAIの精度がどんどん上がっていく。自分の仮説の通り、誤検知が改善されていくことが自信となり、Xは「誤検知の根本的な解決」に向けて次の一歩を踏み出した。

次にXが取り組んだのは、2番カメラの誤検知だ。録画映像の分析を進めて分かったのは、2番カメラが捉える場所は人の往来が非常に激しく、すれ違う人と人が重なり合い、白枠が当初囲われていた人から別の人に乗り移ってしまっていることだった。

AIガードマンが不審行動を検出する仕組みは、ポイント制だ。つまり、不審な行動が複数回行われた場合に一定の閾値でアラートを出すというものだ。そのため、2番カメラで起きている誤検知は、例えば、既に1度不審行動をした人の白枠が別の人に乗り移ってしまうとそのままポイントが引き継がれてしまう。それが何度も起きると複数人分のポイントが加算されていき閾値まで達し、アラートが出てしまうのだ。
これは、今までの5番、6番カメラの「モノ」を人として誤検知してしまうこととは違い「人を認識しているが、その個体を正確に把握し続けられない」という数段レベルの高い問題だった。

更にXは分析を進め、「乗り移り」が起こる状況やパターンの把握に努めた。その中で、特定の場所で人から人へ白枠が乗り移ることを発見した。しかし、それを解決するためには、画像解析の分野で多くの人が課題としている「カメラには深度情報がない」という根本的な課題の解決が必要だった。

人間は、その場所の距離や空間を立体的に感じ取ることができる。一方、AIはRGB（コンピュータで図形や画像、動画を扱う際の標準的な色の表現法。レッド、グリーン、ブルーの3色を組み合わせ、画素の濃淡で画像再現している）情報しか持っておらず、深度情報を持っていないため距離や空間を立体的に把握することができない。つまり、二次元の平面でしかとらえることができないため、現実ではありえない「人間が重なる」という現象が起きてしまうのだった。

Xは、「乗り移り」の問題に頭を抱えていた。個々の人物の特徴を学習させる方法も検討したが、同じ人物がそこに毎回居合わせるわけではない。そのため、学習内容は膨大となりCPUの占有率が上がる。かなり高スペックな商材となってしまい、商業ベースに乗ってこず、現実的ではなかった。やはり、「深度」をどうにかしないことには、「乗り移り」の問題は解消できそうになかった。

Xは録画映像を何度も見返しながら、思考を巡らせていた。
例えば、センサーやステレオカメラを使えば、深度を把握することができる。しかし、小売店舗に置かれている防犯カメラには深度を把握するための機能がない。もう、本当にどうしようもないことのように思えた時、ふと、人が絵を描くときにその距離感や空間を「遠近法」で表現することを思い出した。そして、同時に録画映像に映る店内の通路が「遠くに行けば行くほど狭く見える」ことにＸは気づいた。

本来並行であるはずの通路が、遠くへ行くほど狭く見えることから、これを逆手に取り計算し、カメラからの距離を測れるのではないか。これは、「乗り移り」の問題解決に繋がるだけでなく、今まで困難だった「視野の奥行、立体的な形状」を数値化し、AIに深度情報を把握させることができる可能性があるとＸは思いついた。

Ｘは早速、開発チームと検証を行った。その中で、「センサーなしでカメラから人の距離を測定する」技術の着想が生まれた。さらに検証を進め、予め設定されたカメラの高さを計算式に組み込み、角度を計算するアルゴリズムの開発に至った。これには三平方の定理が応用され、床の距離を測定することが可能となった。つまり、AIが人を検出した際、その人の足が床に触れていれば、AIはその人の位置を把握することができるようになったのだ。

Xの常識を覆すアイディアと開発チームの尽力により生まれた新たなアルゴリズムにより、AIガードマンはRGB情報だけでなく、深度情報を取得することが可能となった。今まで「乗り移り」が発生していたような、人々が行き交い、人同士が重なって見える状況であっても、それぞれの人物を独立して認識することができるようになったのだ。

さらに、Xはそのアルゴリズムに時間の要素を加えた。これにより、連続したフレームの前後の動きを比較することで、認識された人の次の行動予測が可能となった。前後のフレーム間で、人物の位置や動きに不自然な変化がある場合、AIは「乗り移り」などの問題が生じたとしてプログラムの改修を行う。

これによって、AIガードマンはより精度の高い認識機能と予測機能を獲得した。システムの性能が向上し、誤検知が減ったことで、安全で効果的なセキュリティシステムへまた一歩前進した。

Xは、これまでの誤検知の原因と対策をまとめ、顧客に新しいシステムが搭載されたAIガードマンの導入を提案した。無事に提案は承諾され、AIガードマンの導入が行われた。

AIガードマンの導入から特に大きな問題もなく、アースアイズが認識するあらゆる誤検知が解消されたかに思われたある日。再び顧客から「従業員の検知が多い」というクレームが入るようになった。

Xはクレームの内容に困惑しながらも事態を解明すべく「なぜ、万引き犯に特有の動きを検知するはずのAIガードマンが従業員を検知してしまうのか」について考えた。

AIガードマンは学習済みの行動データやパターンに基づいて検知の判断を行う。つまり、従業員の行動が万引き犯によくみられる行動に合致もしくは似ている場合に誤検知が発生している可能性があるとXは目星をつけた。

従業員は店頭で品出しの業務を行う。大量の商品を陳列棚に並べるその作業は、商品の陳列場所に応じて立ったりしゃがみこんだりしながらされ、また棚と棚の間を行き来しながら行われることが常だ。さらに、買い物客に目を配り店内をキョロキョロと見回しながら、店内を巡回することもある。これらの「買い物客とは異なる動き」は、万引き犯特有の動きである「うろうろ」「キョロキョロ」「座り込み」などに似ているといえた。

この新たな問題は、AIガードマンの本来の目的である「防犯対策の意義」をなくすことになりかねない、とても深刻な問題だった。

機能として従業員の動きを除外すること可能だったが、万引き犯の行動を見落とす可能性がありできない。Xは、何か従業員を区別する方法はないかと従業員の行動観察をするために店舗に通い詰めていた。周囲からの冷たい目にさらされながらも、Xは観察を続けた。

そんな日々を数日送ったある日、Xはふと、自分はどのようにしてその人を従業員だと断定しているのだろうかと疑問に思った。もちろん答えは簡単だった「制服を着ているか、いないか」だ。そして、Xは閃いた。AIにも従業員の制服を学習させることができるのではないか。従業員の制服が学習できれば、「買い物客とは異なる動き」をしていてもその人が制服を着ている場合は従業員だと判断できると。Xはその閃きを開発チームに伝えた。

一部の開発チームからは疑問の声が上がったが、可能性があるなら挑戦する価値はあるというXの熱意に打たれ、「従業員の制服学習」プロジェクトは動き出した。

しかし、一筋縄ではいかず、従業員の制服の学習には多くの課題があった。

まず、さまざまなシチュエーションによる制服の視覚的な特徴の把握が求められた。例えば、制服を着ている従業員を前から見た場合、横から見た場合、後ろから見た場合や立っているとき、座っているとき、動いているときなど、すべての角度から制服を見た場合の画像が必要だった。

さらに、それらの映像を組み合わせて正確な学習を行うには、一体どれだけの量と質の画像が必要なのか。また、それをどのようにして手に入れるかなど、これらの課題をすべて解決しなければならなかった。

Xは第一の試みとして、顧客から制服を借り、アースアイズの社員に着用させあらゆる角度から写真を撮り学習データとして活用してみたが、店舗での従業員の検出精度は非常に低い水準にとどまった。第二の試みとして、実際の店舗で撮影された映像から従業員の画像を特定するアノテーションという作業を行った。すると驚くべきことに、検出精度が飛躍的に上がり、従業員を正確に検出することが可能となった。

このことから、XはAIの学習には実際に検知を行いたい場所（以下、本番環境）のカメラの角度や照明の明るさ、人の大きさなどに合わせて学習を行うことで、その検知精度は大いに高まるということが分かった。

とはいえ、Xはどのようにして本番環境の映像のデータを収集したらよいか悩んでいた。店舗の録画映像を手に入れることは容易ではない。さらに、仮に録画映像を手に入れたとしても従業員の映像を特定するためにはその作業に膨大な時間と労力を要してしまう。

そこでXは決して容易なことではないが、AIが不審行動として検出した映像を全て、クラウド上に送信し、集まった映像を人間が目視で従業員と買い物客に分ける作業行うことに決めた。この方法により、映像を効率的に分類できる可能性があるとXは考えた。

従業員と買い物客を区別する技術の開発は、万引き対策だけではなく応用性が高いと思われ、会社全体でその取り組みに着手した。そして、従業員の映像をクラウド上で分類する作業が本格化するにつれ、驚くべき効果が表れた。なんと、従業員の検出が97％程度まで押し上げられたのだ。

--

アースアイズはXを中心に、誤検知の改善に取り組んできた。誤検知の原因を明らかにし、その改善方法に繋がる仮説やアイディアを考え、検証・開発を行った。多岐にわたる誤検知改善への道は決して平たんではなかった。しかし、挑戦に挑戦を重ねAIガードマンの誤検知率が少しずつ減少していくという結果が得られたのだ。そして、AIガードマンは万引き犯を確実に検出するためのシステムとしての信頼性が担保されるようになったのである。
もちろん、ここで終わりではない。また新たな課題や困難が待ち受けているだろう。それでも、アースアイズとXはこれまでと同じようにそれらと愚直に向き合い、AIを使って安心・安全なよりよい社会を目指していく。