ソフトによる誤検知多し! 現状の顔認証技術に満足してはいけない

安全面への配慮から、顔認証技術は学校や空港、それにスポーツ会場など人が大勢集まる場所に導入されつつあります。ですがボディーカムには、まだその機能は搭載されてません。

QUARTZのインタヴューに答えた、ボディーカム・メーカーAxonのCEOリック・スミス氏いわく、それは「プライバシーとポリシーの問題に加えて、顔認証はまだ充分に正確ではないから」というのが理由なんだそうです。

正確さに関しては、人が操作して決定を下す必要があります。これは悲惨な結果を伴う技術的失敗、または意図しない使われ方をした場合に、技術の長期使用という観点で一般には受け入れられず、未完成のまま廃れるのを嫌だと考えているからです

中途半端だったり見切り発車だったりするせいで、人々がテクノロジーを白い目で見るようになってしまうことは大いに有り得ます。ですがもっと、顔認証に関して恐れても良い事例があるんです。

イギリスでは

警察が顔認証ソフトを使って何千人ものスポーツ観戦者を犯罪者だと誤検知し、使用を止めた例がありました。その誤検知率は90%という超高確率!

アメリカでも

ほかにもアメリカ自由人権協会が使った、Amazonの顔認証ソフト「Rekognition」は535人の議員中28人を犯罪容疑者だと誤検知した例も。しかもタチが悪いことに、「Rekognition」は80%の自信を持っているとしながらも、議員を容疑者だと顔認証したのでした。

これに対しAmazonは、しきい値が95%以上なら警察が利用しても良いと推奨しています。それなら議員が容疑者リストと合致しないだろうとのこと。

自信があるのと正確なのは別物ですからね。仮にアメリカ自由人権協会がしきい値を99%に押し上げても、1%間違える可能性を孕んでいるわけです。


警察が使う場合は、さまざまな注意が必要です。ボディーカム付きの警察官が近寄って来ても、無実の市民は不安にかられてしまいます。程度の差はあれど、監視社会は避けては通れない時代になっています。各開発社は、公共の意見を充分に採り入れて信頼できるシステムを作っていただきたいですね。

 

ギズモード・ジャパンView original post.