嫌な予感がするAIの使い方
古い映画だけれど、トム・クルーズが主演した『マイノリティ・リポート』という作品がある。予言者が未来を見ることで、犯罪者が人を殺す前に逮捕してしまうという物語。警察はそのシステムを活用することで、殺人発生率が０%になっているという未来世界を描いた内容。
トム・クルーズ演じる犯罪予防課の刑事が、殺人予告に自分の名前があがったことで真相を暴こうとする。これはSF映画の世界だけれど、もしかしたら同じようなことが将来に起きるかもしれない。ただし判断を下すのは予言者ではなくAI。
「この人、家賃を滞納しそう？」AIが予測 入居審査を45分→16分に
賃貸住宅を借りる場合、保証人を求められることが多い。だけどそれが無理だと、家賃債務保証会社に保証料を払うことで契約することができる。ただし家賃債務保証会社にすれば、将来的に家賃を滞納しそうな人間の保証はしたくない。そこでその判断にAIが活用されることになった。
まだβ版だけれど、家賃保証サービスを提供する会社が「入居審査支援ツール」のシステムを開発した。AIを利用したもので、家賃債務保証会社10社限定で無料配布するとのこと。そこで使ってもらっていい感触なら、本格的に導入を広げていくということだろう。
そのシステムを使えば、これまで紙の審査で45分かかっていたものが16分で可能となる。過去のデータで滞納した人のパターンをAIに学習させることで、前もってそんな傾向のある人をピックアップしようというもの。全国的に導入が進めば、AIがさらに学習を深めることでより迅速化するだろう。
ボクはリンク先の記事を読んで、最初に書いた『マイノリティ・リポート』を思い浮かべてしまった。それはいい意味ではなく、ネガティブな意味で。
どのようなデータを学習させるのかについては、リンク先の記事には書かれていない。基本的には年齢や収入状況等になるのだろう。だけどもしかしたら、もっと感覚的なデータもAIの学習対象になっているかもしれない。
極端な例として、見た目の雰囲気やLGBT的な要素などが学習対象になっていたら、不適切な差別を助長する可能性がある。家賃を滞納するかどうかについて、どこまで未来を正確に判断できるのか不安に感じてしまう。もしかしたらある種の予知冤罪のようなことになってしまうかも。
AIをこうした顧客判断に活用することになれば、他の分野でも応用されていくだろう。生命保険や損害保険の契約においても、この人は早く死にそう、この人は交通事故を起こしそう、という起きていない未来を勝手に判断されるかもしれない。
それが加速すれば、『マイノリティ・リポート』と同じく警察にも使用されることが懸念される。AIに特定の個人の未来が判断できるだろうか？ なんとなく嫌な予感がするAIの使い方だと感じる記事だった。
ブログの更新はFacebookページとTwitterで告知しています。フォローしていただけるとうれしいです。
『高羽そら作品リスト』を作りました。出版済みの作品を一覧していただけます。こちらからどうぞ。
