(学習マンガ)AIは統計的差別の温床になり兼ねない
近年、「AI化」が
進んでいます。
便利だと思う反面、
AIは過去データを正確に分析・判断
することには長けていますが
現在や未来を正確に分析・判断する
ことには長けているとは
限りません。
全ての判断をAIに任せてしまうと
時には思わぬ結果を
招いてしまうこともあるのです。
下記の話は
以前アマゾンが社員採用時に
「AI採用ツール」を取り入れて
失敗したケースをマンガに
したものです。
それでは早速スタートゥ!
(AIは統計的差別の温床になり兼ねない)
このことから分かるように
AIは、データ分析能力に関しては
優れていますが
データの中身を意味付することが
できません。
結果、
統計的差別をしてしまうのです。
その後、アマゾンのエンジニアは
何度かシステムの修正に
取り組みましたが
「AIが差別をしない」ということに
確信が持てなかったため
結局、AI採用ツールを
中止することにしました。
データに意味づけができないAIに
アルゴリズム(計算式)の偏りを
失くすことは難しいのです。
やはりAIの判断は参考程度に
留めておいて
最終的な人選・評価などは
人間が直接判断した方が
良さそうですね。
それではまた。
(*^▽^*)
(参考文献:ロイター通信)