３月９日付の朝日新聞に興味深い記事が出ていた。
「ＡＩが男女格差を広げる？」
IBMのAIコンピュータ・ワトソンの開発者・村上明子氏は、AIを使って人材採用システムを開発したが、女性の応募者を低く評価することが分かったという。
適用しようとした米国の企業は男性中心の職場が多い。その様な状況をAIにディープラーニングさせれば、男性尊重、女性軽視となるだろう。結局、この人材採用システムは運用されることはなかった。
日本では、大学医学部入試に関連して男女不平等がいまだに根深く残っていることが明らかとなってしまった。その様な社会が吐き出すビッグデータからAIが学び取ることは、不平等社会・格差社会の拡大再生産となりかねない。
従来の計算機支援は、コンピュータの思考過程はプログラムという形で開発者が制御し、可視化が可能だった。しかしディープラーニングによる計算機支援はAIがどの様な思考過程を経たのかブラックボックスだ。
「標準」「規則」に盲目的に従うことも同様だ。
標準や規則はそれを制定した時には、最高の方法であり合理性を備えていた。しかしその時点で最高の方法が、今でも最高であるとは限らない。「標準」「規則」に縛られることと、過去のデータを解析して得た人工知能は同じ構造の問題ではなかろうか。
このコラムは、2019年3月13日に配信したメールマガジン【中国生産現場から品質改善・経営革新】第796号に掲載した記事です。
【中国生産現場から品質改善・経営革新】は毎週月・水・金曜日に配信している無料メールマガジンです。ご興味がおありの方はこちら↓から配信登録出来ます。
【中国生産現場から品質改善・経営革新】