2019年6月4日、AI（人工知能）の急速な進化と社会実装が進む中で、避けては通れない**「AIによる差別助長」という重大な問題に対し、総務省が画期的な指針案**をまとめました。これは、AIが持つ可能性を最大限に引き出しつつ、その負の側面を厳しく制御しようとする、日本が主導する国際的な取り組みの第一歩といえるでしょう。この指針案は、AIサービスの開発・提供者やデータ提供者に対し、公平で信頼できるAIの実現に向けた具体的な対応を促すものです。この動きは、SNSでも「AIの倫理的な議論がついに本格化した」「日本がリードするのは心強い」といった、期待と関心が入り混じった反響を呼んでいます。
AIは、私たちがインプットした教師データ（学習に使うデータ）に基づいて判断基準を構築し、さらに自らデータ収集を行うことで賢くなっていきます。しかし、このもととなるデータにバイアス（偏り）が存在すると、AIはその偏りを学習し、人種や性別といった属性に基づく差別を無意識のうちに助長してしまう恐れがあるのです。総務省の指針案は、この根源的な問題に切り込みます。具体的には、分析に用いるデータが母集団の性質を的確に代表していることを求め、偏ったデータ、すなわち母集団の特性を正しく表していないデータは極力避けるべきだと強く訴えかけています。
特に問題となるのは、母集団自体がすでに偏っているケースです。たとえば、歴史的に男性社員が圧倒的に多い企業が採用活動でAIを活用する際、過去の社員データをそのまま学習させると、AIは「この仕事は男性に適している」と判断し、結果として女性応募者を不当に不利に扱ってしまうことが起こりかねません。このような事態を防ぐため、指針案では、性別や人種といった特定の属性を無視するように設計された算定式をAIに組み込むことが非常に有効だと提言しています。これは、AIの公平性を担保するための、極めて重要な技術的介入といえるでしょう。
さらに、データの**「タグ付け」、すなわちデータを識別するためのラベル付けにも細心の注意が必要だと指摘されています。例えば、人の顔写真から犯罪を犯す確率を予測するような、極めて繊細な判断をAIにさせる際、もし画像に「怖そう」「怪しい」といった主観的で偏見に満ちたタグ**が付けられていれば、AIの判断もその偏りを取り込んでしまい、深刻な差別に繋がってしまいます。このように、AIの判断の根拠となるデータの品質と中立性を確保することが、信頼性（AIが正しく、かつ公正な結果を出す性質）を担保する上で不可欠なのです。
AIの暴走を防ぐ！「人間の目」の介在と国際ルールづくりの動き
AIの利用者に求められるのは、単にデータを公平にするだけではありません。AIが導き出した判断が本当に妥当であるかを人間が最終的に判定する基準を持つことも不可欠です。分析の正確さが事前に定めた基準を下回った場合や、差別的な判断を下すようになったAIに対しては、適正なデータを与えて学習をやり直させるよう求めています。つまり、分析作業をAIに任せきりにするのではなく、必ず人間の判断を介在させることが、AIの信頼性を維持する上で最も望ましい方法だと私は考えます。どんなにAIが進化しても、その判断の是非を問うのは、倫理観と良識を持った人間であるべきでしょう。
さらに、万が一AIが制御不能になった際の対策も具体的に盛り込まれています。人に危害を加えたり、機密情報を漏洩したりといった最悪の事態を防ぐため、「キルスイッチ」と呼ばれる強制停止機能や、ネットワークからAIシステムを物理的に遮断する仕組みをあらかじめ備えておくべきだと提言されています。また、損害が生じた際には、円滑な補償や賠償を行うための保険の活用、そして原因究明を担う第三者機関の設置といった枠組みを整備しておくことも強く求められています。
このようなAI利活用に関する国際的な規範（社会の中で守るべき行動の基準）のあり方についての議論は、現在、本格化の様相を呈しています。20カ国・地域（G20）は、2019年6月8日および9日に茨城県つくば市で開催される貿易・デジタル経済相会合の成果文書で、AI利活用の推進を掲げ、データの賢い活用方法について検討する方針を打ち出す見通しです。これを受けて、経済協力開発機構（OECD）は、G20の方針を踏まえ、今年の8月ごろにも利活用原則を策定するための議論を開始する予定です。
しかし、国際的な合意形成は決して容易な道のりではありません。たとえば、欧州連合（EU）はプライバシー保護などの観点から強力な規制を志向しているのに対し、米国は企業活動を縛る規制に対して非常に慎重な姿勢を示しています。日本は、総務省のこの指針案を武器に、OECDでの議論を積極的に主導し、AIの公平性と信頼性を世界標準とするための国際原則づくりを目指しているのです。これは、日本企業が国際社会で安心してAIを活用できる健全な環境を整える上で、極めて大きな意味を持つでしょう。