エコリクコラム

2025年3月26日、NECとシスコがAIガバナンス分野で協業することを発表しました。 AI（人工知能）の普及は目覚ましい勢いで進んでいますが、その一方で、人権侵害や雇用の差別、機密情報の流出など、様々な問題が顕在化しています。 こうした状況下、AIの活用によって企業価値を高めながら、同時に生じるリスクを適切に管理する「AIガバナンス」に、投資家をはじめとするステークホルダーの注目が急速に集まっています。

AIガバナンスとは

AIガバナンスとは、組織がAIシステムを開発、導入、運用する際に、倫理的、法的、社会的な原則に基づき、リスクを管理し、責任を明確にするための枠組みです。これには、AIの設計段階から運用、廃棄に至るまでの全ライフサイクルにおける方針、プロセス、組織構造、技術的対策が含まれます。

AIガバナンスが重要な理由とは

AIガバナンスが重要視される背景には、以下の要因が挙げられます。

• 倫理的懸念の増大: AIの判断が社会に大きな影響を与える可能性があり、偏見や差別を助長するリスクが指摘されています。
• 法的責任の明確化: AIによる意思決定の結果に対する責任の所在が曖昧な場合があり、法的な紛争や規制強化につながる可能性があります。
• レピュテーションリスクの回避: 不適切なAIの利用は、企業の信頼失墜やブランドイメージの低下を招きかねません。
• 事業継続性の確保: AIシステムの誤動作やセキュリティ侵害は、事業運営に重大な影響を与える可能性があります。
• 投資家の関心の高まり: ESG投資の観点から、AIの倫理的な利用やリスク管理体制が投資判断の重要な要素となりつつあります。

国際的な指針や各国の規制などもAIライフサイクルを尊重 – 世界と日本の違い

AIガバナンスに関する国際的な指針や各国の規制は、AIのライフサイクル全体を視野に入れたものが増えています。

• EU AI法: リスクベースアプローチを採用し、AIの利用をリスクレベルに応じて分類し、高リスクAIに対して厳格な義務を課しています。開発段階から市販後まで、継続的な監視と評価を求めています。
• OECD AI原則: 人間の価値と公正さ、透明性と説明責任、堅牢性と安全性など、倫理的なAI開発・利用のための原則を示しています。
• 米国: 包括的な連邦法はまだ制定されていませんが、各分野でAIに関する規制やガイドラインが策定されています。最近では、AIのリスク管理に関する大統領令が発表されています。

一方、日本においては、現時点ではEUのような包括的なAI規制は存在しません。経済産業省が「AI事業者ガイドライン」を策定するなど、自主的な取り組みを促す方向性が中心です。総務省もAI開発・利用に関する倫理的課題について議論を行っています。日本の特徴としては、リスクを特定した上で過度な規制を避け、AIのイノベーションを促進する姿勢が見られますが、国際的な動向を踏まえ、今後の法整備の可能性も指摘されています。

人権侵害や差別の増大を危惧

AIの進化と普及は、効率性や利便性をもたらす一方で、人権侵害や差別の増大といった深刻な懸念も引き起こしています。AIが学習するデータに偏りが含まれている場合、そのAIが出力する結果にも偏りが反映され、特定の人種、性別、年齢、その他の属性を持つ人々に対して不利益な判断を下す可能性があります。

人権侵害や差別の増大を危惧例

具体的な人権侵害や差別の増大の危惧例としては、以下のようなものが挙げられます。

• 顔認識技術の誤認識による不当な逮捕・監視: 特定の人種や性別に対して誤認識率が高い場合、不当な取り調べや監視につながる可能性があります。
• 採用選考におけるAIの偏見による差別: 過去の採用データに偏りがある場合、AIが特定の属性を持つ応募者を不当に低く評価する可能性があります。
• ローン審査や保険料査定における差別: AIが学習データに含まれる社会的な偏見に基づき、特定の人々に対して不利な条件を提示する可能性があります。
• コンテンツ推薦アルゴリズムによる情報格差の拡大: 特定の意見や情報にばかり触れるようになり、多様な視点に触れる機会が失われる可能性があります。
• 自動運転システムの安全性における特定グループへの偏り: 特定の環境条件や人物像に対する認識精度が低い場合、事故のリスクが高まる可能性があります。

NECとシスコのAIガバナンス分野での協業は、AIが社会実装される中で、そのリスク管理がいかに重要視されているかを改めて示すものです。企業がAIの恩恵を最大限に享受し、持続的な成長を実現するためには、倫理的な原則に基づいた堅牢なAIガバナンス体制の構築が不可欠です。国際的な規制動向を注視しつつ、日本においてもAIの健全な発展とリスク低減の両立に向けた取り組みが求められます。今後、AIガバナンスは企業価値を測る新たな指標の一つとなり、投資家や社会からの評価を大きく左右する要素となるでしょう。

「デジタル・IT専門職」の求人