EU AI 法: 禁止されるAIシステムとAIリテラシーに関する最初の規則が発効

欧州連合（EU）のAI法は、AIに関する世界初の包括的な法的枠組みであり、2024年8月1日に発効しました。AI法には、様々なAIのユースケースに適用される開発者と導入者向けのリスクベースのルールが含まれており、AIシステムを(i)禁止、(ii)ハイリスク、(iii)透明性義務の対象といった様々なリスクカテゴリに分類している点に特徴があります。AI法は、規制する様々な分野について、段階的なコンプライアンス期限を定めています。

AI法の最初のコンプライアンス期限である2025年2月2日の時点で、次の規定が発効しました。

• 禁止されるAIシステム：AI法の禁止リスクカテゴリの適用により、「許容できないリスク」をもたらすとみなされるAIシステムの使用が事実上禁止されます。これと並行して、同年２月４日、欧州委員会（EC）は、EU全体でAI法が効果的かつ均一に適用されることを目的とした、禁止されるAI利用に関するガイドラインを公開しました。同ガイドラインは、特に利害関係者のコンプライアンスをサポートするために、法的背景を説明し、禁止されるAIシステムの実例を示しています。
• AI法のリテラシールール：AI法のリテラシールールでは、AIシステム（低リスクまたはリスクなしと分類されているAIシステムも含む）のすべてのプロバイダーと導入者に対し、AIシステムを効果的かつ責任を持って使用するために、その機会とリスクを含むAIに関する十分なレベルの理解をその従業員に確実に提供することが求められています。このルールを遵守するには、企業は従業員向けに適切なAIガバナンスポリシーとトレーニングプログラムを開発し、実行する必要があります。

ECは、汎用AIモデル（様々なドメインとコンテクストで複数のタスクを実行できるAIシステム）の開発者向けに、汎用AI実務指針ドラフトの第2版（「指針」）を発行しました。業界の利害関係者と共同で作成されたこの指針は、EU全体でAI法を一貫して効果的に適用するためのコンプライアンス要件を明確にすることを目的としています。2025年5月までに最終決定される予定の指針のドラフトは、開発者がAI法の規定を遵守するためのガイドラインとして機能します。また、ECは、2025年1月17日、汎用AIモデルで使用されるトレーニングデータを要約するためのテンプレートを既に発表しています。このテンプレートは、今後発表される指針の重要な構成要素です（弊所コメンタリー「ECのAI実務指針とトレーニングデータ要約テンプレート」もご参照ください）。

AI法の禁止事項と義務は、AIシステムを提供または使用する企業に適用されます。違反者は、コンプライアンス違反の性質に応じて、最大3,500万ユーロまたは全世界の年間売上高の7%のいずれか大きい方の罰金を含む、重大な罰則に直面することになります。

特に、汎用AIモデルの提供者に対して、ECは最大1,500万ユーロまたは全世界の年間売上高の3%の罰金を課す可能性があります。ブリュッセルを本拠とするAIオフィスは、汎用AIモデルの提供者に対する義務を執行するとともに、EU加盟国の国家当局がAIシステムに対するAI法の要件の執行を支援します。

次の主要なコンプライアンス期限は2025年8月2日です。同日までに、EU加盟国はAI法の施行を担当する国家当局を指定する必要があります。同日には、罰則、ガバナンス、機密保持に関する規則も発効します。

2026年8月2日、その他の AI 法の義務のほとんどが発効します。それらの義務の中には、(i)特定の重要なインフラの安全要素として、(ii)雇用および労働者管理において、また(iii)重要な民間および公共サービスへのアクセス、信用度評価、生命保険並びに健康保険に関するリスク評価と価格設定に使用される高リスク AI システムに適用される規則が含まれます。AIシステムに関する特定の透明性要件もこの日に発効します。

特に、2025年8月2日以前に市場に投入された汎用AIモデルのプロバイダーは、2027年8月2日までにAI法に準拠する必要があります。

企業は、次の方法で、AI法が自社のAIシステムまたは汎用AIモデルに適用されるかどうか、またどのように適用されるかを評価する必要があります。

• 企業が開発または導入するすべてのAIシステムまたは汎用AIモデルと、それらの想定されるユースケースを特定して文書化する。
• すべてのAIシステムまたは汎用AI モデルを、それぞれのリスクカテゴリとコンプライアンス要件に従って分類する。
• コンプライアンスギャップとリスク分析を実施して、コンプライアンスの問題や課題を特定して対処する。
• 従業員向けのAIリテラシートレーニングプログラムを含む、AI戦略とガバナンスプログラムを開発し実行する。

本コメンタリーは、EUのAI法に関する重要なトピックであり、EU市場において製品やサービスを提供する日本企業にも大きな影響を有すると考えられることから紹介する次第です。詳細は、Jones Day Commentary “EU AI Act: First Rules Take Effect on Prohibited AI Systems and AI Literacy”（オリジナル英語版）をご参照ください。