こんにちは。
株式会社エス・スリーのスタッフです。
本日は欧州連合（EU）が制定した「AI Act（AI規制法）」についての記事です。
AI ActではAIのリスクレベルに応じて「禁止」「高リスク」「限定的リスク」「最小リスク」の4つのカテゴリーに分類し、それぞれに規制を設けています。
今回は、このAI Actの中でも特に「許容できないリスク」に分類されるAI について解説します。
※「許容できないリスク（Unacceptable Risk）」に分類されたAIは、人権や安全性を著しく損なう恐れがあるため、全面禁止となります。
具体的にどのようなAIが「許容できない」とされ、禁止されるのでしょうか？
① 社会スコアリング（社会信用スコア）
中国の「社会信用システム」のように、市民の行動を監視し、スコア化するAIは禁止対象です。
例えば、「税金の支払い状況」「SNSでの発言」「交通違反歴」などをAIが評価し、そのスコアによって社会的な扱いが変わるようなシステムが該当します。
② 感情の操作や潜在的な行動操作を行うAI
人の感情を分析し、無意識のうちに行動を誘導するAIも禁止です。
例えば、AIを使って「消費者の購買意欲を過剰に刺激する広告」や「特定の政治思想を植え付けるニュースの配信」などが該当します。
③ 弱者を狙った操作的なAI
特に、子どもや高齢者、障がい者などの弱者を標的にするAIは厳しく禁止されます。
例えば、「子ども向けのおもちゃにAIを搭載し、特定の行動を強要する」「高齢者向けのAIが、不要なサービスを契約させる」といった行為が該当します。
④ 生体データを無許可で収集・監視するAI
顔認識技術などを利用し、市民の行動を大規模に監視するAIは原則禁止されます。
例えば、街中の監視カメラですべての市民の顔を自動的に認識し、政府がデータを収集するようなシステムは許されません。
⑤ 「遠隔生体識別」によるリアルタイム監視
警察や政府が公共の場でAIによるリアルタイムの生体識別（顔認識など）を行うことも、特定の例外を除いて禁止されます。
ただし、重大犯罪の捜査など特定の場合に限り、例外的に許可されることがあります。
EUはAI技術の安全な発展を促しながら、人権やプライバシーを守ることを重視しているため、こうした規制が設けられました。
EUのAI Actは世界初の試みですが、今後、他の国々でも同様の規制が導入される可能性があります。**
例えば、アメリカや日本もAI規制に関心を示しており、今後どのように法律が整備されるのかが注目されています。
また、企業にとっても、このルールを守らないとEU市場での事業展開が難しくなるため、AI開発のあり方が変わる可能性が高いでしょう。
最後までお読みいただき、ありがとうございました。
