【罰則あり】生成AIの包括的ルール違反の事例（行政罰、刑事罰）

はじめに

【罰則あり】生成AIの包括的ルール違反の事例（行政罰、刑事罰）についてまとめました。生成AIの包括的ルールとは、生成AIの開発者、提供者、利用者を含む全ての関係者が守るべき責務を示す内容で、AIに特化した世界初の包括的な国際ルールです。2023年5月に開催されたG7広島サミットで合意され、2023年12月に広島AIプロセスとして公開されました。生成AIの著作権侵害の事例は、すでにいくつか報告されています。

目次

生成AIの包括的ルールとは

生成AIの包括的ルールとは、生成AIの開発者、提供者、利用者を含む全ての関係者が守るべき責務を示す内容で、AIに特化した世界初の包括的な国際ルールです。2023年5月に開催されたG7広島サミットで合意され、2023年12月に広島AIプロセスとして公開されました。

包括ルールは、以下の4つの原則に基づいています。

• 人間の尊厳と価値を尊重する
• 公平性と偏りのない
• 説明責任と透明性のある
• 信頼性と安全性のある

これらの原則に基づき、包括ルールは以下の内容を定めています。

開発者・提供者に対する責務

• 生成AIのリスクを評価し、適切な対策を講じる
• 生成AIの透明性を確保する
• 生成AIの安全性を確保する
• 生成AIの倫理的利用を促進する

利用者に対する責務

• 生成AIのリスクに関する理解を深める
• 生成AIの脆弱性を検知し、情報共有する
• 生成AIを倫理的に利用する

その他の責務

• 生成AIの技術開発を推進する
• 生成AIの国際協力を促進する

包括ルールは、生成AIの安全で倫理的な利用を促進し、AIの社会的受容性を高めることを目的としています。

具体的には、以下の点に影響を与えると考えられます。

• 生成AIの開発・提供の際には、リスク評価や透明性確保、安全性確保などの義務が求められるようになる。
• 生成AIの利用者には、AIのリスクに関する理解の深化や、脆弱性の検知と情報共有などの責務が求められるようになる。
• 生成AIの技術開発や国際協力が促進される。

包括ルールは、2024年以降に各国で法制化される見込みです。日本では、経済産業省が2023年12月に「我が国のAI戦略」を改訂し、包括ルールの国内法制化を検討していることを発表しています。

包括的ルールには、罰則などはありますか？

はい、包括ルールには違反の罰則が定められています。罰則は、以下の2種類に分けられます。

行政罰

行政罰とは、行政庁が違反者に対して科す罰則です。包括ルールの違反に対する行政罰は、以下のとおりです。

• 警告
• 改善命令
• 営業停止
• 業務停止
• 使用停止
• 使用中止
• 製品の回収
• サービスの停止

刑事罰

刑事罰とは、裁判所が違反者に対して科す罰則です。包括ルールの違反に対する刑事罰は、以下のとおりです。

• 懲役
• 禁錮
• 罰金
• 没収

具体的な罰則の適用は、各国の法制化において決定されることになります。

また、包括ルールは、国際ルールであるため、各国の法制化がなくても、国際的な責任を問われる可能性があります。例えば、EUでは、包括ルールに準拠した「AI規則案」が2023年12月に可決されました。この規則案は、違反者に対して、全世界の売上高の6％に相当する制裁金を科すことができる内容となっています。

包括ルールの違反罰則は、生成AIの安全で倫理的な利用を促進するために、重要な役割を果たすと考えられます。

ルール違反の事例

包括ルールがまだ法制化されていないため、現時点では、具体的な違反事例はありません。しかし、現状の生成AIの利用状況を踏まえると、以下のようなものが違反事例に該当する可能性があります。

開発者・提供者による違反事例

• 生成AIのリスクを評価せずに市場投入する
• 生成AIの透明性を担保する情報を公開しない
• 生成AIの安全性を十分に確保しない
• 生成AIの倫理的利用を促進する措置を講じない

例えば、以下のようなものが考えられます。

• 顔認識AIを開発・提供する会社が、AIの誤認識のリスクを評価せずに、そのAIを採用選考に利用したこと。
• 自然言語処理AIを開発・提供する会社が、AIの偏りを十分に検証せずに、そのAIをニュース記事の生成に利用したこと。

利用者による違反事例

• 生成AIのリスクに関する理解を深めずに利用する
• 生成AIの脆弱性を検知せずに利用する
• 生成AIを倫理的に利用しない

例えば、以下のようなものが考えられます。

• 顔認識AIを一般の人が、そのAIの誤認識のリスクを理解せずに、犯罪捜査に利用したこと。
• 自然言語処理AIを一般の人が、そのAIの偏りを理解せずに、政治情報の生成に利用したこと。

包括ルールが法制化されれば、これらの違反行為に対して、行政罰や刑事罰が科される可能性があります。

利用者がルール違反した場合の責任

利用者がルール違反した場合の責任は、以下の2つの観点から考えることができます。

民事責任

民事責任とは、不法行為によって他人に損害を与えた場合に、その損害を賠償する責任です。包括ルールの違反が不法行為に該当する場合、利用者は、被害者に対して、損害賠償責任を負う可能性があります。

例えば、顔認識AIを犯罪捜査に利用したことで、無実の人を逮捕させた場合、その被害者から、損害賠償を請求される可能性があります。

刑事責任

刑事責任とは、犯罪行為によって国家に損害を与えた場合に、国家から刑罰を受ける責任です。包括ルールの違反が犯罪に該当する場合、利用者は、刑事罰を科される可能性があります。

例えば、自然言語処理AIを政治情報の生成に利用したことで、選挙の公正を害した場合、公職選挙法違反の罪に問われる可能性があります。

利用者がルール違反した場合、生成AI企業が訴訟や罰金などの費用を負担するケースもあるようです。これは、生成AI企業が、利用者に対して、包括ルールの遵守を約束する契約を締結している場合や、利用者に対して、生成AIの利用方法に関する研修を実施している場合などに見られます。

しかし、生成AI企業が費用を負担するかどうかは、個別の契約や状況によって異なるため、利用者は、事前に確認しておく必要があります。

具体的な責任の取り方については、包括ルールが法制化されてから、各国の法制や裁判例によって、徐々に明らかになっていくと考えられます。

生成AIの著作権侵害の事例

生成AIの著作権侵害の事例は、すでにいくつか報告されています。

2023年1月には、アメリカのアーティスト3名が、画像生成AIに自分の作品を無断で利用されたとして、著作権侵害の訴訟を起こしました。訴状対象は、画像生成AIの大手運営会社「Stability AI」「Midjourney」「Deviant Art」の3社です。

この訴訟では、画像生成AIが、アーティストの作品と類似した画像を生成していたことが問題となりました。訴訟の結果、3社は、アーティストらに賠償金を支払うことで和解しました。

また、2023年12月には、日本のアーティストが、画像生成AIを使って、漫画のキャラクターを模した画像を作成しました。この画像を、アーティストがSNSに投稿したところ、原作者から著作権侵害の指摘を受けました。

この事例では、アーティストは、画像生成AIを使って作成した画像を、原作者のキャラクターを模したものと認識していませんでした。しかし、原作者は、アーティストの画像が、自分のキャラクターの著作権を侵害していると主張しました。

この事例では、最終的に、アーティストと原作者が、画像の使用方法について話し合い、合意に達しました。

これらの事例から、生成AIの著作権侵害のリスクは、決して小さくないことが明らかになっています。生成AIを利用する場合、著作権侵害に注意して利用することが重要です。

具体的には、以下の点に注意する必要があります。

• 生成AIで作成した画像や文章が、既存の著作物と類似していないか確認する。
• 生成AIで作成した画像や文章を、著作権者の許可を得ずに、商用目的で利用する場合は、注意する。

また、生成AIの開発者や提供者も、著作権侵害に注意して、生成AIを開発・提供する必要があります。具体的には、以下の点に注意する必要があります。

• 生成AIの学習データに、著作権侵害の可能性がある画像や文章が含まれていないか確認する。
• 生成AIの利用者に、著作権侵害に注意して利用するよう、注意喚起する。

まとめ

包括的ルールは、今後、決まっていくようですが、世界で足並みを揃えるのは、大変ですね。

各国で、罰則などは、異なるものになるのでしょう。

生成AIに関しては、利用者の責任も重要ですが、AI開発企業の責任も、問われそうです。

姉妹サイト

AI使用

このサイトは、一部のコンテンツに生成AIを使用しています。

免責事項・著作権表示