EU議会が可決した「AI規制法」、ドイツ国民から賛否両論：第50回

2024年6月20日(木)麻生川静男

リスト

現在、全世界的にAI、とりわけ「ChatGPT」に代表される生成AIに関する規制強化の必要性が叫ばれている。ディープフェイク動画のような高度なAIの悪用への懸念が広まり、社会不安が高まっている。このような事態に対し、2024年3月13日に欧州連合（EU）はAIの包括的な規制法案（以下、AI規制法）を可決した。同法案をEU加盟国が同年5月に正式に承認すれば、2025年早々にも発効し、2026年から実運用が始まることが見込まれている。このAI規制法に対するドイツ国民の反応を、現地メディアのDie Zeit（ディーツァイト）への投稿記事から紹介しよう。

　生成AIが急速に普及する中、とどまることのないAIの能力向上に法の力でブレーキを掛ける動きが活発になっている。EUのAI規制法に関しては、海外だけでなく、日本でも、草案段階から同法の規制内容が多く議論されてきた。例えば、総務省は2022年に「EUのAI規制法案の概要」という21ページにわたるPDF資料を公表している（図1）。

　AI規制法は、EU企業だけでなく、EU域内でビジネス活動をする外国企業に対しても適用されるので、日本企業にとっても非常に重要な問題である。故意・過失を問わず、同規制に違反すると、非常に重い罰金が科されるからだ。

　具体的には、最大で3000万ユーロ（約40億円）あるいは当該企業の全世界売上高の6％のうち、どちらか高い罰金の支払いを命じられる。売上が5000億円規模の企業であれば、罰金は最大300億円にもなる可能性がある。また、大企業だけでなく、中堅企業でも高額の罰金が科される点にも注意する必要がある。

図1：総務省は「EUのAI規制法案の概要」を公表した（出典：総務省）
拡大画像表示

　AI規制法が企業に課す具体的な義務の1つに、「企業活動にAIシステムを使っている場合、それがもたらすリスクを自分たちで評価して開示しないといけない」というものがある。そのうえ、AIシステムが下した情報や判断に対しても、サービスとして外部に提供された場合、その内容に対して当該企業が全面的に責任を負う（図2）。

　つまり、もし企業が出した情報によって、顧客あるいは社会が何らかの損害を被った場合、「これは、生成AIが作り出した結果であるので、我が社に責任はなく、生成AIソフトウェア提供会社に責任がある」といった責任逃れはできないということになる。

図2：AI規制法におけるリスク評価のイメージ（出典：欧州連合）
拡大画像表示

　このように、AI活用に対する全面的な責任が問われることになるなら、当然ながら企業は顧客サービスに関連する情報に対して、AI活用に慎重にならざるをえない。あるいは、AIが生成した情報や判断の内容を厳格に精査する必要がある。こういった事態が、AIシステムを開発・販売するITベンダーの開発プロセスにも大きな影響を与えることは言うまでもない。

　AI規制法により、今までのように「ChatGPTはすごい！」などと手放しで称賛するような楽観的な見方などは跡形もなく吹き飛んでしまうことだろう。ディープフェイク動画などの精巧な偽情報を見抜くには、人間がAIシステム以上に正確で出所が正しい情報を把握し、扱う必要がある。これは、AIによるがん医療画像診断システムのように、すでにAIの診断が専門医を上回る判定能力を持つものに対しても、最終判断は人間が担うということであり、人間に重い責任が課せられることを意味する。

図3：EUは2024年2月、AI規制法の監督組織「AIオフィス」を設立している（出典：欧州連合）
拡大画像表示

AI規制法に対する国民の反応は賛否両論

　さて、AI規制法に関して、ドイツの一流紙Die Zeit（ディーツァイト）は早速Webサイトにその内容に関する署名記事を掲載している。記事タイトルは、「世界で最善の悪質なAI規制 (Die beste schlechte KI-Regulierung der Welt)」という、何とも衝撃的なフレーズだ。

　この記事が公表されてから、1カ月の間に100件を超えるコメントが寄せられた。これらのコメントから、ドイツ国民がAI規制法をどのように受け止めているか、本音を探ってみたい。コメントを読むと、投稿者は必ずしもAI規制法の内容を理解しておらず、的はずれの指摘も散見される。10件ほど紹介しよう。

[1] AI規制法はバカげている──この規制のせいで、ヨーロッパからはスタートアップが逃げていくと思われる。また、この法律ではAIの悪影響を防ぐことはできないだろう。

[2] AI規制法に賛成──デジタルイノベーションには規制は常に必要だと考える。『ビーイング・デジタル』の中で、ニコラス・ネグロポンテは次のように述べている。「社会が新しいデジタル技術を好意的に受け入れようが、拒絶しようが、それはどうでもいいことだ。というのは、我々には新しいデジタル技術の利用をより良い方向に導くために、理性的な規制をかけるよりほかにしようがないからだ。どのみち、新しいデジタル技術を悪用しようとしている連中は、常に我々より2歩先を行っている。」

　EUのAI規制は、好スタートを切ったというべきであろう。リスクは重要度に応じて適切な度合いに規制される。最初の一歩としては、このAI規制は妥当な線で、将来への布石としてはよいだろう。

　規制がうまく機能している場合には、どのように規制の枠を広めていけるか、規制漏れを改善していけるか、状況変化に対応させていけるか、などを見ることができる。良い規制の例として、FAA（Federal Aviation Administration：米国連邦航空局）による航空管制やFDA（Food and Drug Administration：米国食品医薬品局）による医薬規制が挙げられる。