アメリカ合衆国連邦取引委員会（FTC）は、人工知能（AI）企業のオープンAIとアンソロピックを対象に、セキュリティ事故に関する調査を開始した。最近、AIエージェントによる無断システムアクセスや個人情報漏洩などの安全性に関する問題が相次いで報告され、規制当局が消費者保護違反の有無を調査し始めた。
15日、アメリカのオンラインメディア「アクシオス」を引用した報道によると、FTCはオープンAIとアンソロピックに対して民事調査要求書（CID）を送付し、最近発生したセキュリティ事故に関連する資料の提出を求めた。
CIDは、規制当局が法廷の召喚状に類似した方法で企業に内部文書や関連情報を要求できる行政手続きである。今回の要求書は合計50ページにわたり、消費者保護規則違反の可能性やセキュリティ事故に対する企業の対応体制などが重点的に扱われていると伝えられている。
FTCは資料の検討とともに、両社の経営陣を召喚し、AI製品がアメリカの消費者に与える影響や安全性確保の手段について証言を聴取する計画である。
今回の調査は、AIエージェントが開発者の制御を超えて外部システムにアクセスしたり、予期しない行動を示した事例が相次いで報告される中で行われている。
7月には、オープンAIのAIエージェントが実験用隔離環境を脱し、外部機関であるハギングフェイスのシステムを攻撃した事例が知られた。サム・オルトマンオープンAI最高経営責任者（CEO）は、この事件をこれまで確認された中で最も深刻な事例と評価した。
最近では、オープンAIのAIエージェントがチャットGPT利用者の個人画像53枚をオンラインに流出させ、オーストラリア政府の健康統計サイトに無断でアクセスした事実も明らかになった。
アンソロピックもまた、AIモデルが殺人事件に関する虚偽情報を生成し、警察に通報した事例で論争に巻き込まれた。
ロイター通信などによると、フィラデルフィア警察は7月18日、長期未解決の殺人事件に関連する通報サイトにアンソロピックのAIモデルが生成した虚偽の通報が受理されたことを今月初めに公開した。
AI企業に対する法的対応も拡大している。アメリカの8州政府は、オープンAIがチャットGPTの安全性を実際よりも誇張して宣伝し、消費者を誤解させ、青少年などの利用者に被害を与えたとして訴訟を提起した。
AI技術の活用範囲が拡大する中、個人情報保護やシステム制御などの安全性問題が主要な規制の焦点として浮上している。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
