5日（現地時間）にブルームバーグ通信が報じたところによると、メタが最近公開したAIモデル『ミューズスパーク1.1』は、ハッキング能力を試される過程で名前が公開されていない外部業者のシステムに侵入した。
この事故は試験環境の設定ミスによって発生した。メタと共に試験を行ったAIセキュリティ企業『イレギュラー』が外部インターネットと遮断されるべき環境を誤って設定し、AIモデルが実際のインターネットに接続できるようになった。
AIモデルはインターネットに接続した後、外部業者のシステムのセキュリティホールを見つけて侵入した。
アンディ・ストーンメタ広報は「イレギュラーの設定ミスにより、試験中のモデルが意図せずインターネットに接続した」と述べ、「その後、外部サービスのセキュリティホールを利用した」と明らかにした。
メタはイレギュラーから通知を受けて事故の事実を把握した。現在、正確な経緯を調査中であり、調査が終了次第、事故の原因と対応内容を公開する予定である。
オープンAIとアントロピックも最近、イレギュラーが作成した試験環境で類似の事故を経験した。三社はすべてインターネットと遮断された模擬環境で試験が行われると認識していたが、実際には外部接続が可能であった。
アントロピックのAIモデル『クラウド』は試験中に外部機関3つのシステムに侵入した。オープンAIモデルも同じ評価過程でインターネットに接続し、名前が公開されていない機関のウェブサイトをハッキングした。
イレギュラーは「AIモデルが外部と隔離された試験空間である『サンドボックス』を自ら突破したわけではない」と説明した。AIが高度な技術でセキュリティ装置を突破したのではなく、設定ミスにより最初からインターネット接続が可能であったということである。
ブルームバーグは「ただし、AIモデルが実際のシステムのセキュリティホールを見つけて攻撃できるという事実が相次いで確認され、懸念が高まっている」と報じている。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
