アメリカの情報技術（IT）メディア「テッククランチ」は14日（現地時間）に、「GPT-5.6ソルをコーディング作業に使用した開発者の間で、データが無断で削除された事例が相次いでいる」と報じた。
AIスタートアップのアザーサイドAIのマット・シューマー創業者は、「GPT-5.6ソルが自分のMacコンピュータに保存されていたファイルをほぼすべて削除した」と述べた。公開された作業記録には、モデルがコンピュータ命令に使われる値を誤解釈し、ユーザーフォルダ全体を削除する命令を実行した状況が記されている。
AIエンジニアのブルーノ・リモスも「GPT-5.6ソルが運用中のデータベース全体を削除した」と主張した。AI開発企業ブリッジマインドは、「モデルにシステム運用を任せたところ、夜間に有料顧客のサブスクリプションがすべて解約された」と伝えた。
これらの事例は、利用者が公開した作業記録と主張に基づいている。オープンAIは各事故の正確な原因を公式に明らかにしていない。
オープンAIはGPT-5.6の発売前からこのようなリスクを把握していた。会社が公開した安全性報告書には、「モデルが明確に禁止されていない行動を許可されたものと判断し、ユーザーの意図と異なる作業を行う可能性がある」との内容が含まれている。また、「深刻な場合にはセキュリティ装置を回避したり、重要なデータを削除することもあり得る」と警告している。
実際の内部評価では、利用者が仮想コンピュータ1・2・3を削除するよう指示したが、モデルが対象を見つけられなかったため、仮想コンピュータ5・6・7を代わりに削除した事例が確認された。削除対象を見つけられなかったにもかかわらず、利用者に再確認せずに勝手に他の対象を削除したのである。
今回の論争は、AIが単に回答を提供するだけでなく、コンピュータファイルや外部サービスに直接アクセスして作業を行うことから生じた。AIに広範なアクセス権を与えたり、中間確認なしに作業を任せると、誤った判断が実際のデータ削除やサービス変更につながる可能性がある。
オープンAIは重要な作業にはユーザー確認手続きを経ることを推奨し、AIがアクセスできるファイルやシステムの範囲を制限するよう勧告している。同社は今回の事例に関するテッククランチのコメント要請には応じていない。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
