ウォールストリートジャーナル（WSJ）は、10日（現地時間）にアンストロピックが前日に公開したクロード・ペイブル5の制限方法について、AI開発者や利用者の間で反発が起きていると報じた。
ペイブル5は、アンストロピックが広範な公開が危険だと判断した『ミトス』系列モデルを一般利用者向けに調整したモデルである。
利用者が生物兵器やサイバーセキュリティなどの敏感なテーマを扱うと、案内文を表示した後、以前の世代の性能が低いモデルに会話が切り替わる。高度なAI開発に関する質問には、回答の質を低下させる制限も適用されている。
一部の制限は利用者に表示されていなかった。アンストロピックは国家安全保障とサービス規約を理由に「AI開発に関する回答に見えない制限を適用した」と説明した。このため、一部の研究者は外部からモデルの性能を評価することが難しくなったと指摘している。
一般的な科学的質問が遮断された事例も報告されている。一部の利用者は数学、生物学、化学に関する質問までがブロックされたと主張している。ある利用者はミトコンドリアの説明を求めた基礎的な細胞生物学の質問に対し、ペイブル5が回答を拒否した画面を公開した。
免疫学者であるデリア・ウヌトマズ・ジャクソン研究所の研究員は「既存の対話記録に生物学のテーマが含まれているという理由で、癌という単語はもちろん、挨拶も入力できなかった」と述べた。
アンストロピックは見えない制限について謝罪した。会社は「隠れた安全装置は検証や回避の可能性を把握することを難しくする」とし、「誤った妥協をし、バランスを取れなかった点を謝罪する」と述べた。さらに「今後はその制限も利用者に表示する」と付け加えた。
生命科学分野の遮断については「悪用の可能性を防ぐために初期には保守的な対応が必要だった」と説明した。また「不必要な遮断を減らし、生物学や生命科学の研究者にはペイブルのようなミトス級モデルを安全装置なしで提供する」と述べた。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
