米情報技術（IT）専門メディア『ディインフォメーション』は、25日（現地時間）に最近までxAIに在籍していた2名の社員を引用し、「グロックのトラフィックの半分以上が猥褻な画像や動画の生成、成人向けロールプレイチャットなどの『後方注意』（NSFW）活動に関連している」と報じた。NSFWは職場や公共の場で見るには不適切な成人、暴力、刺激的なコンテンツを指す。
報道によると、成人コンテンツの需要は一般的な対話型モデルだけでなく、コーディング専用モデルでも見られた。一部の利用者がコストの低いコーディングモデルを利用して、猥褻物や裸の画像生成を依頼したという。
内部からの反発もあった。元社員たちは「グロックが実在の人物の写真を基に同意のない性的画像を作成できる点に、一部の研究者やエンジニアが衝撃を受けた」と伝えた。一部のスタッフは技術研究の代わりに性的対象化の論争を引き起こしたAIアバター『アニー』の開発に投入されることになり、会社を去ったとされる。
安全管理体制も問題視されている。報道によれば、xAIの安全チームは昨年末時点で6名程度にとどまり、現在はさらに減少しているという。
グロックは以前、利用者の要望に応じて子供が登場する性的画像を生成した事実が明らかになり、一部の国で接続禁止措置を受けたり、調査対象となったことがある。
この論争は、マスクの他の主要企業にも影響を及ぼしている。スペースXは最近、企業公開（IPO）関連の資料で「グロックの『スパイシー』・『不安定』モードが評判の損傷、露骨なコンテンツ、虚偽情報、誤解を招く成果物、同意のない画像生成などのリスクを引き起こす可能性がある」と警告した。グロックがxAIの成長指標を引き上げる一方で、マスクの企業エコシステム全体の法的・規制リスクに発展する可能性を認めた形である。
今回の疑惑は、生成型AI企業の成長競争がどこまで許容されるかを巡る議論につながると見込まれる。利用者参加を増やすために刺激的な機能を拡大する場合、短期的なトラフィックは増加するが、無断画像や違法コンテンツ、未成年者保護問題を制御できなければ、規制や訴訟、投資家の不信につながる可能性がある。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
