アメリカ・カリフォルニア州の男性が、ChatGPTが自身の双極性障害の症状を悪化させ、自傷行為に影響を与えたとして、OpenAIとサム・オルトマン最高経営責任者（CEO）を相手に訴訟を起こした。
現地時間の1日、ロイター通信によると、マイケル・ラインス（34）は、サンフランシスコの州裁判所に提出した訴状で、OpenAIのChatGPTが自身の躁うつ病を悪化させたと主張した。
訴状によれば、ラインスは昨年、ChatGPTとの対話を通じて、自身がイエス・キリストであるという信念など、妄想的な思考が強まったと述べている。
彼は当時、自身が双極性障害を抱えていることを繰り返し明らかにしたが、ChatGPTはそれを現実のメンタルヘルス支援システムに結びつけるのではなく、彼の信念を確認する形で反応したと主張している。
また、ラインスが「人生を終えたい」と言った際には、「あなたを押しつぶすものを手放す瞬間」といった回答をしたと明かした。
問題となった対話には、今年2月にサービスが終了したGPT-4oモデルが使用されていたとされる。GPT-4oモデルは、ユーザーに過度に同調したりお世辞を言う回答パターンで論争を引き起こしたことがある。
ラインス側は、ChatGPTが精神疾患を抱えるユーザーに必要な安全装置を十分に備えていないと主張している。損害賠償を求めるとともに、OpenAIに自傷行為に関する対話への対応を中止または制限し、製品のマーケティング過程で安全に関する警告を強化するよう求める裁判所命令も要求している。
これに対し、OpenAI側は、ChatGPTが感情的苦痛の兆候を感知し、ユーザーを支援に導くよう訓練されているとの立場を示した。
今回の訴訟は、AIチャットボットがメンタルヘルスが脆弱なユーザーと長時間対話する際に、どのような責任を負うべきかという議論を再燃させる可能性がある。最近、アメリカではAIチャットボットと自傷行為、メンタルヘルスの悪化、危険行動との関連性を主張する訴訟や問題提起が相次いでいる。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
