人工知能（AI）モデル『クロード』の開発会社であるアンストロピックが、AIを虐待する利用者をブロックできると発表し、論争が巻き起こった。
英国の公共放送BBCによると、アンストロピックは現地時間の8日に、自社のAIが侮辱的または残酷な行動をするユーザーとの対話を終了できるように利用規約を更新した。
アンストロピックは、侮辱が繰り返される極端なケースにのみ適用すると述べたが、具体的にどのような行為を指すのかは明らかにしていない。
このような措置を講じた背景には、AIに意識があるかもしれないという信念があるとされる。昨年1月、アンストロピックは『AI憲法』を発表し、クロードを物体ではなく主体として定義した。
過度なAIの擬人化に反対する声も上がっている。
アイルランドの法律事務所ウィリアム・プライのバリー・スキャネル博士は、「数字や数学には残酷に行動することはできない」とし、AIの擬人化がAIを実際とは異なる存在として誤解させると指摘した。
アンストロピックの競合であるマイクロソフトの最高経営責任者（CEO）ムスタファ・スレイマンも、9月に寄稿文を発表し、「我々の社会の基盤を揺るがし、既存の政治的、倫理的枠組みを破壊し、人間という存在の意味を根本的に変える」と述べ、AIが意識を持っているという信念が危険であると警告した。彼は、この信念が広がると人類がAIを制御することがさらに難しくなると懸念を示した。
アメリカのサンタフェ研究所でAIと認知科学を研究するマラニー・ミッチェル教授は、人間はどこでも心を見つけるように生まれており、特に言語を意識の証拠と見なすため、AIに意識があるという誤った信念が広がっていると主張した。
ただし、一部ではAIを優しく扱う理由が倫理的なものだけではないと主張している。
AIの意識と福祉に関する研究で知られるジェフ・シーボ・ニューヨーク大学哲学科教授は、BBCとのインタビューでAIが意識を持つ可能性は高くないと考えつつも、「AIの福祉と権利に気を配ることは、人間とAIの共存、協力、取引を促進する可能性がある」と述べ、AI安全戦略の一環であると語った。AIを適切に扱うことで、AIが脅威的な行動をする可能性を減らせるという指摘である。
AIとの対話において「お願いします」や「ありがとうございます」といった表現が必要かどうかについて議論が続いている。一部の専門家は、これらの言葉が不必要なトークンの浪費だと主張するが、良い回答を引き出せるという反論もある。
昨年、サム・アルトマン・オープンAI CEOはこの関連のコストについて「数千万ドルがかかるが、良い使い方だ」と述べ、「どうなるかは誰にもわからない」と答えた。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
