ロイター通信によると、ニューヨーク州検察は、TikTokが数千人のユーザーを対象に安全機能の「プラシーボ（偽薬）実験」、いわゆる「ゴースト実験」を実施した疑いを指摘している。
問題となっている機能は「アルゴリズムリフレッシュ（Algo Refresh）」である。これは、ユーザーが望まないまたは有害なコンテンツから逃れるために、TikTokの推薦アルゴリズムを新たに開始する機能である。
ニューヨーク州検察によれば、実験群に選ばれたユーザーは、その機能が実際に有効化されたと考えていたが、推薦フィードは変わらなかった。一方、正常に機能を受けたユーザーの推薦フィードは変更された。
TikTokは2023年にこの実験を繰り返し、安全機能が適切に適用されなかったユーザーと正常に適用されたユーザーの滞在時間や広告収益にどのような違いがあるかを比較したとされる。安全機能がユーザーのプラットフォーム利用時間や広告収益に与える影響を確認しようとしたという。
TikTok内部でも問題を提起した従業員がいたとされる。TikTokのデジタルウェルビーイング担当プロダクトマネージャーは、内部の会話でこの機能がアルゴリズムの透明性とユーザーのコントロールに関するものであり、プラシーボ群を設けることは趣旨に反するとの懸念を表明した。
TikTokは、新しい製品や機能を実際の環境でテストすることは、ユーザー体験を検証し、動作方法を把握するための一般的な手続きであると反論した。また、ニューヨーク州検察がアルゴリズムリフレッシュ機能の性質を歪曲しているとし、関連する主張を否定し、青少年の安全を最優先していると述べた。
以前、ブルームバーグ通信は、TikTokがアメリカのユーザーの約10%を対象に、有害コンテンツの露出を減らす安全装置を適用しない別の実験を行ったと報じていた。TikTok内部文書によれば、この実験には約1500万人が含まれ、ニューヨークの16歳の若者も実験対象に含まれていた。この若者のアカウントには、実験期間中に自殺や自傷に関連するコンテンツが集中して推薦され、その後自ら命を絶ったとブルームバーグは伝えた。ただし、この実験と若者の死亡との関連性は確認されていない。
一方、TikTokは2023年3月16日に「Refresh your For You feed」という名前でこの機能を発表した。当時、ユーザーが推薦フィードに不満がある場合や特定のコンテンツが繰り返し表示される状況で、「For You」フィードを新たに開始できる機能として紹介された。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
