2026. 11. 18 (水)

スキャターラップ、安全専任チームを設立…AI対話・コンテンツ検証の強化

  • 主要AI開発人員の半数をコンテンツモデレーションモデルに投入

  • 制作・発売・露出の3段階検証…青少年利用時間・決済上限の制限も導入

スキャターラップのロゴ
スキャターラップのロゴ[写真=スキャターラップ]

スキャターラップは、代表直轄の安全専任組織を新設し、生成型人工知能(AI)サービス『ゼータ』の利用者保護体制を強化する。コンテンツの検証からAIとの対話過程まで、自社のモデレーション技術を適用し、青少年の利用時間や決済上限を制限するなど、サービス運営全般に安全基準を拡大する。

スキャターラップは、金鍾允(キム・ジョンユン)代表直轄の組織『トラスト&セーフティチーム』を新設したと17日に発表した。

新設された組織は、ゼータのコンテンツの安全と利用者保護を専任で担当する。スキャターラップは、ゼータの主要AI開発人員の半数をコンテンツおよび対話モデレーションAIモデルの開発に投入する計画である。利用者および青少年保護を経営の核心課題とし、コンテンツ安全政策の策定から自社AIモデルの開発、コンテンツ技術および検証業務までを統合管理する方針である。

まず、コンテンツ制作と流通過程の検証体制を強化する。スキャターラップは、年末までに自社AIモデルとプロットモデレーション機能を高度化し、コンテンツ利用等級を明確に分類し、利用者の年齢に応じた保護体制を構築する計画である。

プロット検証は、クリエイターの制作過程と発売時点、サービス内の露出時点など、合計3段階で行われる。各段階でコンテンツの素材やテキスト・画像を検証し、利用等級を分類する。韓国・日本・アメリカなど主要サービス国に適用するAIコンテンツ政策と検証基準も整備する予定である。

これを実現するために、大規模言語モデル(LLM)を活用したプロット検証特化の自社AIモデルを開発する。年齢確認手続きも強化する。確認された利用者の年齢に応じてアクセスできるプロットを区別し、加入初期から年齢に適したコンテンツを提供する計画である。

AIと利用者の対話過程でも安全装置を強化する。不適切な対話を防ぐ自社AIモデルを発売し、利用者年齢別の発話基準を策定し、AIがその基準に従って応答するように追加措置を進める。

利用者にAIと相互作用している事実を定期的に案内する機能も導入する。国内の青少年利用者を対象に、1日の利用時間を3時間に制限し、基本決済上限を月10万円に設定する機能も年内に適用する予定である。自殺・自傷に関連する敏感なコンテンツが検出された場合、定められた基準に従って利用者に適切な案内を提供する機能も実装し、検証する方針である。



* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
기사 이미지 확대 보기
경북 포항시 경북 포항시
닫기