BCカードは、現地時間の14日にアメリカ・アトランタで開催された『レッドハットサミット2026』において、レッドハットと共同で構築した『エイジェンティックAI運用プラットフォーム』を公開した。レッドハットサミットは、グローバルオープンソース企業であるレッドハットが毎年開催するオープンソース・クラウド・AI技術のカンファレンスである。
BCカードが発表したプラットフォームは、一つのLLMに業務を集中させるのではなく、業務領域ごとに特化した多数の小型言語モデル（SLM）を束ねて同時に処理する構造である。エイジェンティックAIは、単なる回答を超えてAIが自ら判断し行動する技術を指す。
BCカードはこの構造を通じてAI運用のコストと速度の問題を改善した。SLMは特定の業務に最適化できるため、安定した結果を導き出すと同時に推論速度を最大3倍以上向上させ、GPU資源を最大70%まで削減することができた。
実際にBCカードは年間100億件以上の決済データを処理してきた経験を基に、高価なGPU資源を効率的に分散するAI運用方式を構築した。これによりサービスの速度を向上させ、運用コストを削減したと説明している。
このプラットフォームは実際のサービスにも適用されている。BCカードはリアルタイムの消費パターンを分析して飲食店を推薦する『Eat.pl』、金融特化型生成AIプラットフォームとして社員の業務を支援する『BCGPT』、複数のAIを接続して業務自動化を実現する『MOAI』などを運営している。BCカードは自社開発のAIモデルと韓国金融特化データセットも外部に公開している。グローバルAIオープンソースプラットフォームであるハギングフェイスに約38のLLMを公開しており、月平均10万件以上のダウンロード実績を上げている。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
