AIサービスの安全性を包括支援、ChillStackが「AI Safety ソリューション」提供開始

　ChillStackは、AIを搭載したサービスにおけるセキュリティリスクの把握から対策までを包括的に支援する「AI Safety ソリューション」の提供を、4月23日に開始した。

　AI Safety ソリューションは、企業が自社サービスにAIを搭載する際のリスク対策を、開発から実装、運用の各フェーズにわたって支援するソリューション。AIを搭載したサービスの「開発」「構築・実装」「展開・運用」に至るサプライチェーン全体を対象に、「教育」「診断」「防御」の3つのサービスを組み合わせることで、各フェーズにおけるリスク対策を包括的に提供している。

　「教育」の側面では、三井物産セキュアディレクションと共同で「セキュアAIトレーニング」を展開する。AI搭載サービスの設計・企画から運用までを安全に進めるための知識と技術の習得を目指す。マネジメント層向けの概論からエンジニア向けの高度なハンズオン研修まで幅広く提供し、組織全体のセキュリティ意識と技術力の向上を後押しする。

　「診断」においては、AIに精通したコンサルタントやホワイトハッカーが、従来の脆弱性に加えてプロンプトインジェクションといったAI特有の攻撃手法や、システム設定の不備を多角的に調査・診断する「ChillStack セキュリティ診断」を実施している。情報漏洩や乗っ取りといった具体的なリスクを事前に洗い出し、実効性のある対策を提示する仕組みを整える。

　「防御」に関しては、従業員によるAIへの入出力をリアルタイムで監視し、不適切な利用を自動でブロックするAI保護システム「Safia」（旧・Stena AI）を活用する。ユースケースに応じて検知モデルを柔軟にカスタマイズ可能なため、個人情報や機密情報の流出防止、システムへの不正アクセスの遮断など、実運用に即した防御を実現している。