株式会社ProVisionは、LLMやRAG、AIエージェントを組み込んだシステム向けに「AIシステム開発セキュリティコンサルティング」の提供を開始しました。QA（品質保証）の知見を生かし、要件定義・設計から運用まで、開発工程に応じて支援します。
サービスでは、AIが参照するデータや実行できる操作の範囲、プロンプトインジェクション対策などを検討。利用者・AIエージェント・外部ツール・データの関係を踏まえ、権限管理やガードレール、監査ログ、RAGのアクセス制御などを設計します。開発中の助言に加え、疑似攻撃によるテストや運用時の監視・監査設計にも対応します。
支援内容には、AIエージェントの実行制御、サンドボックス、入出力制御、AI Identity・IAM、AIレッドチームなどが含まれます。同社は既存の脆弱性診断・品質検証サービスと組み合わせ、設計から開発後の検証まで一貫した支援を目指します。

引用元記事：https://news.dellows.jp/843277/?from=top_category_area