ステータス
2026年7月27日時点で、複数のプロトタイプを開発済みであり、本番環境への導入を見据えた製品開発を並行して進めている。現在、選定した企業との実証プロジェクトを計画しており、実際のAI開発・運用環境における適用性や、リスク評価・対応プロセスへの効果を検証する予定である。
これらの実証結果をもとに、製品機能の改善、リスクライブラリおよび対応策ライブラリの充実を図るとともに、より幅広い企業で利用可能なAIリスクガバナンスワークフローとして完成度を高めていく。
重点プログラム
継続的AIリスクガバナンス
概要
企業ではAIの活用がさまざまな業務へ急速に広がっている一方で、どのAIシステムが利用されているのか、それぞれがどのようなリスクを抱えているのか、そしてそれらのリスクが継続的に適切に管理されているのかを把握できている企業は多くない。
AIリスク・ガバナンス・プロダクトは、AI研究およびAIガバナンス分野の世界的な専門家であるオックスフォード大学の教授陣と共同開発した、企業向けAIリスクガバナンスプラットフォームである。世界中のAIインシデントやリスク事例を体系化したリスクライブラリと、専門家が監修した実践的な対応策ライブラリを活用し、AIユースケースを安全かつ継続的に運用するためのガバナンスを支援する。
また、AIシステムに関する情報収集、リスク分析、推奨される対応策の提示、継続的なリスク評価までを一つのワークフローとして統合することで、急速に進むAI活用に対応した継続的なAIリスクガバナンスを実現する。
課題
AIの開発・導入が急速に進む中、多くの企業では利用中のAIシステム全体を正確かつ最新の状態で把握することが難しくなっている。AIシステムに関する重要な情報は、さまざまな文書、ツール、部門に分散しているため、情報収集には多くの時間と手作業を要する。
また、リスク評価には専門的な知識と工数が必要であり、重要なリスクを特定できたとしても、どのリスクを優先すべきか、どのような対策を講じるべきかを実務レベルで判断することは容易ではない。さらに、AIシステムの更新や新しい技術の登場が続く中、属人的あるいは場当たり的な運用では、リスク評価を継続的に最新の状態へ維持することは困難である。
アプローチ
AIリスク・ガバナンス・プロダクトは、AIリスク管理を一貫して支援するエンドツーエンドのワークフローを提供する。大規模言語モデル（LLM）を活用して、AIの開発・運用に関する情報を収集・構造化するとともに、世界中のAIインシデントデータや利用者から蓄積された事例をもとに構築したリスクライブラリを用いて、各AIシステムに適したリスクシナリオを自動生成する。
さらに、オックスフォード大学のAI研究・AIガバナンス分野の教授陣と共同で整備した、推奨対策や確認項目のライブラリを提供することで、リスクを特定するだけでなく、具体的な対応策の実施までを支援する。
また、リスク評価結果や実施した対策を一元的に管理し、AIシステムの変更や運用状況の変化に応じた継続的な再評価を可能にすることで、企業が一度限りのリスク評価から継続的なAIリスクガバナンスへ移行することを支援する。