こんにちは！AI研究所の石川です。
本日のtopicsは、株式会社Citadel AIが提供を開始した、AIの品質保守を効率的に実現するツール「Citadel Radar」をご紹介します。
第4回東大IPC 1stRoundにも採択されたスタートアップとして、元米国Google BrainのAIインフラ構築責任者が開発をリードする株式会社Citadel AIは、AIの品質保守を効率的に実現するツール「Citadel Radar」のβ版の利用募集を5月10日より開始しました。
開発背景
AIの社会実装が進む中、EUでは2021年4月に人工知能（AI）の利用に関する規制案が発表されるなど、欧州や米国では、AIの説明責任や偏見に対する懸念が高まっています。
AIシステムは、判断過程がブラックボックス化しやすくその透明性を維持することが困難になる場合があります。責任あるAIシステムを構築するために、米グーグルや米マイクロソフトなどのIT（情報技術）企業を中心にAI倫理指針を公開する動きが広がっています。
いかにしてAIの品質を担保し、信用を維持し続けることができるかが、これからの事業経営にとって重要な鍵となります。
AIは、常に再学習・更新をし続け、バイアスの排除を行いながら品質や精度を維持していくことが求められる一方で、運用段階で専門家がAIシステムを常時監視することは、コストやリソースの面でも大きな課題がある企業が多いのが現状です。
「Citadel Radar」特長
「Citadel Radar」は、企業がもつAIシステムを自動モニタリングし、異常を検知・ブロック、可視化することで、以下のようなAI固有のリスクから守ります。AIを改修することなく、さまざまなAIのモデルやアプリケーションに適用可能です。
・学習時と比べ、運用時にAIのパフォーマンスが思わぬ形で低下してしまう
・AIへの入力データが、突如あるいは徐々に偏移したことに気づくのが遅れた
・AIにとって見覚えのない異常値を、意識せずにAIに投入してしまった
・AIの思考過程を分かりやすく説明したり、デバッグするのは容易でない
・AIのバージョン入れ替えや、A/Bテストを実施した場合、予期せぬ結果が出てしまう
モニタリング機能
お客様のAIを自動モニタリングし、学習データと運用データの偏移、AIの予測値の経年変化、バージョン入れ替え等に伴う予測値の変動等をリアルタイムで検知します。
ファイアウォール機能
運用時の入出力データをさまざまな視点から自動で評価テストし、不正データ、異常値、悪意のある危険なデータなどをブロックしたり、レビュー用にタグ付けしてアラートを上げます。
可視化機能
お客様のAIの思考過程を可視化し、推論結果に対する説明根拠を提示します。AIの学習時に生じたバイアスや推論時のモデルの脆弱性等を検知し、品質改善に役立てることができます。
株式会社Citadel AIが提供を開始した、AIの品質保守を効率的に実現するツール「Citadel Radar」のβ版に注目です！
