AIの質を一定に保ち随時改善を行う「Citadel Radar」β版、提供開始

セルリア編集部 2021.05.10

株式会社Citadel AIが提供するAIの品質を効率的に保持するためのツール「Citadel Radar」の利用募集が本日より開始されます。

AIが抱える大きな課題

各業界でDXが進められる中、活躍しているのがAIです。
例えば製造業界では外観検査にAIが活用されていますし、小売業界ではAIがおすすめの商品を紹介してくれるサービスなども登場しています。

また私たちの身近に根付いているSNSや認証セキュリティにもAIは使われています。
このように今やAIは色々な業界で活用されておりDXとも深く結びついています。

AIは非常に便利で効率的ですが、一方でAIを活用したシステムは判断過程がブラックボックス化しやすいという新たな課題もあります。

繰り返し行われた学習を元にAIシステムは判断を下します。
しかし、その都度「明確な根拠を示す」というのは実務上難しく、常に判断過程を透明化させることは現状不可能です。

不透明なままシステムを使い続けてしまうと、誤った判断をAIが下した時に気がつかず、重大な事故につながってしまう恐れもあり、AIを使うのであればAIの品質を担保するシステムも欠かせません。

AIを品質を監視・維持するために株式会社Citadel AIがリリースしたのが「Citadel Radar」のβ版です。

質の低下を防げる「Citadel Radar」

「Citadel Radar」は導入したAIの品質を担保するためのサービスです。
継続的にAIの改善を行い、運用時のAIパフォーマンスの低下やインプットデータの変異などを防ぎます。

出典:株式会社Citadel AI

「Citadel Radar」には3つの機能があります。

●モニタリング機能
導入しているAIをモニタリングして、最初に学習させたデータと現在のデータの頻度変化や分布に歪みなどがないかなどをリアルタイムで検知します。

出典:株式会社Citadel AI

●ファイアウォール機能
運用しているAIが入出力したデータを自動で色々な視点から評価テストします。
この際、不正があるデータや異常な数値、悪意のあるデータをブロックしたりタグ付けしたりします。

出典:株式会社Citadel AI

●可視化機能
AIの思考回路を可視化して、下した判断に根拠を提示する機能です。

出典:株式会社Citadel AI

この3つの機能を通してAIの品質を担保します。
AIを導入する際は「どんなAIを導入するか」だけでなく、こういったAIのシステムを維持できるサービスも必要であることが伺えます。

SHERE!

よく読まれているニュース

  • 24時間以内
  • 今週
  • 今月
  • 全て

AIの質を一定に保ち随時改善を行う「Citadel Radar」β版、提供開始

                           
セルリア編集部 2021.05.10

株式会社Citadel AIが提供するAIの品質を効率的に保持するためのツール「Citadel Radar」の利用募集が本日より開始されます。

続きを読む

AIが抱える大きな課題

各業界でDXが進められる中、活躍しているのがAIです。
例えば製造業界では外観検査にAIが活用されていますし、小売業界ではAIがおすすめの商品を紹介してくれるサービスなども登場しています。

また私たちの身近に根付いているSNSや認証セキュリティにもAIは使われています。
このように今やAIは色々な業界で活用されておりDXとも深く結びついています。

AIは非常に便利で効率的ですが、一方でAIを活用したシステムは判断過程がブラックボックス化しやすいという新たな課題もあります。

繰り返し行われた学習を元にAIシステムは判断を下します。
しかし、その都度「明確な根拠を示す」というのは実務上難しく、常に判断過程を透明化させることは現状不可能です。

不透明なままシステムを使い続けてしまうと、誤った判断をAIが下した時に気がつかず、重大な事故につながってしまう恐れもあり、AIを使うのであればAIの品質を担保するシステムも欠かせません。

AIを品質を監視・維持するために株式会社Citadel AIがリリースしたのが「Citadel Radar」のβ版です。

質の低下を防げる「Citadel Radar」

「Citadel Radar」は導入したAIの品質を担保するためのサービスです。
継続的にAIの改善を行い、運用時のAIパフォーマンスの低下やインプットデータの変異などを防ぎます。

出典:株式会社Citadel AI

「Citadel Radar」には3つの機能があります。

●モニタリング機能
導入しているAIをモニタリングして、最初に学習させたデータと現在のデータの頻度変化や分布に歪みなどがないかなどをリアルタイムで検知します。

出典:株式会社Citadel AI

●ファイアウォール機能
運用しているAIが入出力したデータを自動で色々な視点から評価テストします。
この際、不正があるデータや異常な数値、悪意のあるデータをブロックしたりタグ付けしたりします。

出典:株式会社Citadel AI

●可視化機能
AIの思考回路を可視化して、下した判断に根拠を提示する機能です。

出典:株式会社Citadel AI

この3つの機能を通してAIの品質を担保します。
AIを導入する際は「どんなAIを導入するか」だけでなく、こういったAIのシステムを維持できるサービスも必要であることが伺えます。

SHERE!