Deep Learning Toolbox Verification Library

ディープニューラルネットワークのロバスト性と信頼性を確保

ディープニューラルネットワークはエンジニアリングシステム、特にセーフティクリティカルなアプリケーションの一部となることから、そのロバスト性と信頼性を確保することは不可欠になっています。Deep Learning Toolbox Verification Library を使用すると、ディープニューラルネットワークの評価とテストを厳密に実施することができます。

Deep Learning Toolbox Verification Library を使用すると、以下を行うことができます。

敵対的サンプルに対するロバスト性など、ディープニューラルネットワークの特性の検証
入力の摂動に対するネットワーク予測感度の推定
データを分布内と分布外に分けてランタイムモニタリングを行うための分布ディスクリミネーターの作成
ネットワーク性能を監視するためのランタイムモニタリングシステムの展開
ケーススタディを通した航空機用ディープラーニングシステムの検証

分類のためのディープニューラルネットワークにおけるロバスト性の検証

形式的手法を用いて、敵対的サンプル (ネットワークをミスリードするように設計された、巧妙に改変された入力) に対するネットワークのロバスト性を向上させます。このアプローチでは無限の入力をテストできます。これにより摂動が存在しても予測の整合性が証明され、ネットワークの信頼性と精度の向上を可能にする学習強化の指針となります。

回帰のためのディープニューラルネットワーク出力範囲の推定

形式的手法を用いて、ネットワークで指定した入力範囲に対する出力範囲の下限と上限を推定します。このプロセスにより、指定した入力の摂動に対するネットワークの潜在的な出力への理解を深めることができます。これにより、制御システムや信号処理などのシナリオで、信頼性の高い性能を確実に実現できるようになります。

ディープラーニングネットワークの出力範囲の推定

ランタイムモニタリングを使用した安全なディープラーニングシステムの構築

分布外検出を使用してランタイムモニタリングを組み込み、安全なディープラーニングシステムを構築します。受信データが学習データと整合しているかどうかを継続的に評価することにより、ネットワークの出力を信頼すべきか、リダイレクトして安全な処理を実行するかの判断に役立ち、システムの安全性と信頼性が強化されます。

滑走路標識分類 (RSC) システムのアーキテクチャ。前向きのカメラから画像を受信し、オブジェクト検出器のニューラルネットワークを使用して、画像内の空港の滑走路標識を検出します。

ケーススタディ: 航空機用ディープラーニングシステムの検証

ケーススタディを通して、DO-178C、ARP4754A、策定見込みの EASA および FAA のガイドラインなど、航空業界の標準と整合する航空機用ディープラーニングシステムを検証します。このケーススタディは、ディーブラーニングシステムの業界標準およびガイドラインへの完全な準拠に必要となる手順の包括的な全体像を提供します。