対向伝搬ネットワークの位相写像特性を用いたサポートベクタマシンの汎化能力改善法

Abstract

本論文では，対向伝搬ネットワーク（Counter Propagation Networks: CPN）の位相写像特性を用いて，教師ありニューラルネットワークの汎化能力を改善する手法を提案する．CPN の位相写像特性により，カテゴリ間の学習データがスパースな領域には新たな学習データが補間され，重複や矛盾を含む領域ではそれらが解消される．また，マッピング層のユニット数を変化させることにより，対象問題に応じて学習データ数を任意に変更することができる．CPN と組み合わせる教師ありニューラルネットワークとして，本論文では，カーネル関数を用いた高次元特徴空間への変換により高い汎化能力を示す学習アルゴリズムとして注目されているサポートベクタマシン（Support Vector Machines: SVM）を用いて汎化能力を検証する．２次元クラス分類用データセットを用いた評価実験では，学習データの位相圧縮がデータ間の矛盾解消とソフトマージンとして吸収されるサポートベクタ（Support Vectors: SV）の減少に結び付き，SVM の識別境界が変更されるとともに，汎化能力が改善することを示す．更に，顔画像の段階的な照明変動を扱う大規模データベースを用いた応用実験では，本手法による汎化能力の改善に加えて，CPN のカテゴリマップを用いることによりSVの空間的な分布に加えて，汎化能力の改善に寄与するユニットが可視化できることを示す．