モデル平均化法によるBayesian lasso 回帰モデリング

Abstract

線形回帰モデルにおいて，lasso は回帰係数ベクトルの最尤推定あるいは最小2乗推定に罰則項として回帰係数のL1ノルムを付加した推定方法である．Bayesian lasso は，回帰係数パラメータの事前分布にラプラス分布 (両側指数分布) を想定することにより，lasso をベイズ理論の枠組みで捉える方法の一つである．構築したモデルの汎化能力は，事前分布を規定するハイパーパラメータの値に依存しているため，この値の選択がモデリングの過程において本質的な問題となる．また，従来手法によるモデリングは，モデル選択の信頼性に欠ける．これらの問題に対処するために本稿では，リサンプリング法とモデル平均化法を組み合わせた Bayesian lasso 回帰モデリングを提案する．また，提案手法の有効性を，モンテカルロ・シミュレーション，実データへの適用を通して従来手法と比較，検証する．