先ほどのCが分類の誤りの許容度だったのに対し、penaltyはモデルの複雑さに対するペナルティを表します。
penaltyに入力できる値は二つ、「l1」と「l2」です。
基本的には「l2」を選べば大丈夫ですが、「l1」を選ぶ方が欲しいデータが得られる場合もあります。
l1
データの特徴量を削減することで識別境界線の一般化を図るペナルティです。
l2
データ全体の重みを減少させることで識別境界線の一般化を図るペナルティです。
ペナルティとは、モデルが複雑になりすぎて一般化した問題を解決できなくなることを防ぐために与えられる。
コメントを残す