L1 vs L2 正則化的幾何直覺
為什麼 L1 (Lasso) 產生稀疏解,而 L2 (Ridge) 不會?
👆 拖動圖中的藍色圓心(損失函數最優點)來觀察切點變化
觀察:當你移動圓心時,L1 的切點是否更容易落在座標軸上?
L2 正則化 (Ridge)
圓形約束
最優解 w*
(–, –)
是否稀疏
—
L1 正則化 (Lasso)
菱形約束
最優解 w*
(–, –)
是否稀疏
—
損失函數等高線
L2 約束區域
L1 約束區域
最優解 w*
📊 統計(拖動多次後觀察)
0%
L2 稀疏解比例
0%
L1 稀疏解比例




