L1 vs L2 正則化的幾何直覺

L1 vs L2 正則化 – 互動式視覺化

L1 vs L2 正則化的幾何直覺

為什麼 L1 (Lasso) 產生稀疏解,而 L2 (Ridge) 不會?

👆 拖動圖中的藍色圓心(損失函數最優點)來觀察切點變化

觀察:當你移動圓心時,L1 的切點是否更容易落在座標軸上?

L2 正則化 (Ridge) 圓形約束
最優解 w* (–, –)
是否稀疏
L1 正則化 (Lasso) 菱形約束
最優解 w* (–, –)
是否稀疏
損失函數等高線
L2 約束區域
L1 約束區域
最優解 w*
📊 統計(拖動多次後觀察)
0%
L2 稀疏解比例
0%
L1 稀疏解比例