网站首页
手机版

l1和l2正则化的区别 L1、L2正则化

更新时间:2022-07-18 13:02:08作者:佚名

l1和l2正则化的区别 L1、L2正则化

l1和l2正则化的区别是:

  

  1、L1是模型各个参数的绝对值之和。L2是模型各个参数的平方和的开方值。

  

  2、L1会趋向于产生少量的特征,而其他的特征都是0,因为最优的参数值很大概率出现在坐标轴上,这样就会导致某一维的权重为0 ,产生稀疏权重矩阵。L2会选择更多的特征,这些特征都会接近于0。

  

  3、最优的参数值很小概率出现在坐标轴上,因此每一维的参数都不会是0。当最小化||w||时,就会使每一项趋近于0。

  

  

本文标签: 正则  区别  标签  简介  

为您推荐

≌是什么意思数学符号(√3是什么意思)

数学符号≌是全等于的意思,表示两个图形能完全重合,包括形状和面积,全等于是程序设计的一种逻辑运算符。数学符号的发明及使用比数字要

2024-10-07 15:30

数学符号≡是什么意思(数学符号θ是什么意思)

数学符号≡是恒等的意思,≡是无条件等于,不论条件怎么变,都是成立的。恒等式是无论其变量如何取值,等式永远成立的算式。恒等式成立的范

2024-10-07 15:26

数学期望可以是负数吗 期望值能为负数吗

数学期望可以是负数,期望等于随机变量乘以相应的概率,随机变量可以取负,因此期望就可能为负。期望值并不一定等同于常识中的“期望”,“

2024-10-07 15:12

数学感叹号是什么意思 数学上感叹号是什么意思

数学感叹号是阶乘的意思,阶乘是基斯顿·卡曼于1808年发明的运算符号,是数学术语。一个正整数的阶乘是所有小于及等于该数的正整数的积,

2024-10-07 15:10

数学信息是什么意思(数学信息是什么意思和已知条件一个意思吗)

数学信息是指从题干的叙述中挖掘出的和解答本数学题有关的信息,数学题是透过抽象化和逻辑推理的使用,由计数,计算,量度和对物体形状及运

2024-10-07 15:07

0是任何数的倍数吗 0是什么的倍数

数学中的0不是任何数的倍数,一个整数能够被另一个整数整除,这个整数就是另一整数的倍数。同样的,一个数除以另一数所得的商。如a/b=c,就

2024-10-07 15:05