首页 置换 选车 估价 问答 生活 经销商 车管所 汽车资讯 汽车销量 车牌查询 今日油价 天气预报
您的位置: 首页 > 生活 > 生活 > 离散数据拐点检测(特征工程大传对数变换)
离散数据拐点检测(特征工程大传对数变换)
更新时间:2024-07-19 14:26:05

(欢迎各位关注,本专栏会对机器学习的特征工程中一些实用的处理方法进行介绍,该系列篇幅较短,力求阐述其核心并提供相应的实现方法。)

对数变换是一种常用的特征工程方法。一般对于数值大于0的重尾分布数据,我们都可以采取对数变换的方法来转换特征值,从而让特征具有更好的数值属性,进而增强模型的效果。那么如何理解对数变换?什么情况下对数变换会是一种有效的特征工程方法呢?让我们先从几个基本概念开始。


1,对数函数

既然要进行对数变换,那么就需要针对对数函数的性质有深刻的理解。

下图是对数函数在一个较大的定义域范围内所绘制出的函数图像,

离散数据拐点检测(特征工程大传对数变换)1

对数函数图像

我们可以很明显地看出,当x数值较小时,y值变化较快,而随着x值不断变大,y值变化越发平缓,让我们先记下这个图像性质。


2,重尾分布

我们常说很多事物的自然分布近似于正态分布,但事实上还有一种更为广泛的分布,其表现为少量的个体做出大量的贡献(如下图所示),这就是长尾分布。

离散数据拐点检测(特征工程大传对数变换)2

长尾分布

# Python 绘制长尾分布 # 长尾分布采样 a, m = 3., 2. # shape and mode s = (np.random.pareto(a, 1000) 1) * m # 绘制分布图 import matplotlib.pyplot as plt count, bins, _ = plt.hist(s, 100) plt.show()

对于呈现长尾分布的特征,我们不能简单地去除长尾部分的特征值,这是因为这些长尾的尾部很长,在整个特征分布中占比其实也并不低,事实上具有很大的信息量,对模型来说很有价值。但如果直接就这么放入模型也不是合适的方法。如上图所示,尖尖的左侧加一个长长的尾巴,这意味着有大量的值在<2左右的这个极小的低值段区间内,分布明显有偏向,这会让以高斯分布为假设的模型难以学习到合理的参数,使得该特征为模型带来的效果大打折扣。

至此,问题已经明确,既然这种分布形式并不好,那么我们怎么来缓解它呢?答案就是,使用对数变换。


3,对数变换

我们根据前面发现的log函数所具有的性质,对特征值进行对数变换,使得较小值区间在转换后被扩展到一个变化较大的范围内(x数值较小时,y值变化较快),而长尾的大值区间被压缩到一个变化较小的范围内(随着x值不断变大,y值变化越发平缓),进而整体上减缓长尾分布这种极偏的分布状态,为低值端争取更多的空间,将高值端尽可能的压缩,使得整体分布更加合理。

离散数据拐点检测(特征工程大传对数变换)3

对数转换后的长尾分布图

# log转换后的分布图 import matplotlib.pyplot as plt count, bins, _ = plt.hist(np.log(s), 100) plt.show()


4,结语

对数变换是一种十分常用的特征工程方法,当我们遇到类似分布的特征数据时,可以通过这种转换来让特征变得更加有效。此外它还具有以下优点:

  1. 缩小数据的绝对数值范围,让特征不再飘。
  2. 依据对数的运算法则,将乘法变换为加法,符合中心极限法则下收敛到正态分布的假设。
  3. 非线性转换为线性,让问题变得更好建模

如果你觉得我的文章有价值,请持续关注我,我会持续更新。

,
相关推荐RECOMMEND
体温计打碎后注意事项是什么
1、开窗通风,至少持续两天,关闭室内所有加热装置。2、处理时戴好口罩和手套,不可用手直接接触水银。3、打碎体温计后要及时处理,沉着冷静,勿惊慌。4、收集时,绝对不可使用扫帚、吸尘器或者毛巾等来处理,避...
简单漂亮的DIY手链制作
第一、准备一些好看串珠,网上有卖的,款式多又便宜,可以在网上买。第二、准备一些细弹簧绳,绳子粗了就穿不进珠子了,我买了很多所以看起来是一大捆啦,其实只要一小段就够了第三、将珠子依次用弹簧绳穿好,将珠子...
如何追求摩羯座男生
第一、不做花瓶展现能力如果你想靠你的美貌征服摩羯座男生,那你大多数是会失败的,因为摩羯座男生并不是一个那么肤浅的人,他更喜欢有能力的女生,所以,在他面前别做花瓶了,将自己的能力展现出来才可以。第二、用...
结婚周年纪念日怎么庆祝
第一、纪念蛋糕可以定制一年结婚纪念蛋糕,再打开一瓶红酒,点上几支蜡烛,在家里边吃蛋糕边喝红酒庆祝,品尝幸福和甜蜜。第二、浪漫晚餐还可以找一家有情调的西餐厅,享受一下二人世界,回忆一下二人共同走过的路,...
男人如何给女人安全感
第一、少跟异性接触,因为旅行一般来说特别的敏感,所以在爱情方面千万不要自以为是,尤其是跟异性千万要少一点接触,因为没有任何的一个女人会不吃醋,只有少跟异性接触,才能够足够的给自己的女人安全感。第二、学...
简单的荷花怎么折
第一、准备纸、剪刀和胶棒。第二、将长方形纸向上对折一次。第三、再将右侧的边向左对折一次。第四、将上方的边向下折三分之一角。第五、将下面的边向上折三分之一。第六、再把下面的边向上对折。第七、用剪刀从角的...