one-hot编码的思想就是将离散特征变成向量 假设特征 𝐴 有三种取值 {𝑎,𝑏,𝑐} ,这三种取值等价,如果我们使用1,2,3三个数字表示这三种取值,那么在计算时就会产生偏差,有一些涉及距离度量的算法会认为,2和1离得近,3和1离得远,但这三个值应该是等价的,这种表示方法会造成模型在判断上出现偏差。 解决方案就是使用一个三维向量表示他们,用 [1,0,0] 表示a, [0,1,0] 表示b, [0,0,1] 表示c,这样三个向量之间的距离就都是相等的了,任意两个向量在欧式空间的距离都是
2
\sqrt{2}
2
? 。这就是one-hot编码是思想。 也就是说,使用one hot编码器对类别进行“二进制化”操作,然后将其作为模型训练的特征。比如,假设“花”的特征可能的取值为daffodil(水仙)、lily(百合)、rose(玫瑰)。one hot编码将其转换为三个特征:is_daffodil、is_lily、is_rose,这些特征都是二进制的。
代码思路
- 用Numpy实现转换(映射map)的一个思路:用连续的整型标签值索引np.eye数组。
import numpy as np
labels = np.array([0, 1, 2, 1, 2, 0, 2, 1, 0])
num_classes = 3
one_hot_codes = np.eye(num_classes)
one_hot_labels = []
for label in labels:
one_hot_label = one_hot_codes[label]
one_hot_labels.append(one_hot_label)
one_hot_labels = np.array(one_hot_labels)
print(one_hot_labels)
缺点:显而易见,只有连续从0开始的整数数组才能复合要求,这只是一个入门级实现。
- pandas和sklearn。它们最大的区别是,pandas默认只处理字符串类别变量,sklearn默认只处理数值型类别变量(需要先 LabelEncoder )
pandas
'''
Parameter
----------
data: pd.DataFrame
features_categorical: list(str)
'''
def one_hot_encoding(data, features_categorical):
for cat in features_categorical:
one_encoding = pd.get_dummies(data[cat], prefix = cat)
data = pd.concat([data, one_encoding],axis=1)
del data[cat]
return data
|