机器学习之sklearn——聚类

生成数据集方法：sklearn.datasets.make_blobs(n_samples,n_featurs,centers)可以生成数据集,n_samples表示个数，n_features表示特征个数，centers表示y的种类数

1. make_blobs函数是为聚类产生数据集
2. 产生一个数据集和相应的标签
3. n_samples:表示数据样本点个数,默认值100
4. n_features:表示数据的维度，默认值是2
5. centers:产生数据的中心点，默认值3
6. cluster_std：数据集的标准差，浮点数或者浮点数序列，默认值1.0
7. center_box：中心确定之后的数据边界，默认值(-10.0, 10.0)
8. shuffle ：洗乱，默认值是True
9. random_state:官网解释是随机生成器的种子

y3 = np.array([0]*100 + [1]*50 + [2]*20 + [3]*5)可以这样建立array数组

k-means对于方差不相等和数据与坐标轴不平行时效果不理想；对于数据大小不相等不太敏感。

聚类性能的评价指标：（1）有监督时：均一性sklearn.metrics.homogeneity_score，完整性sklearn.metrics.completeness_score，还有二者的加权平均v_measure_score，ARI（Adjusted Rand index(调整兰德指数)(ARI)）sklearn.metrics.adjusted_rand_score， AMI sklearn.metrics.adjusted_mutual_info_score

ARI取值范围为[−1,1]，值越大意味着聚类结果与真实情况越吻合。从广义的角度来讲，ARI衡量的是两个数据分布的吻合程度。AMI使用与ARI相同的几号，但是用的是信息熵。（具体参见小象机器学习升级版聚类实践ppt）

DBSCAN聚类算法：class sklearn.cluster.DBSCAN(eps=0.5, min_samples=5, metric='euclidean', algorithm='auto', leaf_size=30, p=None, random_state=None)
eps：点之间的间距，大于这个间距的就不算一个簇了。
min_samples：可以算作核心点的高密度区域的最少点个数。
metric：距离公式，可以用默认的欧式距离，还可以自己定义距离函数。
algorithm：发现近邻的方法，是暴力brute，二维空间的距离树kd_tree还是球状树形结构ball_tree。这个参数主要是为了降低计算复杂度的，可以从O(N^2)降到O(n*log(n))。换句话说，无论哪种算法都会达到最后的结果，影响的只是性能。
leaf_size：配合两种_tree算法的。
random_state：不用。

生成的model = DBSCAN(), model.labels_：所有点的分类结果。无论核心点还是边界点，只要是同一个簇的都被赋予同样的label，噪声点为-1.
model.core_sample_indices_：核心点的索引，因为labels_不能区分核心点还是边界点，所以需要用这个索引确定核心点。

所有的数据被分为三类点：
核心点。在半径eps内含有超过min_samples数目的点。
边界点。在半径eps内点的数量小于min_samples，但是落在核心点的邻域内，也就是说该点不是核心点，但是与其他核心点的距离小于eps。
噪音点。既不是核心点也不是边界点的点，该类点的周围数据点非常少。

sklearn.preprocessing 对数据进行预处理（归一化、标准化、正则化）（以后总结）