kmeans算法c语言实现，能对不同维度的数据进行聚类

　　最近在苦于思考kmeans算法的MPI并行化，花了两天的时间把该算法看懂和实现了串行版。

　　聚类问题就是给定一个元素集合V，其中每个元素具有d个可观察属性，使用某种算法将V划分成k个子集，要求每个子集内部的元素之间相异度尽可能低，而不同子集的元素相异度尽可能高。

　　下面是google到该算法的一个流程图，表意清楚：

　　1、随机选取数据集中的k个数据点作为初始的聚类中心：

　　

　　2、分别计算每个数据点到每个中心的距离，选取距离最短的中心点作为其聚类中心：

　　

　　3、利用目前得到的聚类重新计算中心点：

　　

　　4、重复步骤2和3直到收敛（达到最大迭代次数或聚类中心不再移动）：

　　

　　code:

 #include <stdio.h>
 #include <stdlib.h>
 #include <math.h>
 #include <time.h>

 int K,N,D;  //聚类的数目，数据量，数据的维数
 float **data;  //存放数据
 int *in_cluster;  //标记每个点属于哪个聚类
 float **cluster_center;  //存放每个聚类的中心点

 float **array(int m,int n);
 void freearray(float **p);
 float **loadData(int *k,int *d,int *n);
 float getDistance(float avector[],float bvector[],int n);
 void cluster();
 float getDifference();
 void getCenter(int in_cluster[]);

 int  main()
 {
     int i,j,count=;
     float temp1,temp2;
     data=loadData(&K,&D,&N);
     printf("Data sets:\n");
     for(i=;i<N;i++)
         for(j=;j<D;j++){
             printf("%-8.2f",data[i][j]);
             if((j+)%D==)    putchar('\n');
         }
     printf("-----------------------------\n");

     srand((unsigned int)(time(NULL)));  //随机初始化k个中心点
     for(i=;i<K;i++)
         for(j=;j<D;j++)
             cluster_center[i][j]=data[(int)((double)N*rand()/(RAND_MAX+1.0))][j];

     cluster();  //用随机k个中心点进行聚类
     temp1=getDifference();  //第一次中心点和所属数据点的距离之和
     count++;
     printf("The difference between data and center is: %.2f\n\n", temp1);

     getCenter(in_cluster);
     cluster();  //用新的k个中心点进行第二次聚类
     temp2=getDifference();
     count++;
     printf("The difference between data and center is: %.2f\n\n",temp2);

     while(fabs(temp2-temp1)!=){   //比较前后两次迭代，若不相等继续迭代
         temp1=temp2;
         getCenter(in_cluster);
         cluster();
         temp2=getDifference();
         count++;
         printf("The %dth difference between data and center is: %.2f\n\n",count,temp2);
     }

     printf("\nThe total number of cluster is: %d\n",count);  //统计迭代次数
     //system("pause");  //gcc编译需删除
     return ;
 }

 //动态创建二维数组
 float **array(int m,int n)
 {
     int i;
     float **p;
     p=(float **)malloc(m*sizeof(float *));
     p[]=(float *)malloc(m*n*sizeof(float));
     for(i=;i<m;i++)    p[i]=p[i-]+n;
     return p;
 }

 //释放二维数组所占用的内存
 void freearray(float **p)
 {
     free(*p);
     free(p);
 }

 //从data.txt导入数据，要求首行格式：K=聚类数目,D=数据维度,N=数据量
 float **loadData(int *k,int *d,int *n)
 {
     int i,j;
     float **arraydata;
     FILE *fp;
     if((fp=fopen("data.txt","r"))==NULL)    fprintf(stderr,"cannot open data.txt!\n");
     if(fscanf(fp,"K=%d,D=%d,N=%d\n",k,d,n)!=)        fprintf(stderr,"load error!\n");
     arraydata=array(*n,*d);  //生成数据数组
     cluster_center=array(*k,*d);  //聚类的中心点
     in_cluster=(int *)malloc(*n * sizeof(int));  //每个数据点所属聚类的标志数组
     for(i=;i<*n;i++)
         for(j=;j<*d;j++)
             fscanf(fp,"%f",&arraydata[i][j]);  //读取数据点
     return arraydata;
 }

 //计算欧几里得距离
 float getDistance(float avector[],float bvector[],int n)
 {
     int i;
     float sum=0.0;
     for(i=;i<n;i++)
         sum+=pow(avector[i]-bvector[i],);
     return sqrt(sum);
 }

 //把N个数据点聚类，标出每个点属于哪个聚类
 void cluster()
 {
     int i,j;
     float min;
     float **distance=array(N,K);  //存放每个数据点到每个中心点的距离
     //float distance[N][K];  //也可使用C99变长数组
     for(i=;i<N;++i){
         min=9999.0;
         for(j=;j<K;++j){
             distance[i][j] = getDistance(data[i],cluster_center[j],D);
             //printf("%f\n", distance[i][j]);
             if(distance[i][j]<min){
                 min=distance[i][j];
                 in_cluster[i]=j;
             }
         }
         printf("data[%d] in cluster-%d\n",i,in_cluster[i]+);
     }
     printf("-----------------------------\n");
     free(distance);
 }

 //计算所有聚类的中心点与其数据点的距离之和
 float getDifference()
 {
     int i,j;
     float sum=0.0;
     for(i=;i<K;++i){
         for(j=;j<N;++j){
             if(i==in_cluster[j])
                 sum+=getDistance(data[j],cluster_center[i],D);
         }
     }
     return sum;
 }

 //计算每个聚类的中心点
 void getCenter(int in_cluster[])
 {
     float **sum=array(K,D);  //存放每个聚类中心点
     //float sum[K][D];  //也可使用C99变长数组
     int i,j,q,count;
     for(i=;i<K;i++)
         for(j=;j<D;j++)
             sum[i][j]=0.0;
     for(i=;i<K;i++){
         count=;  //统计属于某个聚类内的所有数据点
         for(j=;j<N;j++){
             if(i==in_cluster[j]){
                 for(q=;q<D;q++)
                     sum[i][q]+=data[j][q];  //计算所属聚类的所有数据点的相应维数之和
                 count++;
             }
         }
         for(q=;q<D;q++)
             cluster_center[i][q]=sum[i][q]/count;
     }
     printf("The new center of cluster is:\n");
     for(i = ; i < K; i++)
         for(q=;q<D;q++){
             printf("%-8.2f",cluster_center[i][q]);
             if((q+)%D==)    putchar('\n');
     }
     free(sum);
 }

　　

　　该程序支持不同维度的数据集，一个示例的数据集 data.txt如下：

　　K=3,D=3,N=15

　　-25 22.2 35.34
　　31.2 -14.4 23
　　32.02 -23 24.44
　　-25.35 36.3 -33.34
　　-20.2 27.333 -28.22
　　-15.66 17.33 -23.33
　　26.3 -31.34 16.3
　　-22.544 16.2 -32.22
　　12.2 -15.22 22.11
　　-41.241 25.232 -35.338
　　-22.22 45.22 23.55
　　-34.22 50.14 30.98
　　15.23 -30.11 20.987
　　-32.5 15.3 -25.22
　　-38.97 20.11 33.22