Linq使用Distinct删除重复数据时如何指定所要依据的成员属性zz
最近项目中在用Linq Distinct想要将重复的资料去除时,发现它跟Any之类的方法有点不太一样,不能很直觉的在呼叫时直接带入重复数据判断的处理逻辑,所以当我们要用某个成员属性做重复数据的判断时,就必需绕一下路,这边稍微将处理的方法做个整理并记录一下。
首先为了方便接下去说明,我们必须先来准备后面会用到的数据类别,这边一样用笔者最常用来示范的Person类别,内含两个成员属性ID与Name。
01.public struct Person
02.{
03.#region Property
04./// <summary>
05./// Gets or sets the ID.
06./// </summary>
07./// <value>The ID.</value>
08.public string ID { get; set; }
09.
10./// <summary>
11./// Gets or sets the name.
12./// </summary>
13./// <value>The name.</value>
14.public string Name { get; set; }
15.#endregion
16.
17.
18.#region Public Method
19./// <summary>
20./// Returns a <see cref="System.String"/> that represents this instance.
21./// </summary>
22./// <returns>
23./// A <see cref="System.String"/> that represents this instance.
24./// </returns>
25.public override string ToString()
26.{
27.return Name;
28.}
29.#endregion
接着准备要用来测试的资料,这边准备了十一个Person对象,前十个对象的名称都是Larry,第十一个对象的名称为LastLarry。期望后面可以透过Distinct将重复的Larry过滤掉。
...
1.var datas = new List<Person>();
2.int idx = 0;
3.for (idx = 0; idx < 10; ++idx)
4.{
5.datas.Add(new Person() {ID = idx.ToString(), Name = "Larry" });
6.}
7.datas.Add(new Person() { ID = idx.ToString(), Name = "LastLarry" });
8....
若是我们想直接用内建的Distinct函式来过滤数据。
...
01.var distinctDatas = datas.Distinct();
02.ShowDatas(distinctDatas);
03....
04.private static void ShowDatas<T>(IEnumerable<T> datas)
05.{
06.foreach (var data in datas)
07.{
08.Console.WriteLine(data.ToString());
09.}
10.}
可以看到运行起来并不如我们所预期的,过滤出来的数据跟没过滤一样。

为了解决这个问题,我们必须要做个可依照Person.Name去做比较的Compare类别,该Compare类别必须实做IEqualityCompare.Equals与IEqualityCompare.GetHashCode方法,并在呼叫Distinct过滤时将该Compare对象带入。
01.distinctDatas = datas.Distinct(new PersonCompare());
02.ShowDatas(distinctDatas);
03....
04.class PersonCompare : IEqualityComparer<Person>
05.{
06.#region IEqualityComparer<Person> Members
07.
08.public bool Equals(Person x, Person y)
09.{
10.return x.Name.Equals(y.Name);
11.}
12.
13.public int GetHashCode(Person obj)
14.{
15.return obj.Name.GetHashCode();
16.}
17.
18.#endregion
19.}
运行起来就会是我们所期望的样子。

www.it165.net
但是这样做代表我们每次碰到新的类别就必须要实现对应的Compare类别,用起来十分的不便。因此有人就提出用泛型加上反射的方式做一个共享的Compare类别。
01.public class PropertyComparer<T> : IEqualityComparer<T>
02.{
03.private PropertyInfo _PropertyInfo;
04.
05./// <summary>
06./// Creates a new instance of PropertyComparer.
07./// </summary>
08./// <param name="propertyName">The name of the property on type T
09./// to perform the comparison on.</param>
10.public PropertyComparer(string propertyName)
11.{
12.//store a reference to the property info object for use during the comparison
13._PropertyInfo = typeof(T).GetProperty(propertyName,
14.BindingFlags.GetProperty | BindingFlags.Instance | BindingFlags.Public);
15.if (_PropertyInfo == null)
16.{
17.throw new ArgumentException(string.Format("{0} is not a property of type {1}.", propertyName, typeof(T)));
18.}
19.}
20.
21.#region IEqualityComparer<T> Members
22.
23.public bool Equals(T x, T y)
24.{
25.//get the current value of the comparison property of x and of y
26.object xValue = _PropertyInfo.GetValue(x, null);
27.object yValue = _PropertyInfo.GetValue(y, null);
28.
29.//if the xValue is null then we consider them equal if and only if yValue is null
30.if (xValue == null)
31.return yValue == null;
32.
33.//use the default comparer for whatever type the comparison property is.
34.return xValue.Equals(yValue);
35.}
36.
37.public int GetHashCode(T obj)
38.{
39.//get the value of the comparison property out of obj
40.object propertyValue = _PropertyInfo.GetValue(obj, null);
41.
42.if (propertyValue == null)
43.return 0;
44.
45.else
46.return propertyValue.GetHashCode();
47.}
48.
49.#endregion
50.}
使用时只要带入泛型的型态与成原属性的名称,就可以产生出需要的Compare对象。
1.distinctDatas = datas.Distinct(new PropertyComparer<Person>("Name"));
2.ShowDatas(distinctDatas);
这样的作法是减少了许多额外的负担,但是感觉还是少了一条路,用起来也还是必须要建立Compare对象,而且反射也存在着效能的问题,如果每个元素都透过这个Compare去做判断,感觉处理上也不是很漂亮。所以有人也意识到了这个问题,用扩充方法提供了一条我们比较熟悉的路,可以直接将Lambda带入以决定元素要怎样过滤。
01.public static class EnumerableExtender
02.{
03.public static IEnumerable<TSource> Distinct<TSource, TKey>(thisIEnumerable<TSource> source, Func<TSource, TKey> keySelector)
04.{
05.HashSet<TKey> seenKeys = new HashSet<TKey>();
06.foreach (TSource element in source)
07.{
08.var elementValue = keySelector(element);
09.if (seenKeys.Add(elementValue))
10.{
11.yield return element;
12.}
13.}
14.}
15.}
使用上会好写许多。
1.distinctDatas = datas.Distinct(person => person.Name);
2.ShowDatas(distinctDatas);
若是不想加入额外的类别,我们也可以透过Group方式来达到类似的效果。
1.distinctDatas = from data in datas
2.group data by data.Name into g
3.select g.First();
4.ShowDatas(distinctDatas);
Linq使用Distinct删除重复数据时如何指定所要依据的成员属性zz的更多相关文章
- Distinct删除重复数据时 自定义的方法比较【转】
最近项目中在用Linq Distinct想要将重复的资料去除时,发现它跟Any之类的方法有点不太一样,不能很直觉的在呼叫时直接带入重复数据判断的处理逻辑,所以当我们要用某个成员属性做重复数据的判断时, ...
- orcl数据库查询重复数据及删除重复数据方法
工作中,发现数据库表中有许多重复的数据,而这个时候老板需要统计表中有多少条数据时(不包含重复数据),只想说一句MMP,库中好几十万数据,肿么办,无奈只能自己在网上找语句,最终成功解救,下面是我一个实验 ...
- 取两个DataTable的交集,删除重复数据
/// <summary> /// 取两个DataTable的交集,删除重复数据 /// </summary> /// <param name="sourceD ...
- T-SQL技术收集——删除重复数据
原文:T-SQL技术收集--删除重复数据 在工作和面试中,经常出现如何查询或者删除重复数据的问题,如果有主键,那还好办一点,如果没有主键,那就有点麻烦. 当一个表上没有辅助键时,如果使用SSMS界面来 ...
- mongodb删除重复数据
注:mongodb当前版本是3.4.3 插入六条数据: 查询存在重复的数据: 查询并循环删除重复数据: 删除语句解析: db.userInfo.aggregate([ { ...
- SQL表之间复制数据、选出随机几条数据、删除重复数据、取得自增长列等操作
--表之间数据复制 SELECT* INTO yozhu FROM yo --复制一份表 SELECT* INTO yozhu1 FROM yo where 1<>1 --只复制表结构,无 ...
- SQL server 存储过程 C#调用Windows CMD命令并返回输出结果 Mysql删除重复数据保留最小的id C# 取字符串中间文本 取字符串左边 取字符串右边 C# JSON格式数据高级用法
create proc insertLog@Title nvarchar(50),@Contents nvarchar(max),@UserId int,@CreateTime datetimeasi ...
- mysql删除重复数据,保留最新的那一条
因为数据库没键外键,在关联查询的时候,会碰到查询条数多余数据库实际条数,这因为关联字段在表中有重复值而导致的. 解决方案: 1.数据库脚本删除重复数据,保留最新的一条 2.对关联字段增加唯一约束 例如 ...
- 【MySQL】测试MySQL表中安全删除重复数据只保留一条的相关方法
第二篇文章测试说明 开发测试中,难免会存在一些重复行数据,因此常常会造成一些测试异常. 下面简单测试mysql表删除重复数据行的相关操作. 主要通过一下三个大标题来测试说明: 02.尝试删除dept_ ...
随机推荐
- 程序员必读:Linux内存管理剖析
现在的服务器大部分都是运行在Linux上面的,所以作为一个程序员有必要简单地了解一下系统是如何运行的. 对于内存部分需要知道: 地址映射 内存管理的方式 缺页异常 先来看一些基本的知识,在进程看来,内 ...
- Coursera台大机器学习课程笔记3 – 机器学习的分类和机器学习的可能性
第三讲比较简单,参考:http://www.cnblogs.com/HappyAngel/p/3466527.html 第四讲很抽象,尤其是第四个视频,目的仍然是为了证明机器学习是可能的,不过这个博主 ...
- CVPR2015文章下载
http://www.cv-foundation.org/openaccess/content_cvpr_2015/html/Liu_Real-Time_Part-Based_Visual_2015_ ...
- BNUOJ 1037 精神控制
XsuagrX喜欢到处唬人,各种唬.这不,经过刻苦修炼,他终于掌握了Bane Element的Ultra绝技加强版,恶魔掌控(快捷键F)(YY中&……).当XsugarX对某个人胡言乱语Q@# ...
- python中import和from...import...的区别
python中import和from...import...的区别: 只用import时,如import xx,引入的xx是模块名,而不是模块内具体的类.函数.变量等成员,使用该模块的成员时需写成xx ...
- MVC 详细说明
.NET MVC执行过程: 1.网址路由比对 2.执行Controller与Action 3.执行View并返回结果 在使用MVC中是由IgnoreRoute()辅助方法对比成功的,会导致程序直接跳离 ...
- Recover Rotated Sorted Array
Given a rotated sorted array, recover it to sorted array in-place. Clarification What is rotated arr ...
- 【leetcode】Combination Sum
Combination Sum Given a set of candidate numbers (C) and a target number (T), find all unique combin ...
- 【转】kettle 的内存设置及输出日志的时间类型
本文转载自:http://blog.csdn.net/dqswuyundong/archive/2010/10/19/5952004.aspx 设置kettle的内存 REM ************ ...
- hdu 1272 小希的迷宫 解题报告
题目链接:http://acm.hdu.edu.cn/showproblem.php?pid=1272 第二条并查集,和畅通工程的解法类似.判断小希的迷宫不符合条件,即有回路.我的做法是,在合并两个集 ...