最近项目中在用Linq Distinct想要将重复的资料去除时,发现它跟Any之类的方法有点不太一样,不能很直觉的在呼叫时直接带入重复数据判断的处理逻辑,所以当我们要用某个成员属性做重复数据的判断时,就必需绕一下路,这边稍微将处理的方法做个整理并记录一下。
 
首先为了方便接下去说明,我们必须先来准备后面会用到的数据类别,这边一样用笔者最常用来示范的Person类别,内含两个成员属性ID与Name。

01.public struct Person
02.{
03.#region Property
04./// <summary>
05./// Gets or sets the ID.
06./// </summary>
07./// <value>The ID.</value>
08.public string ID { getset; }
09. 
10./// <summary>
11./// Gets or sets the name.
12./// </summary>
13./// <value>The name.</value>
14.public string Name { getset; }
15.#endregion
16. 
17. 
18.#region Public Method
19./// <summary>
20./// Returns a <see cref="System.String"/> that represents this instance.
21./// </summary>
22./// <returns>
23./// A <see cref="System.String"/> that represents this instance.
24./// </returns>
25.public override string ToString()
26.{
27.return Name;
28.}
29.#endregion

接着准备要用来测试的资料,这边准备了十一个Person对象,前十个对象的名称都是Larry,第十一个对象的名称为LastLarry。期望后面可以透过Distinct将重复的Larry过滤掉。
...

1.var datas = new List<Person>();
2.int idx = 0;
3.for (idx = 0; idx < 10; ++idx)
4.{
5.datas.Add(new Person() {ID = idx.ToString(), Name = "Larry" });
6.}
7.datas.Add(new Person() { ID = idx.ToString(), Name = "LastLarry" });
8....

若是我们想直接用内建的Distinct函式来过滤数据。
...

01.var distinctDatas = datas.Distinct();
02.ShowDatas(distinctDatas);
03....
04.private static void ShowDatas<T>(IEnumerable<T> datas)
05.{
06.foreach (var data in datas)
07.{
08.Console.WriteLine(data.ToString());
09.}
10.}

可以看到运行起来并不如我们所预期的,过滤出来的数据跟没过滤一样。

为了解决这个问题,我们必须要做个可依照Person.Name去做比较的Compare类别,该Compare类别必须实做IEqualityCompare.Equals与IEqualityCompare.GetHashCode方法,并在呼叫Distinct过滤时将该Compare对象带入。

01.distinctDatas = datas.Distinct(new PersonCompare());
02.ShowDatas(distinctDatas);
03....
04.class PersonCompare : IEqualityComparer<Person>
05.{
06.#region IEqualityComparer<Person> Members
07. 
08.public bool Equals(Person x, Person y)
09.{
10.return x.Name.Equals(y.Name);
11.}
12. 
13.public int GetHashCode(Person obj)
14.{
15.return obj.Name.GetHashCode();
16.}
17. 
18.#endregion
19.}

运行起来就会是我们所期望的样子。

www.it165.net

但是这样做代表我们每次碰到新的类别就必须要实现对应的Compare类别,用起来十分的不便。因此有人就提出用泛型加上反射的方式做一个共享的Compare类别。

01.public class PropertyComparer<T> : IEqualityComparer<T>
02.{
03.private PropertyInfo _PropertyInfo;
04. 
05./// <summary>
06./// Creates a new instance of PropertyComparer.
07./// </summary>
08./// <param name="propertyName">The name of the property on type T
09./// to perform the comparison on.</param>
10.public PropertyComparer(string propertyName)
11.{
12.//store a reference to the property info object for use during the comparison
13._PropertyInfo = typeof(T).GetProperty(propertyName,
14.BindingFlags.GetProperty | BindingFlags.Instance | BindingFlags.Public);
15.if (_PropertyInfo == null)
16.{
17.throw new ArgumentException(string.Format("{0} is not a property of type {1}.", propertyName, typeof(T)));
18.}
19.}
20. 
21.#region IEqualityComparer<T> Members
22. 
23.public bool Equals(T x, T y)
24.{
25.//get the current value of the comparison property of x and of y
26.object xValue = _PropertyInfo.GetValue(x, null);
27.object yValue = _PropertyInfo.GetValue(y, null);
28. 
29.//if the xValue is null then we consider them equal if and only if yValue is null
30.if (xValue == null)
31.return yValue == null;
32. 
33.//use the default comparer for whatever type the comparison property is.
34.return xValue.Equals(yValue);
35.}
36. 
37.public int GetHashCode(T obj)
38.{
39.//get the value of the comparison property out of obj
40.object propertyValue = _PropertyInfo.GetValue(obj, null);
41. 
42.if (propertyValue == null)
43.return 0;
44. 
45.else
46.return propertyValue.GetHashCode();
47.}
48. 
49.#endregion
50.}

使用时只要带入泛型的型态与成原属性的名称,就可以产生出需要的Compare对象。

1.distinctDatas = datas.Distinct(new PropertyComparer<Person>("Name"));
2.ShowDatas(distinctDatas);

这样的作法是减少了许多额外的负担,但是感觉还是少了一条路,用起来也还是必须要建立Compare对象,而且反射也存在着效能的问题,如果每个元素都透过这个Compare去做判断,感觉处理上也不是很漂亮。所以有人也意识到了这个问题,用扩充方法提供了一条我们比较熟悉的路,可以直接将Lambda带入以决定元素要怎样过滤。

01.public static class EnumerableExtender
02.{
03.public static IEnumerable<TSource> Distinct<TSource, TKey>(this IEnumerable<TSource> source, Func<TSource, TKey> keySelector)
04.{
05.HashSet<TKey> seenKeys = new HashSet<TKey>();
06.foreach (TSource element in source)
07.{
08.var elementValue = keySelector(element);
09.if (seenKeys.Add(elementValue))
10.{
11.yield return element;
12.}
13.}
14.}
15.}

使用上会好写许多。

1.distinctDatas = datas.Distinct(person => person.Name);
2.ShowDatas(distinctDatas);

若是不想加入额外的类别,我们也可以透过Group方式来达到类似的效果。

1.distinctDatas = from data in datas
2.group data by data.Name into g
3.select g.First();
4.ShowDatas(distinctDatas);

Distinct删除重复数据时 自定义的方法比较【转】的更多相关文章

  1. Linq使用Distinct删除重复数据时如何指定所要依据的成员属性zz

    最近项目中在用Linq Distinct想要将重复的资料去除时,发现它跟Any之类的方法有点不太一样,不能很直觉的在呼叫时直接带入重复数据判断的处理逻辑,所以当我们要用某个成员属性做重复数据的判断时, ...

  2. Oracle 删除重复数据的几种方法

    去重 第一种:distinct create table tmp_t3 as select distinct * from t3; drop table t3; alter table tmp_t2 ...

  3. Excel删除重复数据及用公式筛选重复项并标记颜色突出显示

    当表格记录比较多时,常常会有重复数据,而重复记录往往只希望保存一条,因此需要把多余的删除:在 Excel 中,删除重复数据有两种方法,一种是用"删除重复数据"删除,另一种是用&qu ...

  4. orcl数据库查询重复数据及删除重复数据方法

    工作中,发现数据库表中有许多重复的数据,而这个时候老板需要统计表中有多少条数据时(不包含重复数据),只想说一句MMP,库中好几十万数据,肿么办,无奈只能自己在网上找语句,最终成功解救,下面是我一个实验 ...

  5. MySQL中删除重复数据的简单方法,mysql删除重复数据

    MYSQL里有五百万数据,但大多是重复的,真实的就180万,于是想怎样把这些重复的数据搞出来,在网上找了一圈,好多是用NOT IN这样的代码,这样效率很低,自己琢磨组合了一下,找到一个高效的处理方式, ...

  6. oracle中查找和删除重复记录的几种方法总结

    平时工作中可能会遇到当试图对库表中的某一列或几列创建唯一索引时,系统提示 ORA-01452 :不能创建唯一索引,发现重复记录. 下面总结一下几种查找和删除重复记录的方法(以表CZ为例): 表CZ的结 ...

  7. T-SQL技术收集——删除重复数据

    原文:T-SQL技术收集--删除重复数据 在工作和面试中,经常出现如何查询或者删除重复数据的问题,如果有主键,那还好办一点,如果没有主键,那就有点麻烦. 当一个表上没有辅助键时,如果使用SSMS界面来 ...

  8. 【MySQL】测试MySQL表中安全删除重复数据只保留一条的相关方法

    第二篇文章测试说明 开发测试中,难免会存在一些重复行数据,因此常常会造成一些测试异常. 下面简单测试mysql表删除重复数据行的相关操作. 主要通过一下三个大标题来测试说明: 02.尝试删除dept_ ...

  9. 取两个DataTable的交集,删除重复数据

    /// <summary> /// 取两个DataTable的交集,删除重复数据 /// </summary> /// <param name="sourceD ...

随机推荐

  1. C#写Windows Service(windows服务程序)

    背景:        要学习使用一个新东西,我们必须知道他是个什么东西.对于我们此次研究的windows服务来说,他又是个什么东西,其实也没有什么高深的了. windows service概述: 一个 ...

  2. Windows服务定时执行任务

    1.创建多线程类 /// <summary> /// 多线程 /// </summary> public abstract class MuliThread<T> ...

  3. ADB常用的几个命令

    1. 查看设备 adb devices 查看当前连接的设备, 连接到计算机的android设备或者模拟器将会列出显示 2. 安装软件 adb install [-r] [-s] <file> ...

  4. DSP using MATLAB示例Example3.18

    代码: % Analog Signal Dt = 0.00005; t = -0.005:Dt:0.005; xa = exp(-1000*abs(t)); % Continuous-time Fou ...

  5. John the Ripper

    John the RipperJohn the Ripper(简称John)是一款著名的密码破解工具.它主要针对各种Hash加密的密文.它不同于Rainbow Table方式.它采用实时运算的方式和密 ...

  6. kafka storm hbase性能

    kafka  单台机器部署 1个partition storm 单台机器部署 hbase 四台机器集群 机器配置大概是4G cpu 4G内存 从kafka 读出到storm,然后flush到hbase ...

  7. java基础内容

    此文作java语法基础的起始页,负责总结和目录引导 想我开始接触java语法也有比较长时间了(大概是2015年十月份),到现在(2016-10-25)为止还未系统的学习总结基础语法,亡羊补牢吧,回过头 ...

  8. BZOJ4382 : [POI2015]Podział naszyjnika

    对于每种颜色,可以发现可以切的位置被分割成了若干段独立的区域. 给每个区域一个编号,将$m$种颜色的情况当成字符串来看,如果两个切口的字符串完全匹配,那么可以在这里切两刀. 可以构造hash函数,通过 ...

  9. ubifs核心对象 -- TNC和LPT

              文件系统的核心问题是存储.这里面隐含2个问题:1)存储什么?2)存储到哪里?文件系统中的各种技术手段都是如何高效的解决这2个问题.ubifs用node标准化每一个存储对象,用lpr ...

  10. ACM: HDU 3790 最短路径问题-Dijkstra算法

    HDU 3790 最短路径问题 Time Limit:1000MS     Memory Limit:32768KB     64bit IO Format:%I64d & %I64u Des ...