C# 多线程八之并行Linq(ParallelEnumerable)

时间:2023-02-22 07:35:32

1、简介

关于并行Linq,Ms官方叫做并行语言集成(PLINQ)查询,其实本质就是Linq的多线程版本,常规的Linq是单线程的,也就是同步的过程处理完所有的查询.如果你的Linq查询足够简单,而且耗时短,那么建议你使用Linq,但是如果你的查询比较耗时,而且很复杂,且不涉及多线程争用问题,那么可以使用PLinq技术,让多个线程参与到查询中来,有效的利用CPU资源.这样你的代码能从中获得最大的收益.判断什么时候使用PLINQ,什么时候使用Linq?这需要你自己去实践,因为不同的环境,产生的效果不一样,因为我前面的随笔中介绍了,多线程(Task,因为Parallel是基于Task的)本身的开销,CPU的上下文切换,都是影响的因素.可能你使用PLINQ执行一个复杂的查询,本地的运行速度很快,但是放到服务器上去反而变慢了.所以使用还是需要慎重.

2、代码结构简介

(1)、基本Api介绍

那么如何使用PLINQ呢?所有的PLINQ的Api都在System.Linq.ParallelEnumerable类下面,Api几乎和Linq一样,因为内容太多,这里就不截图了.MS几乎将常规的LINQ所有的Api都实现了一个并行版本.所有的方法都是ParallelQuery<TSource>类型的扩展,如下:

C# 多线程八之并行Linq(ParallelEnumerable)

所有如果你有一个常规集合需要进行并行查询,那么你需要将该集合转换成ParallelQuery<TSource>类型,MS提供了转换方法,如下:

C# 多线程八之并行Linq(ParallelEnumerable)

主要是红框中的两个,一个泛型版本,一个非泛型版本,本文主要介绍这两个,其余的稍微介绍下.

:C# 多线程八之并行Linq(ParallelEnumerable)调用这个方法,它将执行并行查询切换为同步查询,但是不常用.

C# 多线程八之并行Linq(ParallelEnumerable)调用这个方法,线程将成组处理数据,然后将数据项合并回去,同时保持顺序,会产生一定的性能损耗.

注:如果你调用的不是对数据源进行排序的方法,那么它们的并行处理结果是无序的,每次都会变,但是如果你希望有序之后变无序,可以调用C# 多线程八之并行Linq(ParallelEnumerable)但是没有人会这么干!

(2)、构造可取消的PLINQ查询

C# 多线程八之并行Linq(ParallelEnumerable)

接受一个CancellationToken参数,支持显示取消.

(3)、构造线程数限制的PLINQ查询

C# 多线程八之并行Linq(ParallelEnumerable)

接受一个最大的可分配线程数参数,一般小于内核数.

(4)、构造一个强制以并行方式执行的PLINQ查询

因为并不并行,是PLINQ内部机制决定的,所以可能你的查询过于简单,它会以并行的方式处理,所以如果你需要强制它以并行方式执行可以调用

C# 多线程八之并行Linq(ParallelEnumerable)

并给后面的枚举设置

C# 多线程八之并行Linq(ParallelEnumerable)

(5)、指定多个线程处理完数据源后已何种方式合并处理完的数据项

C# 多线程八之并行Linq(ParallelEnumerable)

C# 多线程八之并行Linq(ParallelEnumerable)

指定不同的枚举项,会对性能产生影响。建议你每个都是试一试,就知道哪个更适合你的接口.一般默认的就够了.因为PLINQ调度内核的方式很复杂,所以这里不多介绍.

3、实战

将一个模块程序集中的所有查询接口和查询实体放到一个实例中,并返回.

User模块的代码结构如下:

C# 多线程八之并行Linq(ParallelEnumerable)

    class ParallelLinqStudy
{
static void Main(string[] args)
{ var modules=Register("User");
Console.ReadKey();
}
static object lockObjOne = new object();
static object lockObjTwo = new object();
static ModultInfo Register(params string[] assembies)
{
var moduleInfo = new ModultInfo();
assembies.ForEach(assembly =>
{
var ass=Assembly.Load(assembly);
var allTypes = ass.GetTypes().AsParallel();
//遍历传入程序集,将所有实现了IQuery接口的接口类型,并将其在控制台上输出
allTypes.Where(w => w.ImplInterfance<IQuery>()).Where(w => w.IsInterface && w.Name!= "IQuery").ForEach(f =>
{
lock (lockObjOne)
{
moduleInfo.IQueries.Add(f);
}
allTypes.Where(w => f.IsAssignableFrom(w) && !w.IsInterface).ForEach(type =>
{
lock (lockObjTwo)
{
moduleInfo.Queries.Add(type);
}
});
});
});
return moduleInfo;
}
} class ModultInfo
{
public List<Type> IQueries { get; set; } = new List<Type>(); public List<Type> Queries { get; set; } = new List<Type>();
} /// <summary>
/// Type扩展
/// </summary>
static class TypeExtension
{
/// <summary>
/// 判断传入类型type是否实现了Interface接口
/// </summary>
/// <typeparam name="Interface"></typeparam>
/// <param name="type"></param>
/// <returns></returns>
public static bool ImplInterfance<Interface>(this Type type)
{
//接口实例是可以分配给实现类型的,而实例是不可以分配给接口实例的
return typeof(Interface).IsAssignableFrom(type);
}
} /// <summary>
/// Linq扩展
/// </summary>
static class LinqExtension
{
public static void ForEach<T>(this IEnumerable<T> enumerators, Action<T> action)
{
foreach (var item in enumerators)
{
action(item);
}
}
}

C# 多线程八之并行Linq(ParallelEnumerable)

上面的代码给List加了锁,因为它是线程不安全的,具体请参考我的这篇随笔

ok,现在拿到了所有的Query接口和Query实体,如果后续需要对这两个集合进行后续的只读操作,可以使用Parallel(参考我前面的随笔)进行并行的只读操作,如果操作很耗时,或者很复杂.也可以将集合转换为ParallelQuery<TSource>类型,并使用

C# 多线程八之并行Linq(ParallelEnumerable)

方法进行后续的并行操作.代码如下:

        static void Main(string[] args)
{
var modules = Register("User");
modules.IQueries.AsParallel().ForAll(iQuery =>
{
//执行一个不带返回值的操作
});
Console.ReadKey();
}

C# 多线程八之并行Linq(ParallelEnumerable)的更多相关文章

  1. C&num;5&period;0之后推荐使用TPL&lpar;Task Parallel Libray 任务并行库&rpar; 和PLINQ&lpar;Parallel LINQ&comma; 并行Linq&rpar;&period; 其次是TAP&lpar;Task-based Asynchronous Pattern&comma; 基于任务的异步模式&rpar;

    学习书籍: <C#本质论> 1--C#5.0之后推荐使用TPL(Task Parallel Libray 任务并行库) 和PLINQ(Parallel LINQ, 并行Linq). 其次是 ...

  2. C&num;编程(六十三)----------并行LINQ

    并行LINQ .NET4在System.Linq命名空间中包含一个新类ParallelEnumerable,可以分解查询的工作使其分布在多个线程上.尽管Enumerable类给IEnumerable& ...

  3. 四、并行编程 - 并行LINQ(PLINQ) 的使用。AsParallel

    用于对内存中的数据做并行运算,也就是说其只支持 LINQ to Object 的并行运算 一.AsParallel(并行化) 就是在集合后加个AsParallel(). 例如: , ); == ); ...

  4. 并行Linq&lpar;一&rpar;

    .Net 并行计算 ----并行Linq(一) 本文是.Net 并行计算 的第三篇 欢迎大家拍砖,阅读本文需要有LINQ基础,因为并行LINQ (PLinq) 其实是LINQ To Object 的并 ...

  5. 并行Linq

    有时候我们对大批量数据进行处理,此时并行linq就起作用了. 并行查询 对于以下查询可以耗时会非常大,如下: ; var r = new Random(); , arraySize).Select(x ...

  6. C&num;编程(五十八)----------并行集合

    并行集合 对于并行任务,与其相关紧密的就是对一些共享资源,数据结构的并行访问.经常要做的就是对一些队列进行加锁-解锁,然后执行类似插入,删除等等互斥操作. .NET4提供了一些封装好的支持并行操作数据 ...

  7. java网络编程——多线程数据收发并行

    基本介绍与思路 收发并行 前一篇博客中,完成了客户端与服务端的简单TCP交互,但这种交互是触发式的:客户端发送一条消息,服务端收到后再回送一条.没有做到收发并行.收发并行的字面意思很容易理解,即数据的 ...

  8. 谈谈C&num;多线程开发:并行、并发与异步编程

    阅读导航 一.使用Task 二.并行编程 三.线程同步 四.异步编程模型 五.多线程数据安全 六.异常处理 概述 现代程序开发过程中不可避免会使用到多线程相关的技术,之所以要使用多线程,主要原因或目的 ...

  9. Java多线程——&lt&semi;八&gt&semi;多线程其他概念

    一.概述 到第八节,就把多线程基本的概念都说完了.把前面的所有文章加连接在此: Java多线程——<一>概述.定义任务 Java多线程——<二>将任务交给线程,线程声明及启动 ...

随机推荐

  1. 转(Response&period;WriteFile 无法下载大文件解决方法)

    以前用Response.WriteFile(filename),但当遇到大文件时无法完整下载. 该方法最大的问题,它不是直接将数据抛到客户端,而是在服务器端(IIS)上缓存.当下载文件比较大时,服务器 ...

  2. NGUI的原理机制:深入剖析UIPanel&comma;UIWidget&comma;UIDrawCall底层原理

    这是我去搜狐畅游面试时,面试官问的一个问题.问NGUI的机制原理是什么?就是这个插件是根据什么写出来的.当时没答上来,下面是我从转载过来的,可以研究研究. 之前项目中用的NGUI的版本是3.0.7 f ...

  3. IOS开发的内存管理

    关于IOS开发的内存管理的文章已经很多了,因此系统的知识点就不写了,这里我写点平时工作遇到的疑问以及解答做个总结吧,相信也会有人遇到相同的疑问呢,欢迎学习IOS的朋友请加ios技术交流群:190956 ...

  4. KMP算法学习&lpar;详解&rpar;

    kmp算法又称“看毛片”算法,是一个效率非常高的字符串匹配算法.不过由于其难以理解,所以在很长的一段时间内一直没有搞懂.虽然网上有很多资料,但是鲜见好的博客能简单明了地将其讲清楚.在此,综合网上比较好 ...

  5. 如何删除chrome地址栏里面曾经输错的地址

    在chrome浏览器的地址栏输入你想删除的网址的部分字幕,比如,在地址栏输入form,然后用键盘上的方向键定位到你想删除的那个错误的地址,如下图所示   然后在键盘上按 shift+del 组合键将其 ...

  6. Spring项目定时任务

    最近某协会网站有个需求:显示当天访问量,很明显需要做俩步:一个是访问请求量的显示,一个需要每天00点恢复访问次数为0 所以需要做个定时任务:每天00点更新: 注解用法Spring配置: 1.在spri ...

  7. Java EE Expression Language

    什么是EL? 形如这样(立即执行的): ${sessionScope.cart.total} 或者这样(延迟执行的): #{customer.name} 的表达式语言(Expression Langu ...

  8. req和resp常用的方法

    req:  1. setAttribute()在Request域中存储数据 2. setCharacterEncoding()设置请求参数的编码方式,只对post请求有效 3. getMethod() ...

  9. npm包实现发布正式和测试版

    npm publish的時候 怎麽發測試版和正式版本呢? 通常我們一般情況下 直接 npm publish 提交自己的開發包后,在項目中 npm install @packageName 是下載下來剛 ...

  10. SpringBoot使用HttpClient远程调用

    一. Get请求 try { //拼接url url = url+"access_token="+token+"&department_id=1&fetc ...