我应将什么指定为 ForEachAsync 扩展方法的 Dop 参数？

Question

我最近发现下面的代码可以有效地运行大量 IO 绑定任务（参见 link）。 http://blogs.msdn.com/b/pfxteam/archive/2012/03/05/10278165.aspx

我的印象是以下内容是真实的：

这比使用 Parallel.ForEach 好得多，因为该作品不受 CPU 约束。
ForEachAsync 将有助于对尽可能多的 IO 任务进行排队（不必将它们放在单独的线程中）。
TPL 将 'know' 这些是基于 IO 的任务，而不是启动更多线程，而是使用 callbacks/task 完成源向主线程发信号，从而节省线程上下文切换的开销。

我的问题是，由于 Parallel.ForEach 本质上有其自己的 MaxDegreeOfParallelism 定义，我如何知道在 IEnumerable 扩展的示例代码中将 dop 参数定义到此处？

例如如果我有 1000 个项目要处理并且需要为每个项目执行基于 IO 的 SQL-Server db 调用，我会指定 1000 作为 dop 吗？使用 Parallel.ForEach 时，它用作限制器，以防止旋转过多的线程，这可能会损害性能。但是这里好像是用来划分最小个异步任务的。我认为至少应该没有最大值（最小值是要处理的项目总数），因为我想对尽可能多的基于 IO 的数据库调用进行排队。

我如何才能知道要查看 DOP 参数的内容？

public static Task ForEachAsync<T>(this IEnumerable<T> source, int dop, Func<T, Task> body) 
{ 
    return Task.WhenAll( 
        from partition in Partitioner.Create(source).GetPartitions(dop) 
        select Task.Run(async delegate { 
            using (partition) 
                while (partition.MoveNext()) 
                    await body(partition.Current); 
        })); 
}

Answer 1

Parallel.ForEach intrinsically has its own MaxDegreeOfParallelism

好的，Parallel.ForEach 内置的启发式算法很容易随着时间的推移产生大量任务（如果您的工作项有 10 毫秒的延迟，您将在一个小时左右后获得数百个任务 - 我测量过).真的很糟糕的设计缺陷，不要试图模仿这个。

当运行并行 IO 时，无法替代根据经验确定正确的值。 这就是 TPL 如此糟糕的原因。例如，执行顺序 IO 的磁盘喜欢 1 的 DOP。执行随机操作的 SSD 基本上喜欢无限大（100？）。

远程网络服务让您无法知道正确的 DOP。您不仅需要测试，还需要请求所有者允许使用可能使服务过载的请求向服务发送垃圾邮件。

would I specify 1000 as the dop?

那么你根本不需要这个工具。只需生成所有任务，然后等待所有任务。但是 1000 可能是错误的 DOP，因为它会无益地淹没数据库。

here it seems to be used to partition up the minimum number of async tasks

Parallel.For 的另一个可怕特征。在低 CPU 机器上它可能产生 little 任务。可怕 API。不要将它与 IO 一起使用。（我使用 AsParallel，它允许您设置精确 DOP，而不是最大 DOP。）

because I want to queue as many IO based calls to the database as possible

这是为什么？不是个好计划。

顺便说一句，你这里的方法很好，我也在用这个。我希望它在框架中。这个确切的方法是每周大约 10 个 SO 问题的答案 ("How can I asynchronously process 100000 items in parallel?")。

我应将什么指定为 ForEachAsync 扩展方法的 Dop 参数？

What do I specify as the Dop parameter for ForEachAsync extension method?

.net

c#

multithreading

task-parallel-library

async-await