batching_strategy
2017-02-26 00:56:41 0 举报
Batching Strategy是一种数据处理策略,它的主要目的是将多个小任务合并为一个或几个大任务进行处理。这种策略通常在处理大量数据时使用,以减少任务的执行时间并提高系统的效率。例如,如果一个系统需要处理100个独立的小任务,每个任务都需要1秒钟的时间,那么不使用批量处理策略,系统总共需要100秒的时间。但是,如果使用批量处理策略,将这些小任务合并为一个大任务,那么系统可能只需要10秒的时间就可以完成所有的处理。这种策略可以有效地减少系统的CPU和内存使用,提高系统的响应速度。
作者其他创作
大纲/内容
BatchClient
model version 2
...
model version 1
Thread 2
Thread1
Batch SchedulerThread Pool
Muti-version dnn batch ranking
Batch Queue N
Thread 3
model version N
Batch Queue Array
Thread 4
Batch Queue 2
Batch Queue 1
Thread M
0 条评论
下一页