一种基于Inter-warp异构性的缓存管理与内存调度机制

• 全文链接
• 请求原文

作   者：

方娟;  魏泽琳;  于婷雯; 

作者机构：

北京工业大学信息学部计算机学院; 

关键词：

缓存管理;  内存调度;  线程束;  内存发散; 

期刊名称：

计算机工程与科学

基金项目：

面向共享Cache多核处理器的低功耗关键技术研究

i s s n：

1007-130X

年卷期：

2019 年 41 卷 05 期

页   码：

788-795

摘   要：

在GPU中,一个warp内的所有线程在锁步中执行相同的指令。某些线程的内存请求可以得到快速处理,而其余请求会经历较长时间。在最慢的请求完成之前,warp不能执行下一条指令,导致内存发散。对GPU中warp间的异构性进行了研究,实现并优化了一种基于inter-warp异构性的缓存管理机制和内存调度策略,以减少内存发散和缓存排队延迟的负面影响。根据缓存命中率将warp分类,以驱动后面的3个组件:(1)基于warp类型的缓存旁路技术组件,使低缓存利用率的warp进入旁路,不访问L2缓存;(2)基于warp类型的缓存插入/提升策略组件,防止来自高缓存利用率warp的数据被过早清除;(3)基于warp类型的内存控制器组件,优先处理从高缓存利用率的warp接收到的请求,并优先处理来自相同warp的请求。基于warp间异构性的缓存管理和内存调度机制在8种不同的GPGPU应用中,与基准GPU相比,平均加速18.0%。