本发明公开了一种减少存储器访问延迟方法,该方法应用于内存控制系统,内存控制系统包括多个级别的高速缓存存储器和主存储器,方法包括:配置存储有多个缓存块的历史位置信息和被访问过的缓存块的物理内存地址具有关联关系的位置映射表;根据位置映射表判断是否命中所述缓存块的目标位置信息;若未命中缓存块的目标位置信息,对多个级别的高速缓存存储器和主存储器进行级别预测生成预测结果;根据预测结果直接访问对应的存储器。能够减少多级存储器结构中存储访问加载数据的延迟时间,解决了现有缓存数据预取顺序遍历存储器导致的延迟问题,同时避免了并行查找导致的高硬件开销,对现有内存结构的改动较小。