Skip to content

How to make undergraduates or new graduates ready for advanced computer architecture research or modern CPU design

Notifications You must be signed in to change notification settings

Lemover/micro-arch-training

 
 

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

28 Commits
 
 

Repository files navigation

micro-arch-training

How to make undergraduates or new graduates ready for advanced computer architecture research or modern CPU design. 本项目的目的是让本科生或新入学的研究生迅速地可以参加体系结构研究或参与高性能处理器开发。

Off-topic

尽管我们主要在讨论计算机体系结构,但是我们强烈推荐大家扎实地学习好其他基础课程,例如计算机系统基础、操作系统、编译原理。 这些课程对理解微体系结构设计、帮助完成体系结构相关实验有非常大的帮助。 例如CPU中的寄存器重命名和编译器的寄存器分配其实互为“逆过程”,编译原理可以为你学习乱序执行提供一种全新的视角。 再例如,操作系统的中断返回和启动相关代码也可以用来制作体系结构研究用的Checkpoint。

Introduction to Computer System

这部分的课程学习建议读CSAPP那本书,实验推荐做NEMU Programming Assignment。 这个实验让写一个可以启动简单操作系统、运行仙剑奇侠传的模拟器。

Operating System

很幸运,我们找到了质量比较高的录制好的中文操作系统课程南京大学 “操作系统:设计与实现” (蒋炎岩)。 课程实验,我们推荐做MIT 6.828的实验,这个实验让写一个Non-trivial的操作系统。

Compiler

我们暂时没有找到合适的中文公开课,所以推荐Stanford CS 143 我们也推荐做CS 143的实验课Cool Compiler,因为实验材料需要从内网下载,所以我们只好在Github搜一个来做。 这个实验让写一个语法较为Fancy的编译器,然后生成汇编代码,可选做一些优化。

最后,因为如果有高质量的中文公开课或者更好的实验素材,欢迎大家可以发PR给我们推荐一下。我们希望以上的每门课都有一门高质量的中文公开课+一门高质量的英文公开课+高质量的实验课。

Computer Architecture

现在我们回到正题——计算机体系结构。根据我们的了解,目前很多(高级)体系结构课都不够深入,无法保证学生在完成课程之后就能进行相关研究。 本项目希望弥补这一空缺,培养面向体系结构研究或者高性能处理器开发的能力,包括理论知识和实践能力。

首先,我们继续推荐公开课:Onur Mutlu的体系结构课 或者David Wentzlaff的体系结构课。 这类课程都适合本科生入门看,但是距离做研究还有一段距离。

同时我们还看到有Onur Mutlu的高级体系结构课这样的面向研究生的体系结构课程。 这类课程非常有深度,但是有时候和授课老师的研究方向强相关,比如Mutlu现在主要做Memory,所以这门课主要在讲Memory。

强烈推荐 UWisc CS752!

我们发现UWisc的CS752在各个方面较为均衡, 因此我们推荐CS752为骨架来自学体系结构,读CS752的slides和阅读材料。

Slides

WIP...

Papers

乱序执行

MIPS R10000

SMT

Complexity-effective superscalar processors

性能测量与分析

SimPoint ASPLOS-2002

SMARTS

Per-Thread Cycle Accounting in SMT Processors

分支预测

PPM for branch prediction

TAGE

Processor Micorarchitectures

Introduction to the Cell multiprocessor

Design of Transport Triggered Architectures

PIPE: A VLSI Decoupled Architecture

Multiscalar Processors(链接失效)

Implementing Precise Interrupts in Pipelined Processors

The CRAY-1 computer system

Rigel: an architecture and scalable programming interface for a 1000-core accelerator

Out-of-Order and Superscalar

An Efficient Algorithm for Exploiting Multiple Arithmetic Units

Dataflow machine architecture

The Manchester Prototype Dataflow Computer

Design of transport triggered architectures

HPS, a new microarchitecture: rationale and introduction

Critical issues regarding HPS, a high performance microarchitecture

Decoupled Access/Execute Computer

Complexity-Effective Superscalar Processors

On Pipelining Dynamic Instruction Scheduling Logic

Limits on multiple instruction issue

Spills fills and kills. An Architecture for Reducing Register-Memory Traffic.

A preliminary architecture for a basic data-flow processor

Executing a program on the MIT tagged-token dataflow architecture

Simultaneous Multithreading

Architecture and applications of the HEP multiprocessor computer system

DISC: Dynamic Instruction Stream Computer

DISC: dynamic instruction stream computer-an evaluation of performance

An Elementary Processor Architecture with Simultaneous Instruction Issuing from Multiple Threads

Simultaneous Multithreading: Maximizing On-Chip Parallelism

Future Trends

Dark Silicon and the End of Multicore Scaling(链接失效)

Soft Errors in Advanced Computer Systems

Requirements, Bottlenecks, and Good Fortune: Agents for Microprocessor Evolution

There’s plenty of room at the Top: What will drive computer performance after Moore’s law?

Superblocks and Hyperblocks

Effective compiler support for predicated execution using the hyperblock

IMPACT: an architectural framework for multiple-instruction-issue processors

Achieving Out-of-Order Performance with Almost In-Order Complexity

Trace Cache

Performance benefits of large execution atomic units in dynamically scheduled machines

Dynamic flow instruction cache memory organized around trace segments independent of virtual address line

Alternative Fetch and Issue Policies for the Trace Cache Fetch Mechanism

Improving trace cache effectiveness with branch promotion and trace packing

Trace Cache: a Low Latency Approach to High Bandwidth Instruction Fetching

Trace processors

The block-based trace cache

Putting the fill unit to work

Cache Management Techniques

On the inclusion properties for multi-level cache hierarchies

The V-Way Cache : Demand-Based Associativity via Global Replacement

A Case for MLP-Aware Cache Replacement

Adaptive Insertion Policies for High Performance Caching

Base-Delta-Immediate Compression: Practical Data Compression for On-Chip Caches

Improving direct-mapped cache performance by the addition of a small fully-associative cache and prefetch buffers

Line Distillation: Increasing Cache Capacity by Filtering Unused Words in Cache Lines.

Exploiting Compressed Block Size as an Indicator of Future Reuse.

Data prefetching

Techniques for Bandwidth-Efficient Prefetching of Linked Data Structures in Hybrid Prefetching Systems

Coordinated control of multiple prefetchers in multi-core systems

Runahead Execution

Improving data cache performance by pre-executing instructions under a cache miss

Runahead Execution: An Alternative to Very Large Instruction Windows for Out-of-order Processors

Techniques for Efficient Processing in Runahead Execution Engines

Branch Prediction

A Study of Branch Prediction Strategies

Two-Level Adaptive Training Branch Prediction

Alternative implementations of two-level adaptive branch prediction

Improving the accuracy of dynamic branch prediction using branch correlation

Combining Branch Predictors

Dynamic path-based branch correlation

The Agree Predictor: A Mechanism For Reducing Negative Branch History Interference

Dynamic Branch Prediction with Perceptrons.

Analysis of the OGEHL predictor

Wrong Path Events: Exploiting Unusual and Illegal Program Behavior for Early Misprediction Detection and Recovery

Analysis of branch prediction via data compression

An analysis of correlation and predictability: what makes two-level branch predictors work

Predication

Conversion of control dependence to data dependence

Wish Branches: Combining Conditional Branching and Predication for Adaptive Predicated Execution

Block-Structured ISA

Exploiting Fine-grained Parallelism Through a Combination of Hardware and Software Techniques

Facilitating superscalar processing via a combined static/dynamic register renaming scheme

Increasing the Instruction Fetch Rate via Block-Structured Instruction Set Architectures

Scaling to the End of Silicon with EDGE Architectures

Measurements

SPAM: A Microcode Based Tool for Tracing Operating System Events

Consistency Models

How to Make a Multiprocessor Computer That Correctly Executes Multiprocess Programs

Tagless Caches

TLC: A tag-less cache for reducing dynamic first level cache energy

Data placement across the cache hierarchy: Minimizing data movement with reuse-aware placement

A split cache hierarchy for enabling data-oriented optimizations.

RISC

The case for the reduced instruction set computer

Other Topics

The residue number system

A SIGNED BINARY MULTIPLICATION TECHNIQUE

A hardware implementation of capability-based addressing

Books

Computer Structures: Principles and Examples

Architecture of Pipelined Computers

The Pentium Chronicles: The People, Passion, and Politics Behind Intel's Landmark Chips

The Soul of A New Machine

Patents

U.S. Patent 5,781,752

Basics

Entrance-level knowledge on computer science

作为一个做计算机系统或者体系结构的人,有一些入门级的知识需要补充, 最起码我们应该比百度贴吧里的中学生更了解计算机。

Context switch

记住一件事:不要在N核服务器上运行大于N个长时间任务。如果不知道为什么,建议重修操作系统。

SMT Contention

大部分AMD和Intel的服务器是启用了SMT功能的,这会导致它看上去有256核,实际上只有128个物理核。 共享同一个物理核心的物理线程(HART)之间会相互干扰对方的性能,这个干扰可能非常大,甚至可能超过50%。 所以,我的建议是

  • 当有更多服务器可以用的时候,不要把HART挤在同一个物理核上,让服务器CPU只占用50%最好
  • 当非要用SMT功能的时候
    • 确保自己更需要吞吐率而不是time to return,尤其是跑实验的时候
    • 确保自己做过Profiling,知道性能干扰小于50%

关于SMT,应该读上面提到过的 SMT入门论文。 如果对SMT的性能干扰感兴趣,我厚着脸皮推荐我们的论文QoSMT

NUMA

NUMA 的问题讨论很多了,看wiki吧。

NUCA

NUCA是一个比NUMA更罕见的概念,但是我们作为研究体系结构的人,也应该搞清楚。 为什么会有NUCA? An adaptive, non-uniform cache structure for wire-delay dominated on-chip cachesNon-uniform cache structure

NUCA和我有什么关系,他真的商用了吗? 看一看AnandTech这篇文章 Emmm,又是别人搞测评的都知道的东西,研究体系结构也该弄清楚吧。

对于NUCA,我的建议是:

  • 如果使用AMD服务器,并且有数据交换较多的多线程任务,让他们位于同一个CCX
  • 怎么让他们位于同一个CCX呢?
    • numactl可以控制任务所处的CPU
    • Linux上序号相邻的4/8/16个核经常位于同一个CCX,具体看型号。你也可以直接做profiling。

Basic security

关于密钥

  • 建议用私钥访问服务器和Git
  • 你放在服务器上的私钥是有风险的,建议把在服务器上的私钥用密码保护起来
  • 原则上,所有服务器都应该禁止用密码登录

Version control

版本控制的基本要求是学习以下命令的使用:

git add -p
git commit
git commit --amend
git checkout an-existing-branch
git checkout -b a-new-branch
git checkout path/to/a/file

git format-patch
git apply
git apply --check
git am

git rebase -i

git rm
git rm --cached

git fetch

git push

git merge a-branch

如果要参与复杂的开源项目开发,你或许还需要掌握这些命令:

git reset -p
git add -p
git checkout -p

git rebase a-branch
git rebase a-commit
git rebase --onto new-base-commit old-base-commit newest-modified-commit
git cherry-pick

git commit --fixup

可以参考(一位同学写的GIT学习笔记)[https://zhuanlan.zhihu.com/p/526826127]

记住:

  • 不要用git add .,最好用git add -p
  • 99%的情况,不要track log文件
  • 99%的情况,不要track binary文件

Simulator - GEM5

这里是上手用GEM5的入门训练

Build GEM5

这部分请看官方文档,就不展开了。

Configure GEM5

题目: 配置GEM5的Cache如下: 16 kB L1 I-Cache + 16 kB L1 D-Cache + 256kB L2 Cache + 2M L3 Cache; L2 and L3 Mostly exclusive; L1 and L2 Writeback clean, 并对比Mostly-exclusive配置下,Writeback clean开与关的性能差别。 关于workload,SPECCPU里的bzip2和bwaves都适合作为测试用例。 或许读者不知道什么是Mostly exclusiveWriteback clean,需要主动去搜索学习或者阅读代码。

Compile a broken GEM5

目的:学习C++的模板和SFINAE

题目:尝试使这个无法构建的GEM5项目通过编译和链接:gem5-quiz

  • 需要额外安装boost库,因为我们这个用到了boost
  • 构建过程最终会在链接的时候报错,需要找到出错原因并修复

GEM5 statistics

学习GEM5的数据统计方法。了解 statistics::Scalar, statistics::Vector, statistics::Formula, statistics::Distribution的用法, 具体可以用grep读一读代码。 然后增加一些性能计数器,

题目: 用statistics::Vector统计每个周期发射(issue)的load指令的条数分布,例如

0条:500周期
1条:111周期
2条:50周期
...

最后,再用statistics::Distribution统计每个周期发射(issue)的load指令的条数分布。

Event-driven programming

子题目1: 在GEM5退出时,Dump cache中所有的line的地址和内容, 参考Event-driven programming, 但是退出的event callback和这里展示的例子不完全一样,需要自己去阅读相关代码。

子题目2:在退出时Dump cache中所有的line的地址和内容,按照Least Important的顺序导出。例如,当使用LRU替换算法时,用LRU序导出; 当使用RRIP算法是,先导出RRI较大的,后导出RRI较小的。 希望可以找到一种不需要触及替换算法本身的dump方法。

Add new configurable parameter

参考资料:学习GEM5如何增加参数

题目:给se.py或者fs.py 增加一个参数--dump-cache,当带上这个参数的时候,退出时按照Event-driven programming中的要求dump cache;否则不进行dump。

GEM5 debug flags

目的:学习GEM5的printf调试系统,以及加强对参数系统的理解。

参考资料:Debugging gem5

题目1:给GEM5增加一个debug flag:CacheMiss,当发生cache miss的时候,打印出cache miss的地址。

题目2:给GEM5增加一个参数:--observe-cache-miss,他的可选值为:['L1d', 'L1i', 'L2', 'L3'], 当带上这个参数的时候且开启了CacheMiss debug flag ,在发生cache miss时打印出--observe-cache-miss所指定的那一块cache发生miss的地址。 (注意,题目1是打印所有,题目2是只打印选定的cache) 针对题目2,至少需要阅读:src/mem/cache/Cache.pyconfigs/common/Caches.py

Out-of-order core

这部分的目的是,学习GEM5如何实现乱序执行。

题目1: 统计指令之间的寄存器依赖:统计有依赖的两条指令之间的“距离”分布,“距离”是指两条指令的seqNum之差。 其中,“有依赖”是指两条指令之间有寄存器依赖,“依赖距离”是指两个有依赖的指令的seqNum。 这些指令不一定是最终提交的指令,在分支预测错误的路径上也没关系。 将分布统计为如下形式:

distance < 10: xxx
10 <= distance < 20: xxx
20 <= distance < 40: xxx
40 <= distance < 80: xxx
distance > 80: xxx

提示:阅读O3 CPU的InstQueuedependGraph这两个类,并修改其中的数据结构和函数进行统计。

Batch running

Tool Task: 利用BatchTaskTemplate批量运行GEM5。 具体地,拷贝一份gem5tasks/restore_gcpt.py,仔细阅读注释,修改里面的配置,把GEM5批量跑起来。

Collecting statistics

Collecting batch-running statistics

WIP...

Simulator - NEMU

Take Checkpoints (Generic RISC-V Checkpoints)

WIP...

Simulator - QEMU

暂时鸽着

Verilator-Xiangshan

暂时鸽着

Workloads

这里是制作研究用的Workload的入门训练

Coremark

编译一个RISC-V指令集的Coremark

编译基于newlib的Coremark

Debug Training Task:

使用Boom提供Coremark编译脚本编译Coremark,你可能需要自己安装RISC-V gnu toolchian

并用GEM5运行: ./build/RISCV/gem5.opt ./configs/example/se.py -c /path/to/coremark.riscv 可能会发现Coremark没有输出,出了什么问题? 学习者需要自己找到答案,记录猜测、验证猜测的过程,这个过程非常重要。 可能用到的工具:

使用AM裸机环境编译裸机Coremark,参考 AM tutorial

Checkpoints (Generic RISC-V Checkpoints)

SPECCPU 2006

Real applications!

WIP...

About

How to make undergraduates or new graduates ready for advanced computer architecture research or modern CPU design

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published