从指令译码到处理器执行前面几篇已经从软件视角走到了机器指令:高级语言经过编译器生成目标ISA指令,汇编器将指令编码成机器码,操作系统加载程序后,CPU便可以开始执行。但我们仍然没有回答一个重要问题:CPU拿到一条机器指令之后,内部究竟发生了什么?例如:ASM复制add rax, rbx从ISA角度看,这条指令的语义很简单:将rax和rbx中的值相加,并把结果写入rax。但现代CPU内部并不是一个简单的“取出指令、执行加法、写回结果”的串行机器。为了提高性能,它可能同时处理多条指令,将复杂指令拆成内部微操作,并允许彼此独立的操作乱序执行。这些内部设计属于微架构(Microarchitecture)。一、ISA规定结果,微架构决定过程先明确两个概念:ISA规定软件能够观察到的机器级行为。微架构规定处理器内部如何实现这些行为。只要最终架构状态符合ISA要求,处理器就可以采用不同的内部实现。CodeBlock Loading...例如,同一条add指令,在不同处理器上可能具有不同的延迟、吞吐量和资源占用,但只要结果符合ISA规定,软件就可以正常运行。这就是为什么同样支持x86-64的两款CPU,性能仍然可能有很大差异。二、现代CPU的基本执行路径为了理解现代处理器,可以先建立一个简化模型:CodeBlock Loading...这不是所有CPU都完全相同的内部结构,但它能帮助我们理解现代高性能处理器的主要阶段。2.1 取指:从指令地址获取字节CPU需要知道下一段要执行的指令位于哪里。在x86-64中,架构可见的指令指针是rip。处理器根据当前控制流预测或确定下一条指令地址,从指令缓存(Instruction Cache,I-Cache)等前端结构中获取指令字节。由于x86-64指令是变长的,取指单元往往会一次获取一段连续字节,而不是天然知道每条指令的边界。因此,后续译码阶段还需要识别指令长度和边界。2.2 译码:理解指令的含义译码单元将机器码解释成处理器内部能够执行的操作。例如:ASM复制add rax, rbx译码器需要识别:这是整数加法。源操作数是rbx。目标操作数是rax。结果需要写回目标寄存器。相关条件标志需要按照ISA语义更新。在部分x86处理器中,一条复杂指令可能被拆分为多个微操作(Micro-ops,常写作µops)。微操作是处理器内部使用的执行表示,不是软件能够直接执行的ISA指令。2.3 微操作:连接ISA与内部执行资源可以把微操作理解为CPU内部更适合执行单元处理的工作单元。一条ISA指令可能对应:一个微操作。多个微操作。在特定处理器上由专门的内部机制完成。不同微架构对同一条指令的拆分方式可能不同。例如,一条涉及内存读取和算术运算的指令,内部可能需要完成地址生成、加载数据和算术运算等多个步骤。因此,不能简单地认为“一条机器指令等于一个CPU内部操作”。三、寄存器重命名:解决伪数据依赖现代CPU为了提高指令并行度,通常会采用寄存器重命名(Register Renaming)。为什么需要它?看下面的指令序列:ASM复制mov rax, 1 add rax, 2 mov rbx, rax add rax, 3从程序语义上看,后面的指令依赖前面产生的结果。但如果两条指令只是恰好使用了同一个架构寄存器,并不一定存在真正的数据依赖。3.1 架构寄存器与物理寄存器ISA向软件暴露的是架构寄存器,例如rax、rbx。但处理器内部可能拥有更多物理寄存器。寄存器重命名会把架构寄存器映射到内部物理寄存器:TEXT复制架构寄存器 RAX -> 物理寄存器 P17 架构寄存器 RBX -> 物理寄存器 P08当一条指令产生新的寄存器结果时,处理器可以分配一个新的物理寄存器,而不是直接覆盖原来的物理寄存器。例如:ASM复制mov rax, 1 add rax, 2 add rax, 3内部可能形成类似这样的映射:TEXT复制第一条指令:RAX -> P1,写入1 第二条指令:读取P1,计算后写入P2 第三条指令:读取P2,计算后写入P3这样,处理器就能区分不同时间点的rax值。3.2 RAW、WAR和WAW依赖指令之间常见的数据依赖可以分为三类:类型名称含义RAWRead After Write后一条指令读取前一条指令写入的值,是真实数据依赖WARWrite After Read后一条指令写入某位置,但前一条指令还需要读取旧值WAWWrite After Write多条指令写入同一个位置,需要保持最终写入顺序寄存器重命名可以消除许多WAR和WAW造成的名称依赖,但不能消除RAW真实数据依赖。例如:ASM复制add rax, rbx add rcx, rax第二条指令必须等待第一条指令产生新的rax值。这种依赖来自程序语义,不是寄存器命名造成的。四、乱序执行:让不相关的指令先运行如果CPU严格按照程序顺序执行,每条指令都必须等待前一条指令完成,很多执行资源就可能闲置。乱序执行(Out-of-Order Execution,OoO)允许处理器在不违反程序可观察语义的前提下,先执行已经准备好的指令。例如:ASM复制mov rax, [rdi] add rbx, rcx imul rdx, rsi add rax, rbx假设第一条指令需要等待内存数据,而第二、第三条指令的操作数已经准备好。处理器可能先执行第二、第三条指令,不必让所有执行资源都等待第一条加载完成。CodeBlock Loading...这里有一个关键约束:执行可以乱序,但架构状态通常需要按照程序规定的顺序提交。否则,程序可能观察到不符合原始指令顺序的状态。4.1 重排序缓冲区ROB现代乱序处理器通常使用重排序缓冲区(Reorder Buffer,ROB)等结构,跟踪尚未提交的指令或微操作。指令按照程序顺序进入ROB,执行完成的结果可以先暂存在内部结构中。只有当最前面的指令满足提交条件时,处理器才按顺序提交结果。例如:TEXT复制程序顺序:A -> B -> C -> D 执行顺序:A -> C -> D -> B 提交顺序:A -> B -> C -> D即使C和D先执行完成,也不能越过尚未完成的B提交架构状态。这种机制帮助处理器在提高执行并行度的同时,维持程序所要求的顺序语义。五、流水线:让多个阶段重叠工作流水线(Pipeline)是一种将指令处理过程拆分成多个阶段,并让不同指令同时处于不同阶段的技术。可以用一个简化例子理解。假设一条指令需要经历取指、译码、执行和写回四个阶段。如果每条指令都必须完整执行完毕后下一条才能开始,那么硬件资源利用率会比较低。流水线则允许:CodeBlock Loading...CodeBlock Loading...流水线的目标不是让单条指令的每个阶段都变快,而是提高单位时间内完成的指令数量,也就是吞吐量。流水线也会遇到停顿、数据依赖和控制流变化等问题。六、分支预测:提前猜测下一条指令程序中存在大量条件判断:CodeBlock Loading...CPU执行到条件跳转时,需要知道下一步应该执行哪条指令。但条件依赖的数据可能尚未计算完成。如果每次都等待条件结果出来后再取指,流水线就可能频繁停顿。因此,现代CPU会使用分支预测(Branch Prediction),提前预测分支走向。6.1 预测为什么有价值假设CPU预测条件成立,就会提前沿着成立路径取指、译码,甚至执行后续指令。如果预测正确,这些工作可以直接转化为有效进展。如果预测错误,处理器需要丢弃错误路径上尚未提交的工作,并从正确路径重新开始。CodeBlock Loading...6.2 投机执行沿预测路径提前执行指令,称为投机执行(Speculative Execution)。投机执行可以提高性能,但必须保证错误路径上的结果不会以不符合架构语义的方式提交。需要注意,虽然架构状态会被回滚或丢弃,投机执行可能已经影响缓存等微架构状态。这类差异也成为部分侧信道安全问题的研究基础。七、缓存与内存访问处理器执行指令时,除了计算本身,还经常需要访问内存。但CPU和主内存之间存在明显的速度差距。如果每次加载数据都直接等待主内存,处理器的大量执行资源可能闲置。因此,现代处理器通常使用多级缓存。CodeBlock Loading...常见结构包括:L1缓存:容量较小,通常速度最快,常进一步区分指令缓存和数据缓存。L2缓存:容量通常更大,访问延迟也更高。L3缓存:许多处理器会提供由多个核心共享或部分共享的末级缓存。主内存:容量远大于缓存,但访问延迟更高。当CPU访问数据时,如果数据已经在缓存中,就可以较快获得;如果没有命中,则需要从更低层级获取。7.1 局部性原理缓存有效的基础是程序访问数据通常具有局部性。时间局部性:最近访问过的数据,短时间内可能再次被访问。空间局部性:访问某个地址后,附近地址也可能很快被访问。例如,顺序遍历数组通常具有较好的空间局部性:CodeBlock Loading...而随机访问大量分散的数据,可能更容易产生缓存未命中。因此,性能优化不仅要关注指令数量,还需要考虑数据布局和内存访问模式。八、为什么同一ISA的CPU性能不同现在可以把微架构中的主要因素联系起来。两款处理器都支持同一套x86-64 ISA,但它们可能在以下方面存在差异:微架构因素对性能的影响取指与译码宽度影响前端每周期能够处理的指令量微操作缓存可能减少重复译码成本寄存器重命名资源影响可同时跟踪的独立操作数量ROB容量影响乱序执行窗口大小执行端口与执行单元影响不同类型操作的并行能力分支预测器影响错误预测和流水线清空的概率缓存容量与延迟影响数据访问等待时间内存控制器影响访问主内存的带宽和延迟因此,CPU性能并不能只通过主频或ISA名称判断。一个程序的实际表现,往往由指令依赖、分支行为、缓存命中率、内存带宽和执行资源共同决定。九、微架构优化不改变ISA语义这里还需要回到最初的抽象边界。假设处理器A使用较简单的顺序执行设计,处理器B使用更复杂的乱序执行设计。二者内部结构不同,但软件看到的仍然是同一套ISA。CodeBlock Loading...这意味着软件可以在不同微架构上运行,而不需要了解每款CPU内部如何调度指令。当然,软件仍然可能通过特定扩展指令、缓存行为、计时机制或性能特征感知处理器差异。但这些属于更具体的架构能力或微架构特征,不改变ISA与微架构的基本区分。十、总结现代CPU并不是简单地按照汇编文本逐条执行指令,而是通过复杂的内部结构提高并行度和资源利用率。本篇需要建立以下认识:取指和译码负责从机器码中识别指令。微操作将ISA指令转换为适合内部执行的工作单元。寄存器重命名可以消除部分名称依赖。乱序执行允许不相关的操作提前执行,但提交需要维护架构语义。流水线让多条指令的不同阶段重叠工作。分支预测和投机执行减少控制流带来的等待。多级缓存利用局部性原理,缩小CPU与主内存之间的性能差距。理解微架构之后,我们就知道了:ISA定义的是软件能够依赖的外部行为,而CPU性能的差异,很大程度上来自内部实现方式。下一篇将把视角从单颗处理器扩展到整个计算机生态:为什么会出现x86、ARM和RISC-V,不同ISA如何影响操作系统、编译器、软件兼容性与硬件产业?
从指令译码到处理器执行
前面几篇已经从软件视角走到了机器指令:高级语言经过编译器生成目标ISA指令,汇编器将指令编码成机器码,操作系统加载程序后,CPU便可以开始执行。
但我们仍然没有回答一个重要问题:
CPU拿到一条机器指令之后,内部究竟发生了什么?
例如:
从ISA角度看,这条指令的语义很简单:将rax和rbx中的值相加,并把结果写入rax。
但现代CPU内部并不是一个简单的“取出指令、执行加法、写回结果”的串行机器。为了提高性能,它可能同时处理多条指令,将复杂指令拆成内部微操作,并允许彼此独立的操作乱序执行。
这些内部设计属于微架构(Microarchitecture)。
一、ISA规定结果,微架构决定过程
先明确两个概念:
只要最终架构状态符合ISA要求,处理器就可以采用不同的内部实现。
例如,同一条add指令,在不同处理器上可能具有不同的延迟、吞吐量和资源占用,但只要结果符合ISA规定,软件就可以正常运行。
这就是为什么同样支持x86-64的两款CPU,性能仍然可能有很大差异。
二、现代CPU的基本执行路径
为了理解现代处理器,可以先建立一个简化模型:
这不是所有CPU都完全相同的内部结构,但它能帮助我们理解现代高性能处理器的主要阶段。
2.1 取指:从指令地址获取字节
CPU需要知道下一段要执行的指令位于哪里。
在x86-64中,架构可见的指令指针是rip。处理器根据当前控制流预测或确定下一条指令地址,从指令缓存(Instruction Cache,I-Cache)等前端结构中获取指令字节。
由于x86-64指令是变长的,取指单元往往会一次获取一段连续字节,而不是天然知道每条指令的边界。
因此,后续译码阶段还需要识别指令长度和边界。
2.2 译码:理解指令的含义
译码单元将机器码解释成处理器内部能够执行的操作。
例如:
译码器需要识别:
在部分x86处理器中,一条复杂指令可能被拆分为多个微操作(Micro-ops,常写作µops)。
微操作是处理器内部使用的执行表示,不是软件能够直接执行的ISA指令。
2.3 微操作:连接ISA与内部执行资源
可以把微操作理解为CPU内部更适合执行单元处理的工作单元。
一条ISA指令可能对应:
不同微架构对同一条指令的拆分方式可能不同。
例如,一条涉及内存读取和算术运算的指令,内部可能需要完成地址生成、加载数据和算术运算等多个步骤。
因此,不能简单地认为“一条机器指令等于一个CPU内部操作”。
三、寄存器重命名:解决伪数据依赖
现代CPU为了提高指令并行度,通常会采用寄存器重命名(Register Renaming)。
为什么需要它?
看下面的指令序列:
从程序语义上看,后面的指令依赖前面产生的结果。但如果两条指令只是恰好使用了同一个架构寄存器,并不一定存在真正的数据依赖。
3.1 架构寄存器与物理寄存器
ISA向软件暴露的是架构寄存器,例如rax、rbx。
但处理器内部可能拥有更多物理寄存器。
寄存器重命名会把架构寄存器映射到内部物理寄存器:
当一条指令产生新的寄存器结果时,处理器可以分配一个新的物理寄存器,而不是直接覆盖原来的物理寄存器。
例如:
内部可能形成类似这样的映射:
这样,处理器就能区分不同时间点的rax值。
3.2 RAW、WAR和WAW依赖
指令之间常见的数据依赖可以分为三类:
类型
名称
含义
RAW
Read After Write
后一条指令读取前一条指令写入的值,是真实数据依赖
WAR
Write After Read
后一条指令写入某位置,但前一条指令还需要读取旧值
WAW
Write After Write
多条指令写入同一个位置,需要保持最终写入顺序
寄存器重命名可以消除许多WAR和WAW造成的名称依赖,但不能消除RAW真实数据依赖。
例如:
第二条指令必须等待第一条指令产生新的rax值。这种依赖来自程序语义,不是寄存器命名造成的。
四、乱序执行:让不相关的指令先运行
如果CPU严格按照程序顺序执行,每条指令都必须等待前一条指令完成,很多执行资源就可能闲置。
乱序执行(Out-of-Order Execution,OoO)允许处理器在不违反程序可观察语义的前提下,先执行已经准备好的指令。
例如:
假设第一条指令需要等待内存数据,而第二、第三条指令的操作数已经准备好。
处理器可能先执行第二、第三条指令,不必让所有执行资源都等待第一条加载完成。
这里有一个关键约束:执行可以乱序,但架构状态通常需要按照程序规定的顺序提交。
否则,程序可能观察到不符合原始指令顺序的状态。
4.1 重排序缓冲区ROB
现代乱序处理器通常使用重排序缓冲区(Reorder Buffer,ROB)等结构,跟踪尚未提交的指令或微操作。
指令按照程序顺序进入ROB,执行完成的结果可以先暂存在内部结构中。
只有当最前面的指令满足提交条件时,处理器才按顺序提交结果。
例如:
即使C和D先执行完成,也不能越过尚未完成的B提交架构状态。
这种机制帮助处理器在提高执行并行度的同时,维持程序所要求的顺序语义。
五、流水线:让多个阶段重叠工作
流水线(Pipeline)是一种将指令处理过程拆分成多个阶段,并让不同指令同时处于不同阶段的技术。
可以用一个简化例子理解。
假设一条指令需要经历取指、译码、执行和写回四个阶段。如果每条指令都必须完整执行完毕后下一条才能开始,那么硬件资源利用率会比较低。
流水线则允许:
流水线的目标不是让单条指令的每个阶段都变快,而是提高单位时间内完成的指令数量,也就是吞吐量。
流水线也会遇到停顿、数据依赖和控制流变化等问题。
六、分支预测:提前猜测下一条指令
程序中存在大量条件判断:
CPU执行到条件跳转时,需要知道下一步应该执行哪条指令。
但条件依赖的数据可能尚未计算完成。如果每次都等待条件结果出来后再取指,流水线就可能频繁停顿。
因此,现代CPU会使用分支预测(Branch Prediction),提前预测分支走向。
6.1 预测为什么有价值
假设CPU预测条件成立,就会提前沿着成立路径取指、译码,甚至执行后续指令。
如果预测正确,这些工作可以直接转化为有效进展。
如果预测错误,处理器需要丢弃错误路径上尚未提交的工作,并从正确路径重新开始。
6.2 投机执行
沿预测路径提前执行指令,称为投机执行(Speculative Execution)。
投机执行可以提高性能,但必须保证错误路径上的结果不会以不符合架构语义的方式提交。
需要注意,虽然架构状态会被回滚或丢弃,投机执行可能已经影响缓存等微架构状态。这类差异也成为部分侧信道安全问题的研究基础。
七、缓存与内存访问
处理器执行指令时,除了计算本身,还经常需要访问内存。
但CPU和主内存之间存在明显的速度差距。如果每次加载数据都直接等待主内存,处理器的大量执行资源可能闲置。
因此,现代处理器通常使用多级缓存。
常见结构包括:
当CPU访问数据时,如果数据已经在缓存中,就可以较快获得;如果没有命中,则需要从更低层级获取。
7.1 局部性原理
缓存有效的基础是程序访问数据通常具有局部性。
例如,顺序遍历数组通常具有较好的空间局部性:
而随机访问大量分散的数据,可能更容易产生缓存未命中。
因此,性能优化不仅要关注指令数量,还需要考虑数据布局和内存访问模式。
八、为什么同一ISA的CPU性能不同
现在可以把微架构中的主要因素联系起来。
两款处理器都支持同一套x86-64 ISA,但它们可能在以下方面存在差异:
微架构因素
对性能的影响
取指与译码宽度
影响前端每周期能够处理的指令量
微操作缓存
可能减少重复译码成本
寄存器重命名资源
影响可同时跟踪的独立操作数量
ROB容量
影响乱序执行窗口大小
执行端口与执行单元
影响不同类型操作的并行能力
分支预测器
影响错误预测和流水线清空的概率
缓存容量与延迟
影响数据访问等待时间
内存控制器
影响访问主内存的带宽和延迟
因此,CPU性能并不能只通过主频或ISA名称判断。
一个程序的实际表现,往往由指令依赖、分支行为、缓存命中率、内存带宽和执行资源共同决定。
九、微架构优化不改变ISA语义
这里还需要回到最初的抽象边界。
假设处理器A使用较简单的顺序执行设计,处理器B使用更复杂的乱序执行设计。
二者内部结构不同,但软件看到的仍然是同一套ISA。
这意味着软件可以在不同微架构上运行,而不需要了解每款CPU内部如何调度指令。
当然,软件仍然可能通过特定扩展指令、缓存行为、计时机制或性能特征感知处理器差异。但这些属于更具体的架构能力或微架构特征,不改变ISA与微架构的基本区分。
十、总结
现代CPU并不是简单地按照汇编文本逐条执行指令,而是通过复杂的内部结构提高并行度和资源利用率。
本篇需要建立以下认识:
理解微架构之后,我们就知道了:ISA定义的是软件能够依赖的外部行为,而CPU性能的差异,很大程度上来自内部实现方式。
下一篇将把视角从单颗处理器扩展到整个计算机生态:为什么会出现x86、ARM和RISC-V,不同ISA如何影响操作系统、编译器、软件兼容性与硬件产业?