10.函数的调用约定

1. 函数调用约定

CallingConvention译成中文是“函数调用约定”,它是对函数调用时如何传递参数的一种约定
通过前面的学习已经知道,调用函数前要先把参数压人栈然后再传递给函数。栈就是定义在进程中的一段内存空间,向下(低地址方向)扩展,且其大小被记录在PE头中。也就是说,进程运行时确定栈内存的大小(与malloc/new动态分配内存不同)。

提问1.函数执行完成后,栈中的参数如何处理?
回答1.不用管。
由于只是临时使用存储在栈中的值,即使不再使用,清除工作也会浪费CPU资源。下一次再向栈存人其他值时,原有值会被自然覆盖掉,并且栈内存是固定的,所以既不能也没必要释放内存。
提问2.函数执行完毕后,ESP值如何变化?
回答2.ESP值要恢复到函数调用之前,这样可引用的栈大小才不会缩减。栈内存是固定的,ESP用来指示栈的当前位置,若ESP指向栈底,则无法再使用该栈。函数调用后如何处理ESP,这就是函数调用约定要解决的问题。主要的函数调用约定如下。
cdecl
stdcall
fastcall
应用程序的调试中,cdecl与stdcall的区别非常明显。不管采用哪种方式,通过栈来传递参数的基本概念都是一样的。

调用者——调用函数的一方。
被调用者——被调用的函数。
比如在 main 函数中调用 printf 函数时,调用者为 main,被调用者为 printf

1.1. cdecl

cdecl是主要在C语言中使用的方式,调用者负责处理栈
示例代码

#include "stdio.h"
int add(int a ,int b)
{
	return a+b;
}
int main(int argc , char* argv[])
{
	return add(1,2);
}

编译后进行调试
Pasted image 20250312184125从图中401013~40101C地址间的代码可以发现,add函数的参数1、2以逆序方式压人栈,
调用 add 函数(401000)后,使用 ADD ESP,8 命令整理栈。调用者 main 函数直接清理其压人栈的函数参数,这样的方式即是cdecl

cdecl方式的好处在于,它可以像C语言的 printf 函数一样,向被调用函数传递长度可变的参数。这种长度可变的参数在其他调用约定中很难实现。

1.2. stdcall

stdcall方式常用于Win32API,该方式由被调用者清理栈。前面讲解过C语言默认的函数调用方式为cdecl。若想使用stdcall方式编译源码,只要使用 _stdcall 关键字即可
示例代码

#include "stdio.h"
int _stdcall add(int a ,int b)
{
	return a+b;
}
int main(int argc , char* argv[])
{
	return add(1,2);
}

生成exe然后进行调试
从图中的代码可以看到,在 main 函数中调用 add 函数后,省略了清理栈的代码ADD ESP,8)。栈的清理工作由 add 函数中最后(40100A)的 RETN 8 命令来执行。RETN 8 命令的含义为 RETN+POP 8 字节,即返回后使ESP增加到指定大小
Pasted image 20250312184056

像这样在被调用者 add 函数内部清理栈的方式即为stdcall方式
stdcall方式的好处在于,被调用者函数内部存在着栈清理代码,与每次调用函数时都要用 ADD ESP,XXX 命令的cdecl方式相比,代码尺寸要小
虽然Win32API是使用C语言编写的库,但它使用的是stdcall方式,而不是C语言默认的cdecl方式。这是为了获得更好的兼容性,使C语言之外的其他语言(Delphi(Pascal)、VisualBasic等)也能直接调用API。

1.3. fastcall

fastcall方式与stdcall方式基本类似,但该方式通常会使用寄存器(而非栈内存)去传递那些需要传递给函数的部分参数(前2个)。若某函数有4个参数,则前2个参数分别使用ECX、EDX寄存器传递。
顾名思义,fastcall方式的优势在于可以实现对函数的快速调用(从CPU的立场看,访问寄存器的速度要远比内存快得多)。单从函数调用本身来看,fastcall方式非常快,但是有时需要额外的系统开销来管理ECX、EDX寄存器。倘若调用函数前ECX与EDX中存有重要数据,那么使用它们前必须先备份。此外,如果函数本身很复杂,需要把ECX、EDX寄存器用作其他用途时,也需要将它们中的参数值存储到另外某个地方。