CallingConvention译成中文是“函数调用约定”,它是对函数调用时如何传递参数的一种约定。
通过前面的学习已经知道,调用函数前要先把参数压人栈然后再传递给函数。栈就是定义在进程中的一段内存空间,向下(低地址方向)扩展,且其大小被记录在PE头中。也就是说,进程运行时确定栈内存的大小(与malloc/new动态分配内存不同)。
提问1.函数执行完成后,栈中的参数如何处理?
回答1.不用管。
由于只是临时使用存储在栈中的值,即使不再使用,清除工作也会浪费CPU资源。下一次再向栈存人其他值时,原有值会被自然覆盖掉,并且栈内存是固定的,所以既不能也没必要释放内存。
提问2.函数执行完毕后,ESP值如何变化?
回答2.ESP值要恢复到函数调用之前,这样可引用的栈大小才不会缩减。栈内存是固定的,ESP用来指示栈的当前位置,若ESP指向栈底,则无法再使用该栈。函数调用后如何处理ESP,这就是函数调用约定要解决的问题。主要的函数调用约定如下。
cdecl
stdcall
fastcall
应用程序的调试中,cdecl与stdcall的区别非常明显。不管采用哪种方式,通过栈来传递参数的基本概念都是一样的。
调用者——调用函数的一方。
被调用者——被调用的函数。
比如在main
函数中调用printf
函数时,调用者为main
,被调用者为printf
cdecl是主要在C语言中使用的方式,调用者负责处理栈
示例代码
#include "stdio.h"
int add(int a ,int b)
{
return a+b;
}
int main(int argc , char* argv[])
{
return add(1,2);
}
编译后进行调试
从图中
401013~40101C
地址间的代码可以发现,add
函数的参数1、2
以逆序方式压人栈,
调用 add
函数(401000)后,使用 ADD ESP,8
命令整理栈。调用者 main
函数直接清理其压人栈的函数参数,这样的方式即是cdecl。
cdecl方式的好处在于,它可以像C语言的
printf
函数一样,向被调用函数传递长度可变的参数。这种长度可变的参数在其他调用约定中很难实现。
stdcall方式常用于Win32API,该方式由被调用者清理栈。前面讲解过C语言默认的函数调用方式为cdecl。若想使用stdcall方式编译源码,只要使用 _stdcall
关键字即可
示例代码
#include "stdio.h"
int _stdcall add(int a ,int b)
{
return a+b;
}
int main(int argc , char* argv[])
{
return add(1,2);
}
生成exe然后进行调试
从图中的代码可以看到,在 main
函数中调用 add
函数后,省略了清理栈的代码(ADD ESP,8
)。栈的清理工作由 add
函数中最后(40100A)的 RETN 8
命令来执行。RETN 8
命令的含义为 RETN+POP 8
字节,即返回后使ESP增加到指定大小
像这样在被调用者 add
函数内部清理栈的方式即为stdcall方式。
stdcall方式的好处在于,被调用者函数内部存在着栈清理代码,与每次调用函数时都要用 ADD ESP,XXX
命令的cdecl方式相比,代码尺寸要小。
虽然Win32API是使用C语言编写的库,但它使用的是stdcall方式,而不是C语言默认的cdecl方式。这是为了获得更好的兼容性,使C语言之外的其他语言(Delphi(Pascal)、VisualBasic等)也能直接调用API。
fastcall方式与stdcall方式基本类似,但该方式通常会使用寄存器(而非栈内存)去传递那些需要传递给函数的部分参数(前2个)。若某函数有4个参数,则前2个参数分别使用ECX、EDX寄存器传递。
顾名思义,fastcall方式的优势在于可以实现对函数的快速调用(从CPU的立场看,访问寄存器的速度要远比内存快得多)。单从函数调用本身来看,fastcall方式非常快,但是有时需要额外的系统开销来管理ECX、EDX寄存器。倘若调用函数前ECX与EDX中存有重要数据,那么使用它们前必须先备份。此外,如果函数本身很复杂,需要把ECX、EDX寄存器用作其他用途时,也需要将它们中的参数值存储到另外某个地方。