首页 > 代码库 > 动态调用dll遇到的问题

动态调用dll遇到的问题

问题:动态调用第三方提供的dll报错。

Run-Time Check Failure #0 - The value of ESP was not properly saved across a function call. This is usually a result of calling a function declared with one calling convention with a function pointer declared with a different calling convention.

调用源码:

typedef bool (WINAPI *SEALPARSE)(unsigned char*, int, char*);static int ConvertAsnToXml(unsigned char* asnBuffer, int bufferLen, char** xmlData){	HINSTANCE hDllInst = LoadLibrary("DllSESealParse.dll");	if(hDllInst == NULL){		::MessageBox(NULL,"DllSESealParse.dll加载失败!","错误",IDOK);		return -1;	}else{		SEALPARSE asnToXml = NULL; 		asnToXml = (SEALPARSE)GetProcAddress(hDllInst, "SESealParse_SESealDataASNToXml");		if(asnToXml)		{			*xmlData = http://www.mamicode.com/(char*)malloc(40*1024);>

  


错误原因:

定义函数指针原型时出错。

其实定义的没有错,但是编译器不认识而已,因为调用的dll函数是一个远函数,而且是一个C函数,必须告诉编译器它是个c函数才行。那么就可以在定义该函数的时候加上一句话,

FAR PASCAL 或者 __stdcall 这个就OK了。

具体做法:

比如说你要定义一个 返回类型为空,参数为空的函数指针:

typedef void (*LPFUN)(void);

这样确实跟我们dll里的函数匹配了,上面也说了,我们应该添上几个字,告诉编译器这个是一个远的C函数。

typedef void (WINAPI *LPFUN)(void);

typedef void (__stdcall *LPFUN)(void);

typedef void    (FAR PASCAL *LPFUN)    (void);

像上面这样定义就OK了,如果用的是VC++,那么直接用第一种定义就ok了。

注意,上面是使用 MFC (DLL)的做法。

如果是WIN32 DLL,得相应的去掉WINAPI ,__stdcall ,FAR PASCAL 这几个参数。因为WIN32 DLL 默认的入栈方式为 __cedcall方式,不是__stdcall方式。


具体的组合方式太多了,反正知道错误的原因是声明相应的函数未匹配就行了。实在不行,一个一个的试吧

 

解决方法:

查看:Project->Properties->Configuration Properties->C/C++->advanced->calling Convention  为  __cdecl 

将代码中的

typedef bool (WINAPI *SEALPARSE)(unsigned char*, int, char*);

修改为typedef bool (__cdecl *SEALPARSE)(unsigned char*, int, char*);

动态调用dll遇到的问题