首页 > 代码库 > 动态调用dll遇到的问题
动态调用dll遇到的问题
问题:动态调用第三方提供的dll报错。
Run-Time Check Failure #0 - The value of ESP was not properly saved across a function call. This is usually a result of calling a function declared with one calling convention with a function pointer declared with a different calling convention.
调用源码:
typedef bool (WINAPI *SEALPARSE)(unsigned char*, int, char*);static int ConvertAsnToXml(unsigned char* asnBuffer, int bufferLen, char** xmlData){ HINSTANCE hDllInst = LoadLibrary("DllSESealParse.dll"); if(hDllInst == NULL){ ::MessageBox(NULL,"DllSESealParse.dll加载失败!","错误",IDOK); return -1; }else{ SEALPARSE asnToXml = NULL; asnToXml = (SEALPARSE)GetProcAddress(hDllInst, "SESealParse_SESealDataASNToXml"); if(asnToXml) { *xmlData = http://www.mamicode.com/(char*)malloc(40*1024);>
错误原因:
定义函数指针原型时出错。
其实定义的没有错,但是编译器不认识而已,因为调用的dll函数是一个远函数,而且是一个C函数,必须告诉编译器它是个c函数才行。那么就可以在定义该函数的时候加上一句话,
FAR PASCAL 或者 __stdcall 这个就OK了。
具体做法:
比如说你要定义一个 返回类型为空,参数为空的函数指针:
typedef void (*LPFUN)(void);
这样确实跟我们dll里的函数匹配了,上面也说了,我们应该添上几个字,告诉编译器这个是一个远的C函数。
typedef void (WINAPI *LPFUN)(void);
typedef void (__stdcall *LPFUN)(void);
typedef void (FAR PASCAL *LPFUN) (void);
像上面这样定义就OK了,如果用的是VC++,那么直接用第一种定义就ok了。
注意,上面是使用 MFC (DLL)的做法。
如果是WIN32 DLL,得相应的去掉WINAPI ,__stdcall ,FAR PASCAL 这几个参数。因为WIN32 DLL 默认的入栈方式为 __cedcall方式,不是__stdcall方式。
具体的组合方式太多了,反正知道错误的原因是声明相应的函数未匹配就行了。实在不行,一个一个的试吧
解决方法:
查看:Project->Properties->Configuration Properties->C/C++->advanced->calling Convention 为 __cdecl
将代码中的
typedef bool (WINAPI *SEALPARSE)(unsigned char*, int, char*);
修改为typedef bool (__cdecl *SEALPARSE)(unsigned char*, int, char*);
动态调用dll遇到的问题