Minoruさん、こんにちは。

RcvMail も解析してみました。

解析の結果、RcvMail では最初の引数の前にもう一つ何らかのポインタを
渡していて、そのアドレスに４バイト長のデータを４つ（計１６バイト）
返して来ることがわかりました。
どうも、戻り値の Variant 型のポインタを指定する必要があるみたいです。

というわけで、次のようにすれば、とりあえず RcvMail を呼び出すだけは出来ます。

外部関数
FUNCTION Long RcvMail(REF Long Output[4], REF Long szServer, REF Long szUser, REF Long szPass, &
　　　　REF Long szCommand, REF Long szDir) LIBRARY \"BSMTP.DLL\"
FUNCTION Long lstrcpyn(REF String dst, REF String src, UnsignedLong length) &
　　　　LIBRARY \"KERNEL32.DLL\" ALIAS FOR \"lstrcpynA\"

スクリプト
//変数宣言
String szServer,szUser,szPass,szCommand,szDir
Long lpszServer,lpszUser,lpszPass,lpszCommand,lpszDir
Long VariantType[4]

//引数設定
szServer = POP3 サーバのアドレス
szUser = サーバアカウント
szPass = パスワード
szCommand = RcvMail 関数のコマンド文字列
szDir = 受信メールの保存ディレクトリ

//引数のポインタ値取得
lpszServer = lstrcpyn(szServer,szServer,0)
lpszUser = lstrcpyn(szUser,szUser,0)
lpszPass = lstrcpyn(szPass,szPass,0)
lpszCommand = lstrcpyn(szCommand,szCommand,0)
lpszDir = lstrcpyn(szDir,szDir,0)

//メール受信処理
RcvMail(VariantType,lpszServer,lpszUser,lpszPass,lpszCommand,lpszDir)

このあと、戻り値を取得する処理を入れる必要があります。(書ききれないので省略)

VariantType[3] が指し示すアドレスに戻り値の配列のヘッダ情報があり、そこから
さらにポインタをたどっていけば取得できます。
エラーの場合は、VariantType[3] が指し示すアドレスにエラーメッセージが格納
されています。

返される文字列は UNICODE になっているので、WideCharToMultiByte を使って
SJIS に変換する必要があります。