hirayamaさん、こんばんは。

＞しかし、以下のような定義をしますと、実行時に
＞「アプリケーションのランタイムエラー(R0010)
＞  readfileがサポートしていない型の引数があります。」
＞となります。
＞
＞そこで、2番目のパラメータのデータ型をanyからstringに変えました。
＞（定義も、パラメータのセットのところも）
＞すると、上記のエラーは出ませんが、戻り値が0(zero)となります。
＞これはエラーということだと思います。

まず外部関数の定義がまずいです。参照渡しの変数は、refのキーワー
ドが必要です。
ReadFileの外部関数定義は、例えばこうします。

FUNCTION long ReadFile(long hFile, ref string lpBuffer, &
  long nNumberOfBytesToRead, ref long lpNumberOfBytesRead, &
  long lpOverlapped) library \"kernel32.dll\"

参照渡しについては、手前味噌ですが、
http://member.nifty.ne.jp/quarteto/winapi.html
をご覧ください。

またReadFile関数のlpBufferの引数は、Any型ではなくblobかstring型
として明示的に型指定したほうがいいです。nullデータを扱うのであれ
ば、blobを使います。stringだとnullのところで、文字列の終端として
扱われます。
またlpBufferの領域をAPI呼び出し前に確保していますか？
1回のAPI呼び出しで、最大36byteのデータを読み込むのであれば、

String ls_buffer, ls_read_data
long ll_read_len

ls_buffer = space(36)
ll_rtn = ReadFile(gl_hcom, ls_buffer, 36, ll_read_len, 0)
ls_read_data = left(ls_buffer, ll_read_len)

といったスクリプトにします。