こんにちは。

＞自己レスです。
＞
＞むちゃくちゃ邪道なやり方ですが、方法がありました。

こんな方法はいかがでしょう。

アプリケーションの Open イベントに

long l_fno

if FileOpen(\"$$$tekito.$$$\") = -1 then
l_fno = FileOpen(\"$$$tekito.$$$\", LineMode!, Write!, LockWrite!)
FileClose(l_fno)
else
MessageBox(\"開始エラー\", \"既に起動しています\", StopSign!)
halt
end if

Open(w_XXXX)

アプリケーションの Close イベントには

FileDelete(\"$$$tekito.$$$\")

てな感じです。
まあこのままではテンポラリファイルがアプリケーションを起動するディレクトリに
できてしまうので、実際にはテンポラリファイル名をインスタンス変数にでもして、
初期値としてテンポラリディレクトリ内のファイル名(絶対パス)を指定すればよいと
思います。

弱点としては、
  ・テンポラリファイルを消されたら判定できない
  ・アプリケーションが途中でエラー終了したら、次回起動前にテンポラリファイル
    を削除しなければならない
ことでしょうか。

FileOpen 関数のヘルプでは、存在しないファイルを指定すると新しく作成されると
ありますが、どうやらこれは Write! モードのときだけのようです。C の関数とか
も同様の動きをするので、おそらくヘルプの不具合なのでしょう。