usausa0102さん、こんにちは。

＞指定したファイルが開かれているかどうかを判断したいのですが、
既に開かれているかどうか、ということですよね。
ヘルプで FileOpen 関数を参照されましたか？
オプションの項目をもう一度確認してみて下さい。

＞ファイルが開かれている場合に、PBではない別のツールでロックがかかっていて
＞くれればよいのですが、現状排他制御がかかっていないようです。
後で開く場合にチェックするのが普通だと思います。
というより、先に開いているアプリにチェックしろというのでは、
読み込みモードで開くこともできなくなってしまいますよ。