自己レスです。

むちゃくちゃ邪道なやり方ですが、方法がありました。

GetWindowTextA（）というAPI関数を使用して立ち上がっているウィンドウの
タイトルをループで取得していく方法です。

問題は、GetWindow()を使う為、自分自身のハンドルを取得しないとならないのですが、
これがうまくいかないので、ダミーのウィンドウをあげないといけないんです。
Ｗｉｎｄｏｗｓ自体のハンドルが取れるとそんな面倒は要らないとは思うんですが、
とりあえずユーザさんには許してもらうことにしました。

やり方は・・・・

//変数宣言
uint hwnd,hwndnext
String ptr
Long cnt

//砂時計
SetPointer ( HOURGLASS! )

Open(w_ｘｘｘ)      //ダミーのウィンドウをあげる

//タスクの中に指定のウィンドウがあるか？
ptr = Space(40)
hwnd = Handle(w_ｘｘｘ)                //ダミーウィンドウのハンドルを取得
hwndnext = ＧetWindow(hwnd,0)    //ＡＰＩでウィンドウのハンドルを取得する。
Do While hwndnext > 0
Ｉf GetWindowTextＡ(hwndnext,ptr,40) > 0 Then
    If Pos(ptr,\"ｘｘｘｔ\") > 0 Then     //ウィンドウのタイトルを検索
        cnt ++
If cnt > 1 Then
    Close(w_ｘｘｘ)
    MessageBox(\"test\",\"既にあがっていますよ\")
    HALT
End If
    End If
End If
hwndnext = GetWindow(hwndnext,2) //次のｳｨﾝﾄﾞｳﾊﾝﾄﾞﾙ
Loop

と、こんな感じです。
まだまだ問題はありそうですが、これで一応やりたかったことは出来るように
なりました。