yamasinさん、おはようございます。

＞現在開発中のプログラムはフレームを使用せず、
＞いくつかのレスポンス画面以外はすべてメイン画面で
＞作成する仕様になっているのですが、モーダルの制御を
＞どうしてよいか分かりません。

既に気づいているとは思いますが、PBのウィンドウには
「モーダル」などという設定はありません。

メイン・チャイルド・ポップアップ・レスポンスの中から
目的に合うウィンドウタイプを選択します。

他のウィンドウにフォーカスを移してもよいウィンドウは「メイン」に、
他のウィンドウにフォーカスを移したくない場合は「レスポンス」に
するのが一般的です。