tsuchiさん、こんにちは。

テストしてみましたが、私の提案したやり方で、問題なく実現できました。
結果は以下の通りになります。
(わかりやすくするため式は旧仕様のものですが、もちろん新仕様でも動作します)

式B :sum( 数値 for group 2) / 項目1
式B\':if(CumulativeSum(1 for group 2) = 1,sum( 数値 for group 2) / 項目1, 0)
式C :sum(式B\' for group 1)
=====================================
　　　　数値　　項目1　式B\'
　　　　100　　　20　　30
　　　　200　　　20　　 0
　　　　300　　　20　　 0
      --------------------------
数値計　600　　　  式B=30
Group2--------------------------トレーラ
　　　　100　　　30　　10
　　　　200　　　30　　 0
      --------------------------
数値計　300　　　  式B=10
Group2--------------------------トレーラ
数値計　900　　　  式C=40
Group1--------------------------トレーラ
=====================================

となると、考えられることは……

a.他の計算フィールドを参照する計算フィールドの不具合。
　計算フィールドまたはDWの作り直しで治る可能性大。

b.DWオブブジェクトを再生成してみる。

c.GroupCalc()関数を実行してみる。

d.グループ1の定義に誤りがある。
　(グループ2のキーは項目1ですけど、グループ1については？)

e.PowerBuilderの最新の修正モジュールを適用する。

こんなところでしょうか？