Conversione H.264 di alta qualità

Ciao a tutti.
Ho bisogno di una mano in ambiente MAC.
Ho girato con una Canon 5D una serie di filmati FullHD 1080P.
Li ho convertiti con Compressor in Apple Pro RES 422 (HQ) per utilizzare un formato intermedio più gestibile e di ottima qualità.
Ho eseguito il montaggio con Final Cut 7 e ho provato a convertire il tutto in H264 con diversi encoder per poi potere leggere il tutto su lettore Blu ray.
Il mio problema è che quando uso dei filtri grana la qualità del H.264 crolla clamorosamente mentre il resto del filmato è ottimo.
Che devo fare? è solo questione di bitrate?
Ho provato encore cs4 MAC
Compressor MAC
DVD architect 5.0 PC WIN
Roxio toast (lasciamo perdere).
Avete dei protocolli da suggerirmi per favore?
Software e settaggi?
Grazie

prova sorenson squeeze

Ho scaricato ed installato squeeze ma x il blu ray usa solo il firmato VC-1 e non l'H.264.
Sai se mi sbaglio o posso forzare qualche altro preset?
Conoscete x264? Dicono sia il miglior motore di rendering ma a parte hand break che nn supporta pro res in ingresso nn so quale altra app x Mac lo incorpora.
Altre idee?

sicuro non supporti h.264? guardo sul mio (è la versione precedente a quella attuale) e ti dico

allora, nella versione 5 hai, nei preset, 3 tipi diversi di bd: mp4, mp1/2, wmv.
in mp4 puoi decidere se usare sorenson mp4pro, sorenson h.264, apple h.264, mainconcept h.264
in wmv hai il vc1 (che poi non è che sia male, a mio modo di vedere, anzi), in mp1/2 l' mpeg2