Scusa se mi ripeto: se ascolti con il Denon cui sei collegato via HDMI la scheda audio non c'azzecca niente e non c'é bisogno nemmeno di fare un collegamento ottico (il collegamento HDMI è superiore). Se vai nell' elenco dei device audio il Denon è elencato come se fosse una scheda audio esterna.
L' obiettivo che ci si deve porre in questo caso è avere una uscita bitperfect (esempio: usare come player musicale foobar con interfaccia wasapi), la convesione da analogico a digitale la farà il denon.
===
Tutte (ma proprio tutte) le schede audio interne contengono un DAC ed escono in analogico (è un jack, ma diventa RCA con un semplice spinotto adattatore.
===
La domanda se sia meglio RCA o ottico non ha senso. Se esci in analogico dal PC usi il DAC della scheda audio interna, se esci in digitale usi il DAC esterno (che può stare, a seconda dei casi, nell' amplificatore stereo, nel sintoamplificatore multicanale o essere un apparecchio a sé stante).
La qualità di un DAC è data dal progetto e dalla componentistica non dal fatto che sia interno al PC o interno all' ampli o esterno ecc.
Di norma uscendo in digitale da un PC si preferisce USB o HDMI all' ottico in quanto quest' ultimo ha dei limiti riguardo alla massima risoluzione audio supportata (credo sia 24bit @96Khz di frequenza di campionamento). Parlano di campionamenti in "qualità CD" (16bit @44,1Khz) non credo ci sia motivo di preferire ottico o USB salvo una qualche peculiarità "audiofila" su cui non sono preparatissimo ma se parliamo di impianti anche molto buoni al netto delle paranoie audiofile credo che differenza non ce ne sia.