Dunque, direi innanzitutto di non fare confusione tra ingressi ed uscite :D: secondo l'immagine che hai postato, il tuo ampli ha solo un INGRESSO (digitale ottico) che permette di veicolare il segnale 5.1.
Con gli RCA non puoi fare niente perché hai solo 2 ingressi stereo: ci puoi buttare dentro musica, ma non dolby digital.
Se l'ingresso digitale ottico è già occupato dalla PS3, hai 2 possibilità: o cambi il cavo manualmente ogni volta che usi una sorgente differente (PS3 o HTPC) oppure ti compri un divisore ottico come questo qui; personalmente non li ho mai utilizzati ma dovrebbero funzionare; tra l'altro costano talmente poco...
Chiaramente per utilizzare l'INGRESSO ottico occorre che il pc abbia un'USCITA corrispondente. Se, come mi sembra di aver capito, attualmente non ce l'ha, io comprerei una schedina per uscita ottica digitale (come la prima immagine che hai postato). Della scheda audio non te ne fai niente per questo discorso; o, meglio, se la scheda audio ha l'uscita ottica funziona lo stesso, ma ha anche altre cose che le paghi senza che ti servano, a meno che tu non voglia migliorare anche la qualità dell'ascolto di musica da htpc (andando in quel caso dall'uscita analogica a uno degli ingressi rca dell'ampli), ma allora in quel caso bisognerebbe comprare una scheda buonina...
Riassumendo, il mio consiglio è:
- scheda pci con uscita ottica digitale per l'htpc
- divisore ottico per l'ingresso dell'ampli
- 2 cavi ottici in più
Ciao
Ape