Softcam.key hat nichts damit zu tun, braucht man hier auch nicht.
Schau erstmal hier
C:\ProgramData\dvbapiNET\dvbapiNET.ini
nach welcher Port drin ist.
Default ist port=6330
Stelle den ein im dvbapi Protokoll in Oscam.
Danach kannst du in dieser Datei auch debug aktivieren um zu sehen ob dvbapinet läuft wenn der DVBViewer läuft, eine Logfile sollte da erstellt werden wenn debug nicht 0 ist.
Wenn das passt, poste mal die oscam log.
Und das Setup gibt es mittlerweile schon 2 Jahre, einzige was Händisch eigentlich noch muss passieren ist die oscam.server und in seltenen Fälle oscam.dvbapi.
EDIT
Habe jetzt deine Log angeschaut, hier endet der Support von mir aus, Payserver supporten wir hier nicht.