Tatsächlich stellte sich heraus, dass dies nur eine übereifrige Optionseinstellung in meinem Aussehensthema war. Das heißt, in ~/.themes/Xfce-darkness/gtk-3.0/gtk-widgets.css
,
* { /* inherit colors from parent */ color: inherit; background-color: inherit; }
Das machte alles übernimmt die Standardhintergrundfarbe des Themas. Dazu gehörte auch ein Randelement im Evince-Fenster, das eigentlich transparent sein sollte.
Das Entfernen dieser Klausel (ohnehin fragwürdig, weil Catch-All und für mich völlig unnötig), behebt das Problem.