Nach vielem Graben schien ich eine Lösung für das Problem gefunden zu haben.
Microsoft hat einen Hotfix für Windows Server 2012 bereitgestellt, der das Umgehen der Base Filtering Engine für eingehende Multicast-Streams ermöglicht: https://support.microsoft.com/de-de/help/2808584/datagram-loss-when-you-run-a- Multicast-Empfänger-Anwendung-in-Windows
Der Hotfix ist jedoch nicht für Windows Server 2012 R2 verfügbar. Aber dann fand ich diesen Blogpost: https://personalnexus.wordpress.com/2017/02/06/the-case-of-multicast-message-loss-on-windows-server-2012-r2/
Daher habe ich jetzt eine solide Checkliste der Dinge, die auf unseren Servern konfiguriert werden müssen, und sicherstellen, dass in unseren Anwendungen Multicast-Nachrichten verwendet werden, um sicherzustellen, dass alles reibungslos läuft und der Nachrichtenverlust auf einem akzeptablen Niveau bleibt. Auf unseren neuesten Windows Server 2012 R2-Computern gab es jedoch Anwendungen, bei denen ein schwerwiegender Datagrammverlust auftrat, da der Netzwerkverkehr (im Allgemeinen nicht nur Multicast) auf dem Computer zunahm.
Ich habe das Problem online recherchiert und die Tipps erhalten, die Sie erwarten würden: Holen Sie sich die neuesten NIC-Treiber, erhöhen Sie die NIC-Empfangspuffergröße, aktivieren Sie Offloads, aktivieren Sie die empfangsseitige Skalierung, passen Sie die empfangsseitige Skalierung ab, erhöhen Sie die Sockelpuffergröße usw. Natürlich hatte ich alle diese Dinge bereits ausprobiert, und keines davon hatte funktioniert
Die Lösung laut Blogpost:
Leider beschreibt das Dokument ein Problem in Windows Server 2012, und der dort verfügbare Hotfix kann nicht unter Windows Server 2012 R2 installiert werden. Zum Glück muss es nicht sein. Sie können einfach den Registrierungsschlüssel festlegen und die Base Filtering Engine unterstützt ihn sofort.
New-ItemProperty HKLM:\System\CurrentControlSet\services\Tcpip\Parameters\ -Name UdpExemptPortRange -Value "XXXX-YYYY" -PropertyType MultiString -Force
Bis jetzt laufen die Streams wieder einwandfrei. Anscheinend kann das BFE die enorme Menge an eingehendem UDP-Verkehr nicht verarbeiten, wenn auch ziemlich viel ausgehender UDP-Verkehr vorliegt.