Wie gut sind externe GPUs für maschinelles Lernen / neuronale Netze in Linux?

531
JasonK

Ich habe einen Desktop-Tower, aber die Stromversorgung ist zu gering für die GPU, die ich für maschinelles Lernen in Betracht ziehe - den RTX 2080 - und außerdem mache ich mir Sorgen um die Hitze in dieser Maschine, die die Lüfter hart zu benutzen beginnt wenn auch nur eine CPU zu 100% läuft. Bei einer externen Lösung können bei Bedarf auch GPUs hinzugefügt werden.

Eine Option könnte sein, eine externe GPU anzuschließen, aber ich frage mich, welche Art von Leistung betroffen ist. Bei einer Thunderbolt-2-Verbindung vor ein paar Jahren wurden 30% Leistungsverlust gemeldet, aber ich würde eine T3-Verbindung verwenden (oder was auch immer am neuesten / schnellsten ist). Andererseits ist auch die GPU-Verarbeitungsleistung / -geschwindigkeit gegenüber einigen Jahren deutlich gestiegen. Der RTX 2080 verfügt über eine Speicherbandbreite von 40 Gbit / s. Dies ist ein Achtel (denke ich) der T3-Übertragungsrate von 40 GB / s. Andererseits weiß ich nicht, wie viel Bandbreite zwischen der Grafikkarte und dem Rest des Computers erforderlich ist.

Ein verwandtes Problem ist, ob Linux (ich verwende Ubuntu / Kubuntu) mit externen GPUs / T3-Geräten funktioniert.

Irgendwelche Gedanken / Erfahrungen?

1
Das Kühlsystem von außen mit Strom versorgen, indem die Lüfterkabel an eine externe Stromversorgung angeschlossen werden? Flüssigkeitskühlung K7AAY vor 5 Jahren 1
Warum braucht "Machine Learning" speziell eine GPU? Xen2050 vor 5 Jahren 0
Hallo Xen2050: Neuronale Netzwerke benötigen viel Rechenaufwand und GPUs haben eine wesentlich höhere Rechenleistung als CPUs. JasonK vor 5 Jahren 0
Die prozentuale Rechenzeitverlangsamung zwischen einer internen und einer externen GPU erscheint mir als eine sachliche Frage: Jemand könnte die Berechnungszeit zwischen den beiden für ein bestimmtes neuronales Netz berechnen. Ich denke, das "wie gut" Linux mit externen GPUs funktioniert, ist Ansichtssache, aber ich habe jetzt geändert, ob Linux mit "ob" funktioniert. JasonK vor 5 Jahren 0

0 Antworten auf die Frage

Verwandte Probleme