In Mathematica müssen Sie es in der folgenden Form angeben:
eqn = x*y'[x] - y[x] == Sqrt[1 + x^2]*y'[x] + Sqrt[1 + y[x]^2] DSolve[eqn, y[x], x]
Damit bekomme ich:
{}
mit der folgenden Warnung:
Solve :: tdep: Die Gleichungen scheinen die zu lösenden Variablen auf im Wesentlichen nicht-algebraische Weise einzubeziehen.
Aus der Hilfe geht hervor, dass der Löser auf eine transzendentale Funktion gestoßen ist. Das ist ungefähr so weit, wie ich das nehmen kann. Hoffe, das hilft dir, weiterzumachen.