Ich habe nie Probleme damit, einen DHCP-Server in einer Arbeitsgruppe einzurichten. Ich sehe nicht einmal, wo dein Problem ist.
Wenn dies der Fall ist, wenn Sie einen Domänennamen eingeben müssen ... geben Sie einfach einen Domänennamen ein. Was immer du magst. Es wird nicht verwendet.
Beachten Sie, dass ein DHCP-Server auf einem eigenständigen Windows 2008-Server angehalten wird, wenn er einen "autorisierten" DHCP-Server erkennt. Dies kann auch zu Speicherverbrauch führen. Sie müssen einen Registrierungswert ändern:
HKEY_LOCAL_MACHINE\System\CurrentControlSet\Services\DHCPServer\Parameters REG_DWORD DisableRogueDetection = 1