Verwenden Sie Wget . Einfach, skriptfähig, Befehlszeile und auf Ihrer bevorzugten Plattform verfügbar, egal ob Unix, Win *, Cygwin usw. (siehe Wikipedia für Links zu verschiedenen Versionen). Aus der Manpage :
--spider
Wenn Wget mit dieser Option aufgerufen wird, verhält es sich wie ein Web-Spider. Das bedeutet, dass die Seiten nicht heruntergeladen werden, sondern lediglich überprüft wird, ob sie vorhanden sind. Sie können beispielsweise Wget verwenden, um Ihre Lesezeichen zu überprüfen:
wget --spider --force-html -i bookmarks.html
Diese Funktion erfordert viel mehr Arbeit für Wget, um an die Funktionalität echter Web-Spider heranzukommen.
Möglicherweise möchten Sie auch die --no-verbose
und / oder --output-document=file
Optionen.