Sie suchen nach einer Technik namens web scraping
. Sie können dies verwenden, um Daten von Websites zu sammeln, die keine APIs zum Abrufen der Daten bieten. Es gibt viele Werkzeuge dafür und es gibt auch viele Bibliotheken für verschiedene Sprachen (zB BeautifulSoup
Python). Beachten Sie, dass Sie möglicherweise rechtmäßig mit rechtlichen Problemen konfrontiert werden, wenn Sie eine Site ohne Erlaubnis ständig kratzen.
So kopieren Sie automatisch Text von verschiedenen Websites
Ich möchte wissen, wie man automatisch Text von verschiedenen Websites kopiert. Ich baue eine Datenbank mit Unternehmen auf, die bestimmten Verbänden angehören. Die Website enthält eine Liste von Unternehmen mit der Beschreibung der einzelnen Unternehmen, die ich manuell kopiere. Gibt es eine Möglichkeit, ein Makro zu erstellen und dieses automatisch zu erstellen, da immer wieder derselbe Vorgang wiederholt wird.
Oder weiß jemand, in welcher Sprache ich etwas Ähnliches entwickeln könnte? Vielen Dank,
2 Antworten auf die Frage
Bei "Software Recommendations" gibt es eine Liste guter Web-Scraping-Anwendungen, die alle das können, was Sie brauchen.
Wenn Sie gerade mit dem Bildschirm-Scraping beginnen, sind Werkzeuge mit einem Rekorder möglicherweise am besten. Dadurch wird vermieden, dass alle Selektoren manuell erstellt werden. Es gibt jedoch keine Lösung, die auf magische Weise mit jeder Website funktioniert. Selbst die Tools mit einem Rekorder erfordern oft einige Anpassungen für jede Seite.
Verwandte Probleme
-
3
Wie kann ich eine Verzeichnisstruktur "invertieren"?
-
1
Pausieren Sie alle Aufgaben außer x CPU-intensiven Aufgaben
-
7
Starten Sie den Synergy-Client beim Booten in Mac OS X
-
14
Anonym surfen im Internet
-
5
Mit Updates auf dem Laufenden bleiben?
-
4
Wie synchronisieren Sie GreaseMonkey-Skripts zwischen Computern?
-
3
Automatisierte Bulk-Screencaps von Videos
-
1
Kann ich ein Skript schreiben, das Benutzer automatisch wechselt?
-
6
Guter PowerShell-Leitfaden, der durch fortgeschrittene Verwendung Einstieg leistet
-
6
Web Log Files Analyzer