web scraping
February 23, 2017
Was ist Web Scraping?
Automatisches Auslesen von Webseiteninhalten, um Daten zu strukturieren. Oft als Alternative, wenn es keine API gibt.
Typischer Ablauf
- Zielseite analysieren (HTML Struktur, IDs, Klassen)
- HTTP Requests senden
- HTML parsen
- Daten speichern (CSV, JSON, DB)
- Rate Limiting und Fehlerbehandlung
Tools (Python)
requests+BeautifulSoupfuer einfache SeitenScrapyfuer groessere CrawlerPlaywright/Seleniumfuer Seiten mit viel JavaScript
Rechtliches und Ethik
- Nutzungsbedingungen pruefen
robots.txtrespektieren (kein Gesetz, aber guter Stil)- Nicht zu schnell oder zu oft anfragen
- Keine persoenlichen Daten sammeln
Wenn moeglich: API nutzen
APIs sind stabiler, schneller und oft offiziell erlaubt. Scraping ist die "Plan B" Variante.