Öppen källkodScraping55k
Scrapy
Det beprövade Python-ramverket för storskalig webbcrawling.
Scrapy är ett snabbt, moget open-source-ramverk för att crawla webbplatser och extrahera strukturerad data i skala, byggt på en asynkron Twisted-kärna. Det tillhandahåller spindlar, itempipelines, middlewares, autothrottling och inbyggt stöd för selektorer, vilket gör det till de facto-standarden för produktionsmässig Python-skrapning. Det utmärker sig för sin utbyggbarhet och det omkringliggande ekosystemet av plugins och driftsättningsverktyg.
Kodförråd
scrapy/scrapySpråk
PythonVad du kan bygga med det
- Bygga produktionskvalitetscrawlers som samlar tränings- eller RAG-datamängder i stor skala
- Köra schemalagda, distribuerade skrapningar med throttling och retry-middleware
- Extrahera strukturerade objekt till JSON/CSV-flöden för nedströmspipelines
Taggar
crawlingscrapingframeworkpython