All öppen källkod
Öppen källkodScraping55k

Scrapy

Det beprövade Python-ramverket för storskalig webbcrawling.

Scrapy är ett snabbt, moget open-source-ramverk för att crawla webbplatser och extrahera strukturerad data i skala, byggt på en asynkron Twisted-kärna. Det tillhandahåller spindlar, itempipelines, middlewares, autothrottling och inbyggt stöd för selektorer, vilket gör det till de facto-standarden för produktionsmässig Python-skrapning. Det utmärker sig för sin utbyggbarhet och det omkringliggande ekosystemet av plugins och driftsättningsverktyg.

Kodförråd

scrapy/scrapy

Språk

Python

Vad du kan bygga med det

  • Bygga produktionskvalitetscrawlers som samlar tränings- eller RAG-datamängder i stor skala
  • Köra schemalagda, distribuerade skrapningar med throttling och retry-middleware
  • Extrahera strukturerade objekt till JSON/CSV-flöden för nedströmspipelines

Taggar

crawlingscrapingframeworkpython