Alle open source
Open SourceScraping17k

Crawlee

Productie-klare crawlbibliotheek met wachtrijen, proxy-rotatie en sessies.

Crawlee is een web scraping- en browserautomatiseringsbibliotheek van Apify voor het bouwen van betrouwbare crawlers in Node.js/TypeScript en Python. Het biedt uniforme HTTP- en headless-browsercrawlers (Playwright, Puppeteer), automatische verzoekwachtrijen, proxy-rotatie en anti-blokkeerfeatures. Opvallend is de ingebouwde afhandeling van crawl-statusbeheer, schaling en nieuwe pogingen.

Opslagplaats

apify/crawlee

Taal

TypeScript

Wat je ermee zou bouwen

  • Grootschalige crawlers bouwen met automatische wachtrijen en nieuwe pogingen
  • Proxies roteren en sessies beheren om blokkering te voorkomen
  • JavaScript-zware sites crawlen met beheerde headless browsers

Tags

crawlingscrapingproxy