Open SourceScraping52k
Crawl4AI
Open-source LLM-vriendelijke webcrawler en scraper, gebouwd voor agents.
Crawl4AI is een open-source Python-crawler en scraper gebouwd om LLM-vriendelijke uitvoer te produceren: schone markdown en gestructureerde extracties van webpagina's. Het ondersteunt asynchroon crawlen, headless-browserrendering en LLM-gebaseerde of schema-gebaseerde extractiestrategieën. Het is een veelgebruikte, gratis alternatief voor het voorbereiden van webdata voor AI-pipelines.
Opslagplaats
unclecode/crawl4aiTaal
PythonWat je ermee zou bouwen
- Pagina's crawlen en omzetten naar markdown voor LLM-ingestie
- Async, hoge-doorvoer scraping-jobs uitvoeren
- Gestructureerde data extraheren via CSS/XPath- of LLM-strategieën voor RAG
Tags
crawlingllm-readyasync