Open SourceScraping52k
Crawl4AI
Crawler et scraper web open source adapté aux LLMs, conçu pour les agents.
Crawl4AI est un crawler et scraper Python open source conçu pour produire des sorties adaptées aux LLMs, générant du markdown propre et des extractions structurées à partir de pages web. Il supporte le crawling asynchrone, le rendu headless et des stratégies d'extraction basées sur LLM ou schéma. Il est notamment reconnu comme une alternative gratuite et très populaire pour préparer des données web destinées aux pipelines IA.
Dépôt
unclecode/crawl4aiLangage
PythonCe que vous pourriez construire avec
- Crawler des pages et les convertir en markdown pour l'ingestion LLM
- Lancer des tâches de scraping asynchrones à haut débit
- Extraire des données structurées via CSS/XPath ou des stratégies LLM pour le RAG
Tags
crawlingllm-readyasync