Açık KaynakScraping55k
Scrapy
Büyük ölçekli web taraması için savaş testinden geçmiş Python çerçevesi.
Scrapy, asenkron Twisted çekirdeği üzerine inşa edilmiş; web sitelerini büyük ölçekte taramak ve yapılandırılmış veri çıkarmak için hızlı, olgun ve açık kaynaklı bir çerçevedir. Örümcekler, öğe hatları, ara yazılımlar, otomatik kısıtlama ve seçiciler için yerleşik destek sunarak üretim Python veri taramasının fiili standardı haline gelmiştir. Genişletilebilirliği ve çevresindeki eklenti ile dağıtım araçları ekosistemiyle öne çıkmaktadır.
Depo
scrapy/scrapyDil
PythonBununla neler kurabilirsin
- Büyük ölçekte eğitim veya RAG veri kümeleri toplayan üretim tarayıcıları oluşturmak
- Kısıtlama ve yeniden deneme ara yazılımıyla zamanlanmış, dağıtık taramalar çalıştırmak
- Aşağı akış hatları için yapılandırılmış öğeleri JSON/CSV beslemelerine çıkarmak
Etiketler
crawlingscrapingframeworkpython