Tüm açık kaynaklar
Açık KaynakScraping55k

Scrapy

Büyük ölçekli web taraması için savaş testinden geçmiş Python çerçevesi.

Scrapy, asenkron Twisted çekirdeği üzerine inşa edilmiş; web sitelerini büyük ölçekte taramak ve yapılandırılmış veri çıkarmak için hızlı, olgun ve açık kaynaklı bir çerçevedir. Örümcekler, öğe hatları, ara yazılımlar, otomatik kısıtlama ve seçiciler için yerleşik destek sunarak üretim Python veri taramasının fiili standardı haline gelmiştir. Genişletilebilirliği ve çevresindeki eklenti ile dağıtım araçları ekosistemiyle öne çıkmaktadır.

Depo

scrapy/scrapy

Dil

Python

Bununla neler kurabilirsin

  • Büyük ölçekte eğitim veya RAG veri kümeleri toplayan üretim tarayıcıları oluşturmak
  • Kısıtlama ve yeniden deneme ara yazılımıyla zamanlanmış, dağıtık taramalar çalıştırmak
  • Aşağı akış hatları için yapılandırılmış öğeleri JSON/CSV beslemelerine çıkarmak

Etiketler

crawlingscrapingframeworkpython