RubyGems Navigation menu

arachnid 0.3.0

Arachnid is a web crawler that relies on Bloom Filters to efficiently store visited urls and Typhoeus to avoid the overhead of Mechanize when crawling every page on a domain.

Gemfile:
=

instalar:
=

Versiones:

  1. 0.4.1 January 17, 2014 (5 KB)
  2. 0.4.0 January 16, 2014 (4,5 KB)
  3. 0.3.2 January 16, 2014 (5 KB)
  4. 0.3.1 January 16, 2014 (5 KB)
  5. 0.3.0 January 16, 2014 (4,5 KB)
Mostrar todas las versiones (12 total)

dependencias de Runtime (4):

bloomfilter-rb = 2.1.1
domainatrix = 0.0.10
nokogiri = 1.5.0
typhoeus = 0.3.2

Propietarios:

Autores:

  • dchuk

SHA 256 checksum:

=

Total de descargas 50.085

Para esta versión 3.439

Versión publicada:

Licencias:

N/A

Versión de Ruby requerida: Ninguno

Enlace: