RubyGems Navigation menu

arachnidish 0.0.1

Arachnidish is a web crawler that relies on Bloom Filters to efficiently store visited urls and Typhoeus to avoid the overhead of Mechanize when crawling every page on a domain.

Gemfile:
=

instalar:
=

Versiones:

  1. 0.0.1 November 09, 2015 (6 KB)

dependencias de Runtime (4):

bloomfilter-rb = 2.1.1
nokogiri ~> 1.6
typhoeus = 0.3.2

Propietarios:

Autores:

  • csphere

SHA 256 checksum:

=

Total de descargas 3.413

Para esta versión 3.413

Versión publicada:

Licencias:

N/A

Versión de Ruby requerida: >= 0

Enlace: