RubyGems Navigation menu

robotstxt-parser 0.1.0

Robotstxt-Parser allows you to the check the accessibility of URLs and get other data. Full support for the robots.txt RFC, wildcards and Sitemap: rules.

Gemfile:
=

installieren:
=

Versionen:

  1. 0.1.1 September 18, 2014 (15 KB)
  2. 0.1.0 September 18, 2014 (15 KB)

Development Abhängigkeiten (2):

fakeweb ~> 1.3
rake >= 0

Besitzer:

Autoren:

  • Garen Torikian

SHA 256-Prüfsumme:

=

Downloads insgesamt 164.313

Für diese Version 2.362

Version veröffentlicht:

Lizenz:

MIT

Erforderliche Ruby-Version: >= 0

Links: