Startsida Utforska Hjälp
Logga in
database.pizza
/
olive
spegling av https://github.com/database-pizza/olive
2
0
Fork 0
Filer Ärenden 0 Wiki
Träd: 33742b2d9b
Grenar Taggar
olive
/
static
/
robots.txt

robots.txt 63 B
Historik Rå

123 
  1. # allow crawling everything by default
    2. 

  2. User-agent: *
    3. 

  3. Disallow:
    4.