Xenforo robots.txt

Xenforo robots.txt dosyasını otomatik olarak bünyesinde barındırmaz daha doğrusu hiç bir sistem bünyesinde barındırmaz. Bu yüzden arama motorlarının botları sitemizi daha iyi taraması için robots.txt oluştururuz.

Robots.txt nedir ?

robots.txt dosyası, arama motoru tarayıcılarının sitenizde erişmesini istemediğiniz yerleri gösteren ve sitenizin kök dizininde bulunan bir dosyadır. Dosya, küçük bir komut setine sahip bir protokol olan Robotları Engelleme Standardı’nı kullanır.

Xenforo için Google dostu robots.txt

User-agent: Mediapartners-Google
Allow:
 
User-agent: ia_archiver
Allow:
 
User-agent: duggmirror
Disallow: /
 
User-agent: *
Disallow: /find-new/
Disallow: /account/
Disallow: /attachments/
Disallow: /conversations/
Disallow: /goto/
Disallow: /login/
Disallow: /admin.php
Disallow: /search/
Allow: /
 
Sitemap: http://siteisminiz.com/sitemap.php

Router Filter kullandım ne yapacağım ?

Bu durumda url’nin her halini girmeniz gerekiyor.

Disallow: /account/ 
Disallow: /hesap/

Robots.txt hakkında daha fazla bilgi edinmek için tıklayınız.