robots.txt kontrolü ne gösterir?
robots.txt, botlara hangi yolların taranabileceğini söyler. Araç dosyayı indirir, HTTP kodunu, Sitemap satırlarını, Allow ve Disallow sayılarını ve ham metni gösterir. Yanlış bir Disallow: / kuralı sitenin tamamını taramadan çıkarır. Dosyanın yokluğu her yolun taranabileceği anlamına gelir; bu her zaman hata değildir.
- Yönetim panelini robots ile gizlemek yetmez. Panelin şifresi olmalıdır. robots adresi duyurur.
- Sitemap satırı, haritanın yerini tüm botlara bildirir. Harita yoksa keşif yavaşlar, sıra doğrudan düşmez.
- Googlebot ile AdsBot kurallarını karıştırmayın. Reklam botunu kapatmak kampanyayı etkiler.
- Dosyayı değiştirdikten sonra Search Console’da robots testini de çalıştırın. Bu araç anlık içeriği okur.