Örümcek veya bot olarak da bilinen tarayıcı, Google'ın web sayfalarının içeriğini işlemek ve dizine eklemek üzere kullandığı yazılımdır. İçerik tarayıcısı, sitenizin içeriğini belirleyip alakalı reklamlar sunmak için sitenizi ziyaret eder.
İçerik tarayıcı hakkında bilmeniz gereken önemli noktalar:
- Tarayıcı raporu haftalık olarak güncellenir.
Tarama otomatik olarak gerçekleştirilir. Daha sık tarama yapılmasına yönelik istekleri kabul edemiyoruz. - İçerik tarayıcısı, Google tarayıcısından farklıdır.
Bu iki tarayıcı birbirinden ayrıdır, ancak bir önbelleği paylaşırlar. Bunun nedeni, her iki tarayıcının da aynı sayfaları istemesini önleyerek bant genişliğinizi korumanıza yardımcı olmaktır. Benzer şekilde, Search Console tarayıcısı da ayrıdır. - İçerik tarayıcısıyla ilgili sorunların giderilmesi, Google taramasıyla ilgili sorunları ortadan kaldırmaz.
Tarayıcı erişimi sayfanızda listelenen sorunları düzeltmek, Google arama sıralamanızı etkilemez.Not: Sitenizin Google'daki sıralaması hakkında daha fazla bilgi edinmek için Google arama sonuçlarına dahil etme başlıklı makaleyi inceleyin. - Tarayıcı, içeriği URL'ye göre dizine ekler.
Örneğin, tarayıcımız "site.com" ve "www.site.com" adreslerine ayrı ayrı erişir. Ancak tarayıcımız "site.com" ve "site.com/#anchor" adreslerini ayrı adresler olarak kabul etmez. - Tarayıcı, bir robots.txt dosyası tarafından yasaklanan sayfalara veya dizinlere erişmez.
Hem Google hem AdMob Mediapartners tarayıcıları, robots.txt dosyanızı dikkate alır. robots.txt dosyanız belirli sayfalara veya dizinlere erişimi yasaklıyorsa söz konusu sayfa ve dizinler taranmaz.Not:User-agent: *
satırıyla robot dışında bırakılan sayfalarda reklam yayınlıyorsanız içerik tarayıcısının bu sayfaları taramaya devam edeceğini unutmayın. İçerik tarayıcısının sayfalarınıza erişmesini engellemek için robots.txt dosyanızdaUser-agent: Mediapartners-Google
satırının bulunması gerekir.Tarayıcımızın sayfalarınıza erişmesine izin verme hakkında daha fazla bilgi edinin. - Tarayıcı, yalnızca reklam etiketlerimizin uygulandığı URL'lere erişmeye çalışır.
Yalnızca Google reklamlarının gösterildiği sayfalar sistemlerimize istek göndermeli ve taranmalıdır. - Tarayıcı, yönlendirme yapan sayfalara erişmeye çalışır.
Başka sayfalara yönlendiren "orijinal sayfalarınız" olduğunda, tarayıcımızın yeniden yönlendirmenin yürürlükte olup olmadığını saptamak için orijinal sayfalara erişmesi gerekir. Bu nedenle, tarayıcımızın orijinal sayfalara yaptığı ziyaret, erişim günlüklerinizde görüntülenir. - Tarayıcılarımızın sitenizdeki içeriği ne sıklıkta dizine eklediğini denetlemenin bir yolu yoktur.
Tarama işlemi şu anda botlarımız tarafından otomatik olarak yapılmaktadır. Bir sayfada değişiklik yaparsanız değişikliklerin dizinimize yansıtılması 1 veya 2 hafta sürebilir.