Googlebot
Googlebot, Google tarafından kullanılan bir arama botudur. Bu bot web'deki dokümanları toplar ve Google Arama Motoru için aranabilir bir içerik listesi (index) oluşturur. Eğer site yöneticiyseniz ve sitenizin Google aramalarında ya da herhangi bir arama motoru botunun indeksleme işleminde çıkmasını istemiyorsanız sitenizin dizininde bir robots.txt adlı dosya oluşturarak,[1] ya da sadece Googlebot için aşağıdaki meta etiketini kullanarak botların indekslemesini engelleyebilirsiniz.
<meta name="Googlebot" content="noindex">
Googlebot'un indeksleme yapabilmesi için, sunucularda "googlebot.com" içeren bir web sitesi (host address) ve içinde Googlebot kelimesinin geçtiği bir user-agent kodlu metine ihtiyaç duyarlar.[1] Bakınız : robots.txt
Googlebot'un iki sürümü vardır: "Derinbot" (deepbot) ve "yenileyici bot" (fresh bot).
- Deepbot Web'de bulunan bütün bağlantıları takip etmeye çalışır ve birçok sayfayı Google indeksleyicisine indirir. Bu işlemi ayda bir kez yapar ve tamamlar.
- Freshbot web sayfalarındaki yenilenmiş içerikleri tarar. Sıklıkla yenilenen web sitelerini değişme sıklıklarınıa bağlı olarak tarar, değişikleri kontrol eder. Yalnız Googlebot HREF ve SRC linkleri takip eder.[1]
Googlebot bir sayfayı, o sayfa üzerinde bulunan bütün bağlantıları ziyaret ederek işler, sonra da o bağlantılardan başka web sayfalarına geçer. Bu nedenle ayrıca yeni web sayfaları indekslenmek için başka bilinen web sayfalarından ulaşılabilmelidir.
Site yöneticileri, Googlebot'un tarama yaptığı sırada siteye ayrılan bant genişliğinin çoğunu kullandığını ve bu nedenle web sitelerinin zaman zaman bant genişliği limitlerini aştığını ve geçici olarak sitelerinde çökmeler olduğunu belirtmektedirler. Bu durum özellikle onlarca gigabyte veri barındıran yansıma—ayna-- (ing. mirror) siteler için sorun olmaktadır. Google ayrıca site yöneticilerini tarama (indekslenme) oranlarını yükseltmek için çeşitli yolların anlatıldığı bir Webmaster Tools sayfasına sahiptir.[2]
Kaynakça
değiştir- ^ a b c "Google UK Webmaster Tools ( İngilizce )". 9 Mart 2009 tarihinde kaynağından arşivlendi. Erişim tarihi: 16 Aralık 2008.
- ^ "Google Webmaster Tools ( İngilizce )". 12 Aralık 2020 tarihinde kaynağından arşivlendi. Erişim tarihi: 16 Aralık 2008.
Dış bağlantılar
değiştir- Google'ın resmi Googlebot SSS sayfası -- İngilizce-- 6 Temmuz 2008 tarihinde Wayback Machine sitesinde arşivlendi.
- 3G Teknolojisi ve Google botları -- türkçe---
- Google Bot Activity Logger -- türkçe---
 | Google ile ilgili bu madde taslak seviyesindedir. Madde içeriğini genişleterek Vikipedi'ye katkı sağlayabilirsiniz. |