“Robots.txt ne yapar? Web’de ne işe yarar?” diyorsanız önce okuyalım derim.
Şimdi birden aklıma geldi ben Google için robots.txt hazırlıyorum ama Google’un kendisi ne hazırlamış? Belki buna daha önce bakmışsınızdır. Ama bakmayanlar için güzel bir eğlence olacak.
Bu dosya sayesinde Google kendisinde hangi adreslerin indexlenmesini istemediğini yazıyor. Herhalde kısır döngü ile indexini indexletmesin diye. İşte ilginç bir iki tane, diğerlerini de siz deneyin. Böylece Google’un gözümüzden kaçan birçok işi ortaya çıkıyor.
http://www.google.com/sms/demo Cep telefonu olayı
http://www.google.com/microsoft Var mı böylesi kimileri de rakip der bu iki şirkete.
http://www.google.com/unclesam Sam Amca Amerikaaaa
http://www.google.com/pda PDA ekranına sığsın diye minimalistlere sunulur.
http://www.google.com/cobrand
Dosyanın orjinal kaynağı: www.google.com/robots.txt
Kod:
User-agent: *
Allow: /searchhistory/
Disallow: /search
Disallow: /groups
Disallow: /images
Disallow: /catalogs
Disallow: /catalogues
Disallow: /news
Disallow: /nwshp
Disallow: /?
Disallow: /addurl/image?
Disallow: /pagead/
Disallow: /relpage/
Disallow: /sorry/
Disallow: /imgres
Disallow: /keyword/
Disallow: /u/
Disallow: /univ/
Disallow: /cobrand
Disallow: /custom
Disallow: /advanced_group_search
Disallow: /advanced_search
Disallow: /googlesite
Disallow: /preferences
Disallow: /setprefs
Disallow: /swr
Disallow: /url
Disallow: /wml?
Disallow: /xhtml?
Disallow: /xml?
Disallow: /imode?
Disallow: /jsky?
Disallow: /pda?
Disallow: /sprint_xhtml
Disallow: /sprint_wml
Disallow: /pqa
Disallow: /palm
Disallow: /gwt/
Disallow: /purchases
Disallow: /hws
Disallow: /bsd?
Disallow: /linux?
Disallow: /mac?
Disallow: /microsoft?
Disallow: /unclesam?
Disallow: /answers/search?q=
Disallow: /local?
Disallow: /local_url
Disallow: /froogle?
Disallow: /froogle_
Disallow: /print?
Disallow: /books?
Disallow: /scholar?
Disallow: /complete
Disallow: /sponsoredlinks
Disallow: /videosearch?
Disallow: /videopreview?
Disallow: /videoprograminfo?
Disallow: /maps?
Disallow: /translate?
Disallow: /ie?
Disallow: /sms/demo?
Disallow: /katrina?
Disallow: /blogsearch?
Disallow: /blogsearch/
Disallow: /blogsearch_feeds
Disallow: /advanced_blog_search
Disallow: /reader/
Disallow: /chart?
Disallow: /transit?
Güneşin Tam İçinde, özenle hazırlanıp araştırılan, yüzlerce orijinal yazı ve görselden oluşuyor. Dilerseniz 
Merhaba, değerli ziyaretçiler. 
Yorum Yazın
Daha önce yüklemediyseniz gravatar sitesine bir simge yükleyin.
Böylece yorum yaptığınız pek çok sitede e-mailinizi yazıp yorum yaptığınızda simgeniz otomatik olarak gelecektir.