Yahoo blokuje boty: Co to oznacza dla SEO?
Yahoo blokuje boty: Co to oznacza dla SEO?
W miniony weekend Yahoo zablokowało roboty i boty spoza własnych wyszukiwarek, uniemożliwiając im przeszukiwanie serwisu Delicious. Colin Cochrane ujawnił, że to nie jest jedynie prosta blokada w pliku robots.txt, ale odpowiedź 404, która jest teraz serwowana w zależności od żądania User-Agent.
Analizując plik robots.txt Delicious, można zauważyć, że uniemożliwia on dostęp do takich botów jak Googlebot, Slurp, Teoma i msnbot. Blokowane są następujące ścieżki:
/inbox/subscriptions/network/search/post/login/rssBlokując te roboty, Yahoo może kontrolować, które strony i zakładki są widoczne w wyszukiwarkach, co ma istotny wpływ na pozycjonowanie.
Na podstawie: Źródła








