Yahoo Slurp Crawler przenosi się na nowy adres!
Yahoo Slurp Crawler przenosi się na nowy adres!
Yahoo zaktualizowało swój crawler, Yahoo Slurp, przenosząc go na nowy adres: crawl.yahoo.net. Dla wydawców korzystających z filtracji IP, zmiana ta nie powinna wymagać edytowania plików robots.txt, ponieważ adres IP pozostaje ten sam.
W celu zabezpieczenia przed nieautoryzowanymi botami, Yahoo zaleca ustawienie uwierzytelniania DNS wstecznego. Dzięki temu można mieć pewność, że tylko prawdziwe boty Yahoo odwiedzają stronę. Jak to działa?
Sprawdzaj user-agent oraz adres IP przy każdym żądaniu.Żądania od Yahoo! Slurp zaczynają się od ‘Yahoo! Slurp’ w user-agencie.Warto wdrożyć te środki, aby chronić swoją stronę przed fałszywymi botami, które mogą próbować podszywać się pod prawdziwego Yahoo Slurpa.
Na podstawie: Źródła








