Google a problem z dużymi plikami robots.txt?
Google a problem z dużymi plikami robots.txt?
Google porusza temat plików robots.txt i ich wpływu na praktyki SEO. Podczas sesji pytań i odpowiedzi, John Mueller, advocate wyszukiwania w Google, wyjaśnia, dlaczego warto utrzymywać pliki robots.txt w rozsądnych rozmiarach.
W dyskusji bierze udział David Zieger, menedżer SEO pracujący dla dużego wydawcy w Niemczech, który zgłasza obawy dotyczące swojego „ogromnego” i „skomplikowanego” pliku robots.txt. Jak wielki jest problem? Zieger wskazuje na ponad 1,500 linii, w których znajduje się wiele disallow, które rosną z upływem lat.
Te disallow uniemożliwiają Google indeksowanie fragmentów HTML oraz URL-i, w których wykorzystywane są wywołania AJAX. Zieger podkreśla, że ustawienie noindex nie jest możliwe, co skłoniło go do wypełnienia pliku robots.txt zakazami.
Na podstawie: Źródła








