N

neol

0
Репутация
0
Рейтинг
#1 robots.txt 30 августа 2021 в 12:06

Директива Crawl-delay — тоже уже устарела.

«С 22 февраля 2018 года Яндекс перестал учитывать директиву Crawl-delay.

Чтобы задать скорость, с которой роботы будут загружать страницы сайта, используйте Скорость обхода сайта в Яндекс.Вебмастере.»

Используя этот сайт, вы соглашаетесь с тем, что мы используем файлы cookie.