Может кто-то показать готовый пример robots-a? Буду очень благодарен если покажите пример. А то сам не спец в этом деле.
User-agent: * Disallow: /backups/ Disallow: /backup/ Disallow: /board/ Disallow: /components/ Disallow: /wysiwyg/ Disallow: /includes/ Disallow: /modules/ Disallow: /filters/ Disallow: /languages/ Disallow: /users/ Disallow: /core/ Disallow: /login/ Disallow: /forum/thread*-1.html Disallow: /templates Disallow: /admin/ Disallow: /registration/ Disallow: /tag/ Disallow: /search/ Disallow: /rss/ Disallow: /*search Disallow: /*comments Disallow: /*login Disallow: /*admin Disallow: /*registration Disallow: /index.php$ Host:Ваш сайт
Обновил Как то так.A папку templates не закрывать от индексации?
Вторю ветку пока не устанавливал, но там примерно также.guloc, это вы привели пример для первой ветки, а может у кого-нибудь составлен для второй? Меня тоже интересует данная тема, особенно интересно посмотреть на robors.txt идеально подходяций для основных поисковиков, хочется чтобы лишнего мусора для индексации не поступало.
Обновил Как то так.A папку templates не закрывать от индексации?
Спасибо.
Мне как раз для первой ветки и нужно.
Disallow: /forum/thread*-1.html
Disallow: /*search
Disallow: /index.php$
Disallow: /forum/thread*-1.html #закрываем дубль первой страницы темы на форумеguloc, а вот это что означает?
Disallow: /forum/thread*-1.html
Disallow: /*search
Disallow: /index.php$
Disallow: /*search # Эта строка говорит поисковым роботам, что искать в результатах поиска не нужно
Disallow: /index.php$ #закрываем все ссылки кончаемые на index.php$