Как грамотно составить robots для instantcms?

#1 9 октября 2014 в 10:37
Как правильно составить robots для instantcms? Какие разделы нужно закрыть от индексации? и т.д.
Может кто-то показать готовый пример robots-a? Буду очень благодарен если покажите пример. А то сам не спец в этом деле.
#2 9 октября 2014 в 10:47
Вот мой
  1. User-agent: *
  2. Disallow: /backups/
  3. Disallow: /backup/
  4. Disallow: /board/
  5. Disallow: /components/
  6. Disallow: /wysiwyg/
  7. Disallow: /includes/
  8. Disallow: /modules/
  9. Disallow: /filters/
  10. Disallow: /languages/
  11. Disallow: /users/
  12. Disallow: /core/
  13. Disallow: /login/
  14. Disallow: /forum/thread*-1.html
  15. Disallow: /templates
  16. Disallow: /admin/
  17. Disallow: /registration/
  18. Disallow: /tag/
  19. Disallow: /search/
  20. Disallow: /rss/
  21. Disallow: /*search
  22. Disallow: /*comments
  23. Disallow: /*login
  24. Disallow: /*admin
  25. Disallow: /*registration
  26. Disallow: /index.php$
  27. Host:Ваш сайт
#3 9 октября 2014 в 11:29
A папку templates не закрывать от индексации?
#4 9 октября 2014 в 11:38
guloc, это вы привели пример для первой ветки, а может у кого-нибудь составлен для второй? Меня тоже интересует данная тема, особенно интересно посмотреть на robors.txt идеально подходяций для основных поисковиков, хочется чтобы лишнего мусора для индексации не поступало.
#5 9 октября 2014 в 11:47

A папку templates не закрывать от индексации?

Stecc
Обновил Как то так.

guloc, это вы привели пример для первой ветки, а может у кого-нибудь составлен для второй? Меня тоже интересует данная тема, особенно интересно посмотреть на robors.txt идеально подходяций для основных поисковиков, хочется чтобы лишнего мусора для индексации не поступало.

Demet
Вторю ветку пока не устанавливал, но там примерно также.
#6 9 октября 2014 в 11:58


A папку templates не закрывать от индексации?

Stecc
Обновил Как то так.

guloc

Спасибо.

Мне как раз для первой ветки и нужно.
#7 9 октября 2014 в 20:18
guloc, а вот это что означает?
Disallow: /forum/thread*-1.html
Disallow: /*search
Disallow: /index.php$
#8 9 октября 2014 в 20:53

guloc, а вот это что означает?
Disallow: /forum/thread*-1.html
Disallow: /*search
Disallow: /index.php$

Stecc
Disallow: /forum/thread*-1.html #закрываем дубль первой страницы темы на форуме
Disallow: /*search # Эта строка говорит поисковым роботам, что искать в результатах поиска не нужно
Disallow: /index.php$ #закрываем все ссылки кончаемые на index.php$
#9 9 октября 2014 в 21:08
guloc, спасибо большое.
#10 11 октября 2014 в 10:44
Надо ли закрывать /go или сделать /go.php подскажите кто знает. спасибо
#11 11 октября 2014 в 11:18
А поискать здесь на сайте, в голову не кому не приходит)). тут много про роботс было
Вы не можете отвечать в этой теме.
Войдите или зарегистрируйтесь, чтобы писать на форуме.
Используя этот сайт, вы соглашаетесь с тем, что мы используем файлы cookie.