При помощи одного из онлайн сервисов генерации файла robots.txt [hide](
этот сервис)[/hide]
получился вот такой файл:
User-agent : Googlebot
Disallow: /backups/ # на любителя
Disallow: /backup/ # на любителя
Disallow: /components/
Disallow: /wysiwyg/
Disallow: /includes/
Disallow: /modules/
Disallow: /filters/
Disallow: /languages/
Disallow: /users/
Disallow: /core/
Disallow: /login/
Disallow: /admin/
Disallow: /registration/
Disallow: /tag/
Disallow: /search/
Disallow: /rss/
Disallow: /*search
Disallow: /*comments
Disallow: /*login
Disallow: /*admin
Disallow: /*registration
Disallow: /index.php$
Sitemap: http://сайт.ua/sitemap.xml
Host: http://сайт.ua/
User-agent: Slurp # дабы не нагибал сайт
Crawl-delay: 100
# на основе этого, легко подстроить под себя
User-agent : Yandex
Disallow: /backups/ # на любителя
Disallow: /backup/ # на любителя
Disallow: /components/
Disallow: /wysiwyg/
Disallow: /includes/
Disallow: /modules/
Disallow: /filters/
Disallow: /languages/
Disallow: /users/
Disallow: /core/
Disallow: /login/
Disallow: /admin/
Disallow: /registration/
Disallow: /tag/
Disallow: /search/
Disallow: /rss/
Disallow: /*search
Disallow: /*comments
Disallow: /*login
Disallow: /*admin
Disallow: /*registration
Disallow: /index.php$
Sitemap: http://сайт.ua/sitemap.xml
Host: http://сайт.ua/
User-agent: *
Disallow: /backups/ # на любителя
Disallow: /backup/ # на любителя
Disallow: /components/
Disallow: /wysiwyg/
Disallow: /includes/
Disallow: /modules/
Disallow: /filters/
Disallow: /languages/
Disallow: /users/
Disallow: /core/
Disallow: /login/
Disallow: /admin/
Disallow: /registration/
Disallow: /tag/
Disallow: /search/
Disallow: /rss/
Disallow: /*search
Disallow: /*comments
Disallow: /*login
Disallow: /*admin
Disallow: /*registration
Disallow: /index.php$
Sitemap: http://сайт.ua/sitemap.xml
Host: http://сайт.ua/
Так вот, сервис прописал закрытие от ПС
доски объявлений (Disallow: /board/) — у себя убрал. И
профили пользователей и
теги закрыты.
Необходимо ли это для SEO?
Основное зеркало указывать с приставкой "
" или без?