Правильный robots.txt для сайта - зачем нужен, как составить и где проверить
В настоящее время практически у каждого сайта имеется специальный файл, который служит для предоставления поисковым системам информации о том, как правильно индексировать сайт. Называется такой файл robots.txt - по сути это простой текстовый файл с инструкциями. В нем содержатся запреты, разрешения и прочие указания для поисковиков.
Составить такой файл можно самостоятельно, достаточно знать лишь некоторые общие правила. Приведем пример файла robots.txt и рассмотрим его ниже:
User-agent: *
# Directories
Disallow: /core/
Disallow: /custom/
Disallow: /modules/
Allow: /custom/modules/*.js
Allow: /custom/modules/*.css
Allow: /custom/modules/*.jpg
# Files
Disallow: /license.txt
Disallow: /index.php
# URL
Host: https://example.com
Sitemap: https://example.com/sitemap.xml
Коротко рассмотрим все основные элементы приведенного файла:
- ключевое слово User-agent указывает, для каких агентов поисковых систем прописаны правила – значение * означает, что правила прописаны для всех поисковых роботов;
- комментарии помечаются символом #, после которого может следовать любой текст;
- ключевое слово Disallow означает запрет индексирования указанного адреса, можно запретить целые разделы сайта;
- для разрешения индексация используется ключевое слово Allow;
- ключевое слово Host служит для задания основного домена сайта;
- ключевое слово Sitemap служит для задания пути к карте адресов.
Используя вышеуказанные ключевые слова можно составить файл robots.txt нужным образом. После составления правил, необходимо проверить файл robots.txt при помощи специальных сервисов, которые покажут есть ли в нем ошибки и предложат исправления и рекомендации в случае необходимости. Лучше всего использовать утилиты от крупных сервисов, например, Webmaster от Google или Yandex.
Таким образом, в статье было рассмотрено, зачем нужен robots.txt, как его правильно составить и где можно проверить.
Последние статьи
- 04.06.20 Как самому перенести сайт на другой хостинг или тариф удаленно, без скачивания на компьютер
- 03.06.20 Какой тариф выбрать и на сколько заказывать хостинг чтобы сэкономить
- 02.06.20 Какой тип хостинга выбрать – обычный виртуальный, хостинг для CMS, VPS, VDS или выделенный сервер
- 01.06.20 Как сделать счетчик просмотров материала на сайте
- 10.05.20 Как в программировании быстро придумать правильные названия переменных, функций, классов, свойств, методов и т.д.