Robots.txt — текстовый файл, который содержит параметры индексирования сайта для роботов поисковых систем. Файл должен находиться в корне сайта.
Файл robots.txt используется для частичного управления индексированием сайта поисковыми роботами. Этот файл состоит из набора инструкций для поисковых машин, при помощи которых можно задать файлы, страницы или каталоги сайта, которые не должны индексироваться.
Данный онлайн сервис позволит автоматически cгенерировать текст файла robots.txt для Вашего сайта, со всеми необходимыми параметрами.