Этот пост должен помочь тем, кто недавно создал свой сайт или блог. Сама тема не нова и Вы, конечно же, многократно «встречались» с этим плагином, и знаете его предназначение для ресурсов, созданных на базе WordPress.
Коротко поясню, robots.txt — особый файл в формате txt , куда заложена подсказка для поисковых роботов. Благодаря этому плагину, можно ввести запрет на индексацию, выбранных Вами страниц, записей и др., а так же, точно указать зеркало домена и расписать путь к плагину sitemap.xml .
Когда я создавал свои первые блоги и сайты, то об этом плагине мне было лишь известно, что его присутствие необходимо, но со временем узнал больше и сегодня хочу поделиться информацией, которая будет для Вас, уважаемый читатель, весьма полезной.