Что не так с моим robots.txt

AndreyM

Приватовец
Приватовец
Регистрация
13 Мар 2017
Сообщения
207
Реакции
57
Баллы
28
Несколько дней назад я закрыл от индексации все страницы категорий, кроме их главной, чтобы не было вот таких /film/page/24 в поиске.

Сегодня в вебмастер яндекса удалил 590 моих страниц с поиска. В основном это как раз ненужные страницы категорий, но среди них есть несколько вполне нормальных страницы такого вида /id-title.html и он еще пишет на них ,что она запрещена в robots.txt

Подскажите что я сделал не так, вот мой robots.txt
Код:
User-agent: *
Disallow: /engine/go.php
Disallow: /engine/download.php
Disallow: /rules.html
Disallow: /*do=rules
Disallow: /user/
Disallow: /2011/
Disallow: /2012/
Disallow: /2013/
Disallow: /2014/
Disallow: /2015/
Disallow: /2016/
Disallow: /2017/
Disallow: /tags/
Disallow: /backup/
Disallow: */page/*
Disallow: /page*
Disallow: /?*
Disallow: /xfsearch/
Disallow: /language/
Disallow: /newposts/
Disallow: /lastnews/
Disallow: /upgrade/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=lastnews
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /*do=search
Disallow: /*print
Disallow: /statistics.html
Disallow: /index.php?newsid*
Disallow: /index.php?action=mobile
Disallow: /index.php?do=orderdesc
Disallow: /index.php?autor*
Disallow: /index.php?cat*
Disallow: /orderdesc/

Host: мой сайтик
Sitemap: http://мой сайтик/sitemap.xml
Спасибо.

P.S версия дле 11.1, тип чпу 1 (http://site.ru/id-имя новости.html)
 
Последнее редактирование:

Den

Приватовец
Приватовец
VIP
Прошёл марафон
Регистрация
23 Фев 2017
Сообщения
1.076
Реакции
549
Баллы
113
В вебмастере яндекса есть анализатор robots.txt
Вбиваешь нужный URL внизу и проверяешь на закрытость.

 

AndreyM

Приватовец
Приватовец
Регистрация
13 Мар 2017
Сообщения
207
Реакции
57
Баллы
28
В вебмастере яндекса есть анализатор robots.txt
Вбиваешь нужный URL внизу и проверяешь на закрытость.

Спасибо, страница попала под Disallow: /*print
А вообще нормальный у меня robots.txt? Может чего удалить или добавить?
 

aeneas

Новичок
Регистрация
27 Фев 2017
Сообщения
2.974
Реакции
1.352
Баллы
113
Спасибо, страница попала под Disallow: /*print
А вообще нормальный у меня robots.txt? Может чего удалить или добавить?
ненормальный
нормальный такой -
User-agent: *
Allow: /engine/classes/min/*
Allow: /engine/data/emoticons/*
Disallow: /engine/
Host: твой сайтик
Sitemap: http://твой сайтик/sitemap.xml

вся остальная муть закрывается донботом и галочками в админке дле
 
Сверху Снизу