Несколько дней назад я закрыл от индексации все страницы категорий, кроме их главной, чтобы не было вот таких /film/page/24 в поиске.
Сегодня в вебмастер яндекса удалил 590 моих страниц с поиска. В основном это как раз ненужные страницы категорий, но среди них есть несколько вполне нормальных страницы такого вида /id-title.html и он еще пишет на них ,что она запрещена в robots.txt
Подскажите что я сделал не так, вот мой robots.txt
Спасибо.
P.S версия дле 11.1, тип чпу 1 (http://site.ru/id-имя новости.html)
Сегодня в вебмастер яндекса удалил 590 моих страниц с поиска. В основном это как раз ненужные страницы категорий, но среди них есть несколько вполне нормальных страницы такого вида /id-title.html и он еще пишет на них ,что она запрещена в robots.txt
Подскажите что я сделал не так, вот мой robots.txt
Код:
User-agent: *
Disallow: /engine/go.php
Disallow: /engine/download.php
Disallow: /rules.html
Disallow: /*do=rules
Disallow: /user/
Disallow: /2011/
Disallow: /2012/
Disallow: /2013/
Disallow: /2014/
Disallow: /2015/
Disallow: /2016/
Disallow: /2017/
Disallow: /tags/
Disallow: /backup/
Disallow: */page/*
Disallow: /page*
Disallow: /?*
Disallow: /xfsearch/
Disallow: /language/
Disallow: /newposts/
Disallow: /lastnews/
Disallow: /upgrade/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=lastnews
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /*do=search
Disallow: /*print
Disallow: /statistics.html
Disallow: /index.php?newsid*
Disallow: /index.php?action=mobile
Disallow: /index.php?do=orderdesc
Disallow: /index.php?autor*
Disallow: /index.php?cat*
Disallow: /orderdesc/
Host: мой сайтик
Sitemap: http://мой сайтик/sitemap.xml
P.S версия дле 11.1, тип чпу 1 (http://site.ru/id-имя новости.html)
Последнее редактирование: