С нами с 24.10.04
Сообщения: 18881
Рейтинг: 9010
|
Добавлено: 27/10/08 в 01:32 |
надо закрыть папки /about/user/(blabla), /portal/user/(blabla), /forum/user/(blabla)
они все одинаковые
во всех поисковиках нормально срабатывает конструкция:
Disallow: /*user
в мсн эти диры в индексе
вообщем сабж
|
|
|
|
С нами с 01.04.07
Сообщения: 4378
Рейтинг: 2970
|
Добавлено: 27/10/08 в 10:10 |
|
|
|
|
С нами с 24.10.04
Сообщения: 18881
Рейтинг: 9010
|
Добавлено: 27/10/08 в 10:44 |
гугл, яндекс и яху правильно понимают правило /*user - не индексировать урлы, где есть фрагмент user
а мсн наоборот индексирует их очень активно и ставит в топ
|
|
|
|
php
С нами с 09.10.06
Сообщения: 3706
Рейтинг: 2410
|
Добавлено: 29/10/08 в 08:37 |
а для msn тада как закрыть индексацию?
|
|
|
|
С нами с 24.10.04
Сообщения: 18881
Рейтинг: 9010
|
Добавлено: 29/10/08 в 12:46 |
проверил тулзой http://tool.motoricerca.info/robots-checker.phtml
одни ошибки
вот например, чтоб не индексировал все урлы, где встречается знак вопроса, использую конструкцию:
Disallow: /*?
The "*" wildchar in file names is not supported by (all) the user-agents addressed by this block of code. You should use the wildchar "*" in a block of code exclusively addressed to spiders that support the wildchar (Eg. Googlebot).
походу только для гугла работает
|
|
|
|
С нами с 03.03.08
Сообщения: 163
Рейтинг: 168
|
Добавлено: 29/10/08 в 14:30 |
User-agent: msnbot
Disallow: /
User-agent: *
Disallow:
Если не помогает, запрети по ip и принудительно в хтакссес по названию.
|
|
|
|
С нами с 24.10.04
Сообщения: 18881
Рейтинг: 9010
|
Добавлено: 29/10/08 в 14:32 |
lowa писал: | User-agent: msnbot
Disallow: /
User-agent: *
Disallow:
Если не помогает, запрети по ip и принудительно в хтакссес по названию. |
ну мне не вообще его отрубить, а запретить лишь часть директорий
|
|
|
|
С нами с 03.03.08
Сообщения: 163
Рейтинг: 168
|
Добавлено: 29/10/08 в 14:50 |
Ну значит в дире делай .htaccess
И запрещай всё что тебе угодно ;)
Цитата: |
SetEnvIfNoCase User-Agent "^Yandex" search_bot
SetEnvIfNoCase User-Agent "^Yahoo" search_bot
SetEnvIfNoCase User-Agent "^Googlebot" search_bot
SetEnvIfNoCase User-Agent "^msnbot" search_bot
Order Allow,Deny
Allow from all
Deny from env=search_bot
|
|
|
|
|
С нами с 24.10.04
Сообщения: 18881
Рейтинг: 9010
|
Добавлено: 29/10/08 в 14:55 |
lowa писал: | Ну значит в дире делай .htaccess
И запрещай всё что тебе угодно ;) |
как вариант, сенкс!
|
|
|
|
С нами с 03.03.08
Сообщения: 163
Рейтинг: 168
|
Добавлено: 29/10/08 в 15:05 |
ibiz писал: | как вариант, сенкс! |
Нп. Удачного неиндексирования
|
|
|
|
С нами с 25.05.07
Сообщения: 1242
Рейтинг: 723
|
Добавлено: 10/11/08 в 05:02 |
А самый тупой вариант без звездочек в синтаксисе не пробовал?
User-agent: msnbot
Disallow: /about/user/
Disallow: /portal/user/
Disallow: /forum/user/
|
|
|
|
С нами с 24.10.04
Сообщения: 18881
Рейтинг: 9010
|
Добавлено: 10/11/08 в 11:24 |
Chin писал: |
А самый тупой вариант без звездочек в синтаксисе не пробовал?
User-agent: msnbot
Disallow: /about/user/
Disallow: /portal/user/
Disallow: /forum/user/
|
очень больший роботс получается, к тому же диры динамические, постоянно добавляются новые...
|
|
|
|
Текстовая реклама в форме ответа Заголовок и до четырех строчек текста Длина текста до 350 символов Купить рекламу в этом месте! |