Jump to content
Дизайн и модификация IPS Community IPBSkinsBETA
Search In
  • More options...
Find results that contain...
Find results in...
Sign in to follow this  
Alex222

Правильный ли файл robots.txt ?

Recommended Posts

Сгенерировал при помощи сайта cy-pr.com robots.txt для своего форума, почему он получился такой маленький? Что не правильно делаю подскажите пожалуйста?

 

User-agent: *

Crawl-delay: 1

Host: investmani.ru

Sitemap: http://investmani.ru/sitemap.xml

Share this post


Link to post
Share on other sites

Сгенерировал при помощи сайта cy-pr.com

Сервисы могут генерировать какие-то запреты в роботс только на основе используемой кмс. Либо сервис не смог определить какой движок используется (или отсутствует информация о нем), либо он просто не генерирует запреты.

Для 3.x robots поставляется вместе с дистрибутивом форума.

Share this post


Link to post
Share on other sites

от сайта зависит это, ведь структура не у всех одинаковая, а в роботс вы закрываете ненужные для индексации файлы, кому-то нужно закрыть одни а кому-то другие, конечно есть некоторые общие, но этого не достаточно нужно смотреть индивидуально на сайт

Share this post


Link to post
Share on other sites

О, может и мой роботс рассмотрите?)

 

User-agent: *

Allow: /

Disallow: /admin/

 

Sitemap: https://suntown-ukraine.com/sitemap.xml

 

Я посмотрел на ваших роботов, и если честно не совсем понимаю зачем так много всего указывать?

как я понимаю поисковые роботы индексируют всё что есть на сервере в сайте, если у меня в связи с тем что я не кодер, нету доступа к серверной части сайта, то получается я и не смогу указать ничего более подробно? Или есть какие-то стандартные правила составления всех robots.txt?

Share this post


Link to post
Share on other sites

Create an account or sign in to comment

You need to be a member in order to leave a comment

Create an account

Sign up for a new account in our community. It's easy!

Register a new account

Sign in

Already have an account? Sign in here.

Sign In Now
Sign in to follow this  

  • Recently Browsing   0 members

    No registered users viewing this page.

×
×
  • Create New...