# /robots.txt - указывает поисковым роботам какие каталоги # брать для индексации не следует. # Если пуст или не существует, то все можно брать # # Пример /robots.txt file # User-agent: * Disallow: /cgi-bin