User-agent: *
Disallow: /system
Disallow: /admin
Disallow: /feed


# Yahoo - Сканит во много потоков
# Наложим ограничение
# Ограничим его, меняйте под себя
User-agent: Slurp
Crawl-delay: 150