Что такое ошибка "Доступ запрещен"
Обычно Google находит содержание, переходя по ссылкам с одной страницы на другую. Чтобы просканировать страницу, робот Googlebot должен получить доступ к ней. Ошибки "Доступ запрещен" могут возникнуть причинам, перечисленным ниже.
- Роботу Googlebot не удалось получить доступ к URL, поскольку для просмотра содержания на вашем сайте нужно выполнить вход.
- Файл
robots.txt
заблокировал роботу Googlebot доступ ко всему сайту либо к отдельным его страницам или каталогам. - Для работы с сайтом требуется аутентификация с помощью прокси-сервера, или ваш поставщик услуг хостинга заблокировал доступ к сайту для робота Googlebot.
Устранение ошибок "Доступ запрещен"
- Проверьте работу файла
robots.txt
и убедитесь, что он не блокирует Google. Инструмент Проверка файла robots.txt позволяет точно увидеть, как робот Googlebot будет интерпретировать содержание файла robots.txt. Робот Googlebot является агентом пользователя Google. - Чтобы понять, как видит ваш сайт робот Googlebot, используйте инструмент Просмотреть как Googlebot. Это может быть полезно при устранении неполадок с содержанием сайта или возможностью его обнаружения в результатах поиска.