Wenn Sie dafür sorgen, dass Ihre Website vollständig gecrawlt wird, können Sie mit Ihrem Content mehr Umsatz erzielen. Falls der Content-Crawler nicht auf Ihren Content zugreifen kann, finden Sie in der folgenden Liste hilfreiche Informationen zur Behebung von Crawler-Problemen.
Zugriffsprobleme
Mögliche Ursache | Zu prüfen | Lösung |
---|---|---|
Für den Zugriff auf Ihre Website ist eine Anmeldung erforderlich.
Es ist möglich, dass der Anzeigen-Crawler zu einer Anmeldeseite weitergeleitet wird und den Content nicht crawlen kann. |
Benötigen Besucher Anmeldedaten, um auf Ihren Content zuzugreifen? | Richten Sie ein Crawler-Log-in ein, um durch Anmeldung geschützte Webinhalte für die Contentzuordnung in Apps zu verwenden. |
Ihr Content befindet sich in einem Netzwerk oder IP-Bereich mit eingeschränktem Zugriff. | Haben Sie Einschränkungen für geografische Regionen oder IP-Bereiche festgelegt, in denen auf Content zugegriffen werden kann? | Wenn Sie diese Einschränkungen entfernen oder den Content öffentlich zugänglich machen, kann der Anzeigen-Crawler die URLs crawlen. |
Sie haben den Anzeigen-Crawler in Ihrer robots.txt-Datei blockiert. | Ist der Anzeigen-Crawler in Ihrer robots.txt-Datei möglicherweise nicht zulässig? | Beheben Sie das Problem, indem Sie dem Anzeigen-Crawler Zugriff auf die robots.txt-Datei gewähren. |
Probleme auf Websiteebene
Mögliche Ursache | Zu prüfen | Lösung |
---|---|---|
Ihre Website kann nicht gefunden werden. Wenn die an Google gesendete URL auf eine Seite verweist, die auf der Website nicht (mehr) vorhanden ist, oder die Fehlermeldung 404 (Seite nicht gefunden) auslöst, können die Anzeigen-Crawler Ihren Content nicht erfassen. |
Ist die Website erreichbar? Können Besucher im Web auf Ihre Website zugreifen? | Ihre Website muss veröffentlicht und im Web verfügbar sein. |
Ihre Website enthält neu veröffentlichten Content. Wenn Sie eine neue Seite veröffentlichen, können Sie Anzeigenanfragen stellen, bevor die Crawler von Google den Content erfassen konnten. Websites, auf denen viel neuer Content veröffentlicht wird, sind z. B. Websites mit von Nutzern erstelltem Content, Nachrichtenartikeln, großen Produktinventaren oder Wetterseiten. |
Haben Sie kürzlich neuen Content veröffentlicht? |
Der Crawler benötigt etwas mehr Zeit, um Ihren neuen Content zu crawlen. In der Regel wird der Content innerhalb weniger Minuten gecrawlt, nachdem die Anzeigenanfrage für eine neue URL gestellt wurde. In diesen ersten Minuten vor dem Crawling kann es jedoch zu einem geringen Anzeigenvolumen kommen. |
Auf Ihrer Website werden mehrere Weiterleitungen verwendet. Wenn auf Ihrer Website Weiterleitungen vorhanden sind, besteht das Risiko, dass der Anzeigen-Crawler diesen nicht folgen kann. Falls beispielsweise mehrere Weiterleitungen vorliegen und Teilweiterleitungen fehlschlagen oder wichtige Parameter wie Cookies während der Weiterleitung ausgelassen werden, kann dadurch die Crawling-Qualität beeinträchtigt werden. |
Werden auf Ihrer Website viele Weiterleitungen verwendet? Haben Sie Weiterleitungen auf Seiten eingerichtet, auf denen Anzeigen ausgeliefert werden? |
Wenn möglich, sollten Sie die Anzahl der Weiterleitungen auf Seiten mit Anzeigencode minimieren. Achten Sie darauf, dass alle Weiterleitungen korrekt implementiert sind. |
Sie verwenden personalisierte Seiten-URLs. Die URLs einiger Websites enthalten zusätzliche Parameter, die den angemeldeten Nutzer kennzeichnen (z. B. eine Sitzungs-ID), oder andere Informationen, die für jeden Besuch unterschiedlich sein können. In so einem Fall sehen die Anzeigen-Crawler die URL möglicherweise als eine neue Seite an, selbst wenn der Content derselbe ist. Dies kann zu einer Verzögerung von einigen Minuten zwischen der ersten Anzeigenanfrage auf der Seite und dem Crawling führen und eine erhöhte Crawler-Auslastung auf Ihren Servern hervorrufen. |
Werden auf Ihrer Website URLs mit zusätzlichen Parametern oder mit dynamisch generierten URL-Pfaden verwendet? | Wenn sich der Content auf einer Seite nicht ändert, entfernen Sie die Parameter aus der URL und halten Sie diese Informationen auf eine andere Weise bereit. Eine einfachere URL-Struktur trägt dazu bei, dass Ihre Website leichter gecrawlt werden kann. |
Sie verwenden POST-Daten. Wenn auf Ihrer Website neben URLs POST-Daten gesendet werden, z. B. beim Übermitteln von Formulardaten über eine POST-Anforderung, lehnt Ihre Website die Anfrage möglicherweise ab, falls keine POST-Daten vorhanden sind. Da Anzeigen-Crawler keine POST-Daten bereitstellen, könnten sie in diesem Fall nicht auf Ihre Seite zugreifen. |
Werden auf Ihrer Website neben POST-Daten URLs gesendet? | Falls sich der angezeigte Content der Seite nach den Daten richtet, die der Nutzer in das Formular eingibt, verwenden Sie eine GET-Anforderung. |
Hosting-Probleme
Mögliche Ursache | Zu prüfen | Lösung |
---|---|---|
Es liegt ein Problem mit dem Nameserver Ihrer Website vor. |
Ist Ihr Nameserver richtig eingerichtet? Gibt es Einschränkungen hinsichtlich der Herkunft von Anfragen? | Achten Sie darauf, dass der Nameserver für Ihre Domain oder Sub-Domain den Anzeigen-Crawler korrekt auf Ihren Content verweist. |
Es liegt ein Problem mit dem Server Ihrer Website vor. Wenn der Anzeigen-Crawler versucht, auf Websitecontent zuzugreifen, kann der zugehörige Server manchmal nicht rechtzeitig antworten. Dies kann daran liegen, dass der Server heruntergefahren wurde, langsam reagiert oder durch Anfragen überlastet ist. |
Ist der Server Ihrer Website betriebsbereit? | Sie sollten dafür sorgen, dass Ihre Website auf einem zuverlässigen Server oder von einem zuverlässigen Dienstanbieter gehostet wird. |