Un robot d'exploration (également appelé robot) est un logiciel utilisé par Google pour traiter et indexer le contenu des pages Web. Le robot d'exploration AdSense, appelé Mediapartners-Google, visite votre site afin d'identifier son contenu pour pouvoir diffuser des annonces pertinentes.
Quelques informations importantes sur le robot d'exploration AdSense :
- Le rapport du robot d'exploration est mis à jour toutes les semaines.
L'exploration est automatique, et nous ne sommes pas en mesure d'en augmenter la fréquence.
- Le robot d'exploration AdSense est différent du robot Google.
Il s'agit de deux robots distincts, mais partageant le même cache. De cette manière, ils ne peuvent pas demander les mêmes pages, et les éditeurs conservent ainsi leur bande passante. Le robot d'exploration de la Search Console est également différent.
Remarque : AdSense utilise également un robot d'exploration appelé Google-Display-Ads-Bot pour valider votre site lorsque vous ajoutez un site à AdSense. - La résolution des problèmes d'exploration AdSense n'a aucun effet sur les problèmes d'exploration Google.
La résolution des problèmes listés sur la page Accès du robot d'exploration n'a aucun effet sur votre position dans les résultats de recherche Google. Pour plus d'informations sur le classement de votre site sur Google, consultez la page Inclure votre site dans les résultats de recherche Google.
- Le robot d'exploration indexe les pages par URL.
Notre robot d'exploration accède séparément à site.com et à www.site.com. Toutefois, il ne comptabilise pas séparément site.com et site.com/#anchor.
- Le robot d'exploration n'accède pas aux pages ni aux répertoires dont l'accès est interdit par un fichier robots.txt.
Les robots d'exploration Google, AdSense Mediapartners-Google et Google-Display-Ads-Bot tiennent compte de votre fichier robots.txt. Si votre fichier robots.txt empêche l'accès à certaines pages ou à certains répertoires, ces pages et ces répertoires ne seront pas explorés.
Remarque : Si vous diffusez des annonces sur des pages dont l'accès est interdit aux robots d'exploration (avec la ligneUser-agent: *
), le robot d'exploration AdSense les analysera quand même. Pour empêcher le robot d'exploration AdSense d'accéder à vos pages, vous devez inclure les éléments suivants dans votre fichier robots.txt :User-agent: Mediapartners-Google
User-agent: Google-Display-Ads-Bot
- Le robot d'exploration ne tente d'accéder qu'aux URL comportant nos tags d'emplacement publicitaire.
Seules les pages qui diffusent des annonces Google doivent envoyer des demandes à notre système et être explorées.
- Le robot d'exploration tente d'accéder aux pages qui ont une fonction de redirection.
Lorsque des "pages d'origine" redirigent vers d'autres pages, notre robot d'exploration doit accéder aux pages d'origine afin de confirmer le fonctionnement de la redirection. Ces visites sont répertoriées dans vos journaux d'accès.
- La fréquence à laquelle le robot d'exploration indexe le contenu de votre site n'est pas contrôlée.
Pour le moment, nous n'avons aucun contrôle sur la réexploration des sites. L'exploration est effectuée automatiquement par nos robots. Lorsque vous modifiez une page, une ou deux semaines peuvent être nécessaires pour que les changements soient pris en compte dans notre index.