Pourquoi cafzone.net na pas de robots.txt ??? C est parce que c est W3c ? nan je deconne …
Nan mais vraiment Glop tu peux me dire pourquoi … Parce que bon mon robots a moi Et bé il se fait chier a ce prendre des access denied parce qu’ il va a des endroits qui peut alors bon si qq un peut m expliquer pourquoi y en a pas …
[quote]Ehhhh c’est quoi ça des robots.txt ?!?!?[/quote]Un fichier à placer sur le serveur FTP dans un ou plusieurs dossiers et qui donne certaines indications à suivre pour les “robots”. Exemple: si tu ne veux pas que les moteurs de recherche parcourent l’intégralité de ton site, sans pour autant condamner des dossiers via des protections par mot de passe.
(photos ou coordonnées persos par exemple)
Y en avait pas parceque il peut tout indexer si ca lui chante le crawler. De toute facon les pages qui sont pas “a indexer” sont protegees par mot de passe, donc il se demerde le truc. Bon j’en ai mis un pour vous faire plaisir fait en 3 secondes a partir d’un dir /b…