robots.txt-Generator
Eine robots.txt-Datei für deine Seite generieren.
Ausgabe
Erstelle eine robots.txt mit gesperrten Pfaden und einer Sitemap-Referenz.
Anleitung
- Zu sperrende Pfade eingeben.
- Deine Sitemap-URL hinzufügen.
- Die robots.txt kopieren.
Häufige Fragen
- Wohin gehört die robots.txt?
- In das Stammverzeichnis deiner Domain: /robots.txt.
- Blockiert sie böswillige Bots?
- Sie ist beratend; brave Crawler befolgen sie.