Zum Inhalt springen
OneKitly

Robots.txt-Generator

Erstelle eine korrekte robots.txt aus strukturierten Feldern: der Ziel-Crawler, die zu erlaubenden und zu sperrenden Pfade, eine oder mehrere Sitemaps (relative Pfade werden absolut) und optionale crawl-delay- und host-Zeilen. Sie steuert, wie Suchmaschinen deine Seite crawlen — denk daran, es ist eine Crawl-Direktive, keine Sicherheitsbarriere.

Ähnliche Tools

Alle Tools: SEO

Robots.txt-Generator funktioniert direkt auf dieser Seite — kostenlos, sofort, nichts zu installieren. Berücksichtigt werden der Ziel-Crawler, die zu erlaubenden und zu sperrenden Pfade, eine oder mehrere Sitemaps (relative Pfade werden absolut) und optionale crawl-delay- und host-Zeilen. Sie steuert, wie Suchmaschinen deine Seite crawlen — denk daran, es ist eine Crawl-Direktive, keine Sicherheitsbarriere — passe einen davon an und das Ergebnis folgt sofort.

So funktioniert's

  1. Öffne das Tool — ohne Anmeldung oder Installation.
  2. Gib deine Daten ein oder passe die verfügbaren Optionen an.
  3. Erhalte dein Ergebnis sofort und kopiere oder lade es herunter.

Häufige Fragen

Was ist Robots.txt-Generator?

Erstelle eine korrekte robots.txt aus strukturierten Feldern: der Ziel-Crawler, die zu erlaubenden und zu sperrenden Pfade, eine oder mehrere Sitemaps (relative Pfade werden absolut) und optionale crawl-delay- und host-Zeilen. Sie steuert, wie Suchmaschinen deine Seite crawlen — denk daran, es ist eine Crawl-Direktive, keine Sicherheitsbarriere.

Wie sieht ein konkreter Fall aus?

User-agent: * · Disallow: /admin/ · Sitemap: https://example.com/sitemap.xml — das Werkzeug zeigt jeden Zwischenschritt, nicht nur das Endergebnis.

Was wird berücksichtigt?

Berücksichtigt werden der Ziel-Crawler, die zu erlaubenden und zu sperrenden Pfade, eine oder mehrere Sitemaps (relative Pfade werden absolut) und optionale crawl-delay- und host-Zeilen. Sie steuert, wie Suchmaschinen deine Seite crawlen — denk daran, es ist eine Crawl-Direktive, keine Sicherheitsbarriere. Änderst du einen davon, passt sich das Ergebnis sofort an.

Wann brauche ich das konkret?

Vor dem Veröffentlichen: prüfen, ob Titel und Description abgeschnitten werden, einen Kampagnenlink einheitlich taggen und Keyword-Stuffing vor dem Leser bemerken.

Was ist der häufigste Fehler?

Auf eine Zeichenzahl optimieren. Suchmaschinen kürzen nach Pixelbreite, nicht nach Zeichen — ein Titel aus Großbuchstaben und breiten Lettern bricht weit früher ab als ein gleich langer aus schmalen.

Was liegt sonst noch daneben?

Hreflang-Tag-Generator, Keyword-Dichte-Prüfer und Meta-Tags-Generator teilen sich seinen Bereich. Sie sind keine Varianten davon — nebeneinander abgelegt heißt nicht ähnlich — aber dort sucht man weiter, wenn es doch nicht das richtige Werkzeug war.

Woher stammen die Daten?

Längenangaben spiegeln, was Suchergebnisse in jüngeren Tests zeigten, kein dokumentiertes Limit — Suchmaschinen schreiben Titel um und die Schwellen verschieben sich. Als sicherer Bereich verstehen, nicht als Regel.

Zum Weiterlesen

Alle Ratgeber
AnleitungWie man eine robots.txt schreibt: Direktiven, Abgleich und was sie nicht verbergen kannVier Direktiven, zwei Platzhalter, eine Datei im Wurzelverzeichnis des Hosts. Sie ist eine Crawl-Anweisung und nicht mehr — sie entfernt keine Seite aus den Ergebnissen, beschränkt keinen Zugriff und veröffentlicht jeden Pfad, den du darin auflistest.RatgeberHTTP-Statuscodes erklärt: die, die wirklich verwechselt werden301 gegen 308, 302 gegen 307, 401 gegen 403, 404 gegen 410 — dazu, was Retry-After bei einem 429 oder 503 wirklich zusagt. Die Paare, bei denen der falsche Code das Verhalten ändert und nicht nur die Formulierung.RatgeberWas einen guten URL-Slug ausmacht: Stabilität, Lesbarkeit und der Konflikt dazwischenEin Slug hat zwei Aufgaben, die gegeneinander ziehen: Er ist ein dauerhafter Bezeichner und er ist lesbarer Text. Länge, Bindestriche, Füllwörter, Datumsangaben, Nicht-ASCII-Zeichen und das Muster Bezeichner + Slug, das beide Eigenschaften bekommt — mit den echten Zahlen einer Website, die 1 736 Tool-Slugs in sechs Sprachen lokalisiert.RatgeberTitle-Tags, Meta-Descriptions und was Suchmaschinen damit machenWas Googles eigene Dokumentation über das Umschreiben von Titeln und über die Meta-Description sagt — statt dessen, was die SEO-Folklore sagt. Dann der messbare Teil: Titel werden nach Pixelbreite gekürzt, weshalb zwei Titel mit exakt sechzig Zeichen 204,55 Pixel auseinanderliegen können und nur einer überlebt.ErklärungKeyword-Dichte ist eine tote Kennzahl — und das hat sie ersetztDie Dichte zählte Vorkommen, weil Retrieval einst Vorkommen zählte. TF-IDF, dann BM25 mit seiner Sättigungskurve, dann Embeddings haben sie abgelöst. Hier ist dieselbe 800-Wörter-Seite dreifach bewertet — und warum die drei sich widersprechen.RatgeberStrukturierte Daten: wofür Suchmaschinen sie wirklich nutzenSchema.org-Auszeichnung kauft Anspruch auf ein Rich Result, nie eine Garantie und nie ein besseres Ranking. Hier steht, welche Typen 2026 noch etwas Sichtbares erzeugen, was jeder verlangt und welche Regel Websites in die Sanktion führt.
Robots.txt-Generator — OneKitly