Neu 5er Shop robots.txt

TimWB

Aktives Mitglied
31. August 2023
15
2
Hallo,
gibt es eine Vorlage für den 5er Shop einer sinnvollen Robots.txt oder wäre jemand so lieb und postet den Inhalt der etwas mehr als dem Standard entspricht ?
Tausend Dank
Liebe Grüße
Tim
 

en001

Sehr aktives Mitglied
15. März 2017
595
67
Der Standard ist richtig. Das ist eine sinnvolle robots.txt. Crawl-Sperren verhindern nur die Aktualisierung von Seiten. Will man Seiten nicht in einem Index haben nutzt man ein noindex. Ein Disallow: /geheim/12345.html verrät ja mehr und schützt nicht.
 

P0ttwal

Sehr aktives Mitglied
13. Juli 2021
134
33
Der Standard ist richtig. Das ist eine sinnvolle robots.txt. Crawl-Sperren verhindern nur die Aktualisierung von Seiten. Will man Seiten nicht in einem Index haben nutzt man ein noindex. Ein Disallow: /geheim/12345.html verrät ja mehr und schützt nicht.

Das sehe ich nicht so.

Ich will ja bestimmte Bots ausschließen, da diese sich gerne in den tausenden Merkmalseiten verfangen und dann nicht mehr raus kommen. Obwohl diese noindex sind. Gerade der Bing Bot ist hier sehr anfällig und nimmt mir was vom Crawlbudget weg, weil er lieber stundenlang Filterseiten mit 3 und mehr filtern durchwühlt.
 

ecki

Aktives Mitglied
17. August 2022
75
13
Filterseiten könnten einfach mit
Disallow: /*__*
ausgeschlossen werden, wenn diese uninteressant sind.
 

css-umsetzung

Offizieller Servicepartner
SPBanner
6. Juli 2011
8.579
2.668
Berlin
Firma
css-umsetzung
Hallo,

so sollte das derzeit zumindest aussehen

Code:
# BITTE NICHT LOESCHEN, SERVER-/CRAWLING-OPTIMIERUNG
User-agent: Bingbot
User-agent: AdIdxBot
User-agent: pinterest
User-agent: BingPreview
User-agent: MicrosoftPreview
Crawl-delay: 5
Disallow: /*__*
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*
Disallow: /jtl-store/__
Disallow: /extension-store/__
Allow: *

User-agent: *
Crawl-delay: 5
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*
Disallow: /jtl-store/__
Disallow: /extension-store/__
Allow: *
 

css-umsetzung

Offizieller Servicepartner
SPBanner
6. Juli 2011
8.579
2.668
Berlin
Firma
css-umsetzung
Noch als Nachtrag:

Das Thema Bots und deren Eigenart, die Performance von Shops extrem in den Keller zu ziehen wurde ja schon an mehreren Stellen im Forum besprochen, derzeit sind haufenweise Bots unterwegs die versuchen, für Ihre KI die Webseiten leer zu saugen, was eben auf die Performance der Shops geht.

Es gibt verschiedene Wege, die Bots in Ihre Schranken zu weisen, das was ich da gepostet habe ist die offizielle Version von JTL, die sich um die normalen Bots kümmert.

die Schädlichen Bots kann man z.B.: über die IP oder anderweitig, z.B.: mit Plugins aussperren, ich halte aber meinen Weg noch immer für den besten, da er sich auch am besten erweitern lässt und der Shop gar nicht erst auf die Idee kommt die Datenbank anzufassen.

einfach das hier in der config Datei vom Shop, am Ende eintragen und dann ist das schlimmste schon überstanden, zusätzlich natürlich noch die Robots nutzen damit Bing und Co nicht mehr versucht, 10 Seiten innerhalb eienr Sekudne zu crawlen.

PHP:
if(!empty($_SERVER['HTTP_USER_AGENT']) && preg_match("/Mb2345Browser|LieBaoFast|zh-CN|MicroMessenger|zh_CN|Kinza|MJ12bot|AhrefsBot|Bytespider|ClaudeBot|Amazonbot|Petalbot|GPTBot|BLEXBot|GeedoProductSearch/",$_SERVER['HTTP_USER_AGENT'])) {
    header('HTTP/1.0 403 Forbidden');
    die("zugriff nicht erlaubt");
}

Wenn die Seite mal sehr langsam ist, könnt Ihr hiermit, über das jtllogs/ Verzeichnis sehen welcher Bot euch gerade stört (Achtung nicht dauerhaft laufen lassen)

Code:
if(!empty($_SERVER['HTTP_USER_AGENT'])) {
    $agent = $_SERVER['HTTP_USER_AGENT'];
} else {
    $agent = "unknown";
}
if(!empty($agent) && !empty($_SERVER['REQUEST_URI']) && $fp = fopen(PFAD_ROOT."jtllogs/zugriffslog_".date("d-m-Y").".log","a+")) {
    fwrite($fp,date("H:i:s")."    ".$_SERVER['REMOTE_ADDR']."                ".$agent."\n");
    fwrite($fp,$_SERVER['REQUEST_URI']."\n");
    fwrite($fp,print_r($_REQUEST,true)."\n");
    fwrite($fp,"---------------------------------------------------------------------------------\n");
    fclose($fp);
}
 
  • Gefällt mir
Reaktionen: Dee, TimWB und ple

ecki

Aktives Mitglied
17. August 2022
75
13
Hallo,

so sollte das derzeit zumindest aussehen

Code:
# BITTE NICHT LOESCHEN, SERVER-/CRAWLING-OPTIMIERUNG
User-agent: Bingbot
User-agent: AdIdxBot
User-agent: pinterest
User-agent: BingPreview
User-agent: MicrosoftPreview
Crawl-delay: 5
Disallow: /*__*
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*
Disallow: /jtl-store/__
Disallow: /extension-store/__
Allow: *

User-agent: *
Crawl-delay: 5
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*
Disallow: /jtl-store/__
Disallow: /extension-store/__
Allow: *

Hallo,
eine Idee, warum sind die Endungen .php und nicht nur zb. /warenkorb?
Gruß ecki
 

css-umsetzung

Offizieller Servicepartner
SPBanner
6. Juli 2011
8.579
2.668
Berlin
Firma
css-umsetzung
gibt es druckansicht überhaupt noch?

bei den anderen relevanten Url's komt es darauf an wie deine echten SEO Url's aussehen.
 

ecki

Aktives Mitglied
17. August 2022
75
13
gibt es druckansicht überhaupt noch?

bei den anderen relevanten Url's komt es darauf an wie deine echten SEO Url's aussehen.
Jop schlechtes Beispiel ;)
Keine Ahnung, ist aus einer Standard robot.txt shop 5 installation raus kopiert.

So wie ich jetzt raus gelesen habe, deckt eine Disallow: /warenkorb alles ab. Also ob mit oder ohne Endung.

Laut ChatGPT:
Ja, die explizite Angabe der .php-Dateien in der robots.txt kann aus Sicherheitsgründen problematisch sein, weil sie potenziellen Angreifern verraten kann, welche spezifischen Skripte auf deiner Website existieren. Dies kann als Ausgangspunkt für gezielte Angriffe genutzt werden (z. B. SQL-Injections oder andere Exploits, wenn eine Datei Schwachstellen hat).
 
Ähnliche Themen
Titel Forum Antworten Datum
Neu Gibt es in der WaWi-Datenbank einen Zeitstempel, der anzeigt wann ein Kunde sich in einem bestimmten Shop registriert hat? User helfen Usern - Fragen zu JTL-Wawi 1
Beantwortet [Shop 5.7.2 / Wawi 2.0.5] GPSR-Daten werden am Artikel nicht angezeigt trotz korrekter Übertragung und installiertem Plugin Allgemeine Fragen zu JTL-Shop 1
Neu shop steht , brauche Hilfe Allgemeine Fragen zu JTL-Shop 6
Neu DSVGO konform 1000 Kunden in WaWi und Shop löschen! User helfen Usern - Fragen zu JTL-Wawi 4
Neu 500er Fehler im Shop nach aktivierung des Nova Child Templates für JTL-Shop 3
Neu JTL Shop Plugin - BD Automatisierter Widerruf (Von Händler für Händler - Schluss mit Mail-Chaos & Spam-Sorgen!) Plugins für JTL-Shop 0
Neu Rechte-Fehler im J10n Modul und Auswirkung auf base.mo.php in div. Plugins (Shop 5.7.1) JTL-Shop - Fehler und Bugs 0
Neu Welche JTL Shop Plugins oder kleinen Hilfstools würden euch im Alltag wirklich helfen? Plugins für JTL-Shop 0
Beantwortet Shop Abgleich nach Update auf 5.7.2 nicht mehr möglich JTL-Shop - Fehler und Bugs 4
Neu Shop zeigt keine Artikel mehr Fehler 500 Betrieb / Pflege von JTL-Shop 9
Neu Shop 5.7.1 und Downloadmodul Allgemeine Fragen zu JTL-Shop 1
Neu Plugin: JTL Exportformat Google Shopping gibt <g:google_product_category> unter Shop 5.7.1 und Wawi 2.0.4 nicht aus Plugins für JTL-Shop 1
Neu Widerrufsbutton für JTL-Shop 4 Allgemeine Fragen zu JTL-Shop 17
Neu Rabatte aus dem JTL-Shop werden in der Wawi nur als Netto-Preis übernommen, Rabatt % gehen verloren Onlineshop-Anbindung 0
Neu Laut Backend Shop Update für Shop 5.71 - Download nicht zu finden? Betrieb / Pflege von JTL-Shop 3
Neu Kategorie erscheint nicht im Shop Allgemeine Fragen zu JTL-Shop 5
Neu JTL-Shop - Wechsel von Test zum Livebetrieb - was beachten ? Installation / Updates von JTL-Shop 2
Neu Meta Shop seit September 2025: JTL-Lösung für neue Checkout-URL gesucht Allgemeine Fragen zu JTL-Shop 0
Rabatt Coupons in Verbindung mit Staffelpreisen - JTL 1.11.9, JTL Shop JTL-Wawi 1.11 0
Neu Shop-Update auf 5.7.1: Sprachvariablen im Widerrufsformular werden nicht erkannt, obwohl vorhanden?! JTL-Shop - Fehler und Bugs 3
Fehler beim Abgleich mit dem JTL-Shop JTL-Wawi 2.0 12
Neu OnFinds: KI-Suche für JTL-Shop mit fairer Abrechnung nach Artikelanzahl. 30 Tage kostenlos testen Plugins für JTL-Shop 0
Neu Freelancer für JTL-Wawi, Shop & Prozessautomatisierung Dienstleistung, Jobs und Ähnliches 2
Neu JTL Shop 5.7.1 mit Fehlern - versandarten zahlungsarten nicht änderbar, leere weiße Seite JTL-Shop - Fehler und Bugs 5
Neu Massiver jtl-shop-cron aufruf JTL-Shop - Fehler und Bugs 7
Neu Suche Workflow: Erstbestellung Shop auf Rechnung -> Auftrag Zurückhalten JTL-Wawi - Ideen, Lob und Kritik 1
Neu Neues Plugin: Erweiterter Widerrufsbutton für JTL-Shop Plugins für JTL-Shop 9
Neu [Suche 5 Beta-Tester] KI generiert JTL Shop 5 Templates per Beschreibung – kostenlos testen Templates für JTL-Shop 7
Neu Shop gesperrt - Webspace überschritten - Zusatzspace buchen bringt Fehler - Support fühlt sich nicht zuständig Betrieb / Pflege von JTL-Shop 7
Neu Telemetrie-Datenerfassung in JTL-Shop 5.7.0: Bitte um Klarstellung der DSGVO-relevanten Aspekte Allgemeine Fragen zu JTL-Shop 5
Neu GPSR Hersteller werden im Shop nicht angezeigt User helfen Usern - Fragen zu JTL-Wawi 2
Neu Nach Update auf 1.11.9 - alle Shopify Shop nicht mehr connected Shopify-Connector 4
Neu Shop 5.7 update empfhalen Installation / Updates von JTL-Shop 13
Plattformabgleich Shop löschen - Wo ist das in der MySQL DB? JTL-Wawi 2.0 4
Neu Funktioniert Shop 5.7 mit MariaDB 10.5.29? Installation / Updates von JTL-Shop 1
JTL Shop 4 Upgrade auf 5.5.0 --> Fehler 500 Upgrade JTL-Shop4 auf JTL-Shop5 2
JTL Shop 4 Upgrade auf 5.5.0 --> Fehler 404 Upgrade JTL-Shop4 auf JTL-Shop5 11
Neu JTL Shop 5 und Klarna Plugins für JTL-Shop 0
Neu JTL Shop 5.7 - Widerrufsbutton im B2B Templates für JTL-Shop 18
Neu Dropdown jtl shop länge einstellen Allgemeine Fragen zu JTL-Shop 2
JTL-Shop 5.7.0 Widerrufsbutton Einrichtung JTL-Shop5 42
Update auf Shop 5.5.0 von 5.4.1 ist der Shop nicht mehr erreichbar Upgrade JTL-Shop4 auf JTL-Shop5 4
Neu Merkmale Shop an oder Aus Allgemeine Fragen zu JTL-Shop 1
Neu JTL Shop Template Snackys Bildgrößen einstellen Templates für JTL-Shop 1
Neu Kategorie Listenansicht: Shop-Skript berechnet Höhe "falsch" Technische Fragen zu Plugins und Templates 5
Neu JTL-Shop 5.7 - Aktuell 5.7.2 Releaseforum 2
Neu Gratisgeschenke im JTL Shop nicht wirklich nutzerfreundlich. Allgemeine Fragen zu JTL-Shop 4
Neu Probleme mit Ninepoint und TikTok Shop Schnittstellen Import / Export 6
Tabelle tfirma in der Shop-Datenbank ist leer Einrichtung JTL-Shop5 3
Geänderte Preise kommen nur teilweise in den Shop JTL-Wawi 1.11 6

Ähnliche Themen