Neu 5er Shop robots.txt

TimWB

Mitglied
31. August 2023
13
2
Hallo,
gibt es eine Vorlage für den 5er Shop einer sinnvollen Robots.txt oder wäre jemand so lieb und postet den Inhalt der etwas mehr als dem Standard entspricht ?
Tausend Dank
Liebe Grüße
Tim
 

en001

Sehr aktives Mitglied
15. März 2017
548
59
Der Standard ist richtig. Das ist eine sinnvolle robots.txt. Crawl-Sperren verhindern nur die Aktualisierung von Seiten. Will man Seiten nicht in einem Index haben nutzt man ein noindex. Ein Disallow: /geheim/12345.html verrät ja mehr und schützt nicht.
 

P0ttwal

Sehr aktives Mitglied
13. Juli 2021
130
33
Der Standard ist richtig. Das ist eine sinnvolle robots.txt. Crawl-Sperren verhindern nur die Aktualisierung von Seiten. Will man Seiten nicht in einem Index haben nutzt man ein noindex. Ein Disallow: /geheim/12345.html verrät ja mehr und schützt nicht.

Das sehe ich nicht so.

Ich will ja bestimmte Bots ausschließen, da diese sich gerne in den tausenden Merkmalseiten verfangen und dann nicht mehr raus kommen. Obwohl diese noindex sind. Gerade der Bing Bot ist hier sehr anfällig und nimmt mir was vom Crawlbudget weg, weil er lieber stundenlang Filterseiten mit 3 und mehr filtern durchwühlt.
 

ecki

Aktives Mitglied
17. August 2022
70
11
Filterseiten könnten einfach mit
Disallow: /*__*
ausgeschlossen werden, wenn diese uninteressant sind.
 

css-umsetzung

Offizieller Servicepartner
SPBanner
6. Juli 2011
7.773
2.191
Berlin
Hallo,

so sollte das derzeit zumindest aussehen

Code:
# BITTE NICHT LOESCHEN, SERVER-/CRAWLING-OPTIMIERUNG
User-agent: Bingbot
User-agent: AdIdxBot
User-agent: pinterest
User-agent: BingPreview
User-agent: MicrosoftPreview
Crawl-delay: 5
Disallow: /*__*
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*
Disallow: /jtl-store/__
Disallow: /extension-store/__
Allow: *

User-agent: *
Crawl-delay: 5
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*
Disallow: /jtl-store/__
Disallow: /extension-store/__
Allow: *
 
  • Gefällt mir
Reaktionen: ecki, MKis84 und ple

css-umsetzung

Offizieller Servicepartner
SPBanner
6. Juli 2011
7.773
2.191
Berlin
Noch als Nachtrag:

Das Thema Bots und deren Eigenart, die Performance von Shops extrem in den Keller zu ziehen wurde ja schon an mehreren Stellen im Forum besprochen, derzeit sind haufenweise Bots unterwegs die versuchen, für Ihre KI die Webseiten leer zu saugen, was eben auf die Performance der Shops geht.

Es gibt verschiedene Wege, die Bots in Ihre Schranken zu weisen, das was ich da gepostet habe ist die offizielle Version von JTL, die sich um die normalen Bots kümmert.

die Schädlichen Bots kann man z.B.: über die IP oder anderweitig, z.B.: mit Plugins aussperren, ich halte aber meinen Weg noch immer für den besten, da er sich auch am besten erweitern lässt und der Shop gar nicht erst auf die Idee kommt die Datenbank anzufassen.

einfach das hier in der config Datei vom Shop, am Ende eintragen und dann ist das schlimmste schon überstanden, zusätzlich natürlich noch die Robots nutzen damit Bing und Co nicht mehr versucht, 10 Seiten innerhalb eienr Sekudne zu crawlen.

PHP:
if(!empty($_SERVER['HTTP_USER_AGENT']) && preg_match("/Mb2345Browser|LieBaoFast|zh-CN|MicroMessenger|zh_CN|Kinza|MJ12bot|AhrefsBot|Bytespider|ClaudeBot|Amazonbot|Petalbot|GPTBot|BLEXBot|GeedoProductSearch/",$_SERVER['HTTP_USER_AGENT'])) {
    header('HTTP/1.0 403 Forbidden');
    die("zugriff nicht erlaubt");
}

Wenn die Seite mal sehr langsam ist, könnt Ihr hiermit, über das jtllogs/ Verzeichnis sehen welcher Bot euch gerade stört (Achtung nicht dauerhaft laufen lassen)

Code:
if(!empty($_SERVER['HTTP_USER_AGENT'])) {
    $agent = $_SERVER['HTTP_USER_AGENT'];
} else {
    $agent = "unknown";
}
if(!empty($agent) && !empty($_SERVER['REQUEST_URI']) && $fp = fopen(PFAD_ROOT."jtllogs/zugriffslog_".date("d-m-Y").".log","a+")) {
    fwrite($fp,date("H:i:s")."    ".$_SERVER['REMOTE_ADDR']."                ".$agent."\n");
    fwrite($fp,$_SERVER['REQUEST_URI']."\n");
    fwrite($fp,print_r($_REQUEST,true)."\n");
    fwrite($fp,"---------------------------------------------------------------------------------\n");
    fclose($fp);
}
 
  • Gefällt mir
Reaktionen: Dee, TimWB und ple

ecki

Aktives Mitglied
17. August 2022
70
11
Hallo,

so sollte das derzeit zumindest aussehen

Code:
# BITTE NICHT LOESCHEN, SERVER-/CRAWLING-OPTIMIERUNG
User-agent: Bingbot
User-agent: AdIdxBot
User-agent: pinterest
User-agent: BingPreview
User-agent: MicrosoftPreview
Crawl-delay: 5
Disallow: /*__*
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*
Disallow: /jtl-store/__
Disallow: /extension-store/__
Allow: *

User-agent: *
Crawl-delay: 5
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*
Disallow: /jtl-store/__
Disallow: /extension-store/__
Allow: *

Hallo,
eine Idee, warum sind die Endungen .php und nicht nur zb. /warenkorb?
Gruß ecki
 

ecki

Aktives Mitglied
17. August 2022
70
11
gibt es druckansicht überhaupt noch?

bei den anderen relevanten Url's komt es darauf an wie deine echten SEO Url's aussehen.
Jop schlechtes Beispiel ;)
Keine Ahnung, ist aus einer Standard robot.txt shop 5 installation raus kopiert.

So wie ich jetzt raus gelesen habe, deckt eine Disallow: /warenkorb alles ab. Also ob mit oder ohne Endung.

Laut ChatGPT:
Ja, die explizite Angabe der .php-Dateien in der robots.txt kann aus Sicherheitsgründen problematisch sein, weil sie potenziellen Angreifern verraten kann, welche spezifischen Skripte auf deiner Website existieren. Dies kann als Ausgangspunkt für gezielte Angriffe genutzt werden (z. B. SQL-Injections oder andere Exploits, wenn eine Datei Schwachstellen hat).
 
Ähnliche Themen
Titel Forum Antworten Datum
Neu Im Shop-Backend (5.5.3) erhalte ich bei einigen Menüpunkten "HTTP 500 Error" Seiten Allgemeine Fragen zu JTL-Shop 1
Neu JTL Shop 5: ein Kundenkonto in der WAWI mit mehreren Konten im Webshop Allgemeine Fragen zu JTL-Shop 1
Neu Shop Logo vergrößern Templates für JTL-Shop 2
Shop Daten werden nicht mehr aktualisiert JTL-Wawi 1.9 2
Neu Alle Wawi Kunden im Shop registrieren User helfen Usern - Fragen zu JTL-Wawi 0
Neu PayPal V 2.0.2 mit Shop 5.5.2: Ablauf der Zahlung Plugins für JTL-Shop 8
wawi an shop anbinden geht nicht JTL-Wawi 1.10 2
Neu Ich habe eben einen neuen Shop erstellt und alle Artikel übertragen, aber leider werden mir bei den Versandarten die Versandklassen nicht angezeigt User helfen Usern - Fragen zu JTL-Wawi 1
Neu Hat jemand Erfahrung mit der Anbindung von TikTok Shop über Shopify? Einrichtung und Installation von JTL-eazyAuction 0
Neu Mehrere Connectoren aktiv – falscher Shopify-Shop wird verbunden Installation von JTL-Wawi 1
Neu ecomdata offline? Shop und JTL Wawi nicht erreichbar User helfen Usern - Fragen zu JTL-Wawi 16
Neu Die Ticket-Shop-Spurnummer kommt an, nachdem die Bestellung bereits storniert wurde JTL-Workflows - Fehler und Bugs 0
Neu JTL Shop 5 Probleme mit Anlegen eines Kundenaccounts Allgemeine Fragen zu JTL-Shop 4
Neu JTL PayPal Checkout 5.3.0 mit Shop 5.5.2 - Artikel nur sichtbar wenn Kunde eingeloggt ist oder Artikel nicht verfügbar ist Plugins für JTL-Shop 6
Bilder komprimieren und an Shop übertragen JTL-Wawi 1.10 15
Neu Session Blocking JTL-Shop 5.5.1 JTL-Shop - Fehler und Bugs 0
Neu Softwarelösung für Visagist inkl. Mini-Shop & Kassa User helfen Usern 22
Neu Dauerhaftes Banner oben am Shop möglich? Allgemeine Fragen zu JTL-Shop 11
Neu Exception bei core.connector.auth: Invalid shop url. https://XYZ.de does not point to a shopware 6 instance. Please check the Shop URL. Shopware-Connector 1
Neu Sortierung Varianten im Shop falsch ? Allgemeine Fragen zu JTL-Shop 0
Eine Artikelnummern pro Shop ? Und einen Hauptartikel ? JTL-Wawi 1.8 2
Neu Sortierung Artikel Wawi - JTL Shop Allgemeine Fragen zu JTL-Shop 1
Neu Fehlerhafter Abgleich nach Update auf Shop Version 5.5 Installation / Updates von JTL-Shop 4
Keine Datenübertragung zum Shop möglich / Kundenkonto migrieren Onlineshop-Anbindung 10
Neu Eigene Felder - Sortierung wird nicht in JTL Shop übernommen - Anzeige im Shop immer unterschiedlich User helfen Usern - Fragen zu JTL-Wawi 0
Neu Kündigen der Shop-Anbindung nicht möglich Onlineshop-Anbindung 1
Neu Shopify Lagerbestandsabgleich einrichten (bei neuem Shop) Shopify-Connector 5
Neu Kindartikel-Name wird im Shop nicht richtig angezeigt Allgemeine Fragen zu JTL-Shop 8
Neu JTL Shop (anderes Template) eigene Felder aus Wawi als TAB im Shop User helfen Usern - Fragen zu JTL-Wawi 12
Neu Mail Bestellbestätigung aus dem Shop Betrieb / Pflege von JTL-Shop 1
Neu Shop-Admin: Versandarten und Zahlungsarten nicht aufrufbar Allgemeine Fragen zu JTL-Shop 11
Neu JTL-Shop Lieferanten Artikelnummer und Suchbegiffe für Onlineshop werden im Shop nicht gefunden Allgemeine Fragen zu JTL-Shop 5
Neu Kunden im Shop Backend anzeigen Allgemeine Fragen zu JTL-Shop 5
Neu Shop zeigt nur Bilder der Kategorien an, nicht der eigentlichen Produkte WooCommerce-Connector 3
Neu Behandlung von JTL Shop Coupons und Retouren in JTL Wawi Arbeitsabläufe in JTL-Wawi 0
Neu Shop-Geschwindigkeit: nicht ausreichend Allgemeine Fragen zu JTL-Shop 17
Nach Update: Shop Lizenz gültig aber mit anderen Kundenkonto verknüpft JTL-Wawi 1.10 1
Neu Welche Alternativen zu JTL-Shop JTL-Shop - Ideen, Lob und Kritik 9
Neu JTL Shop 5.5.1 Lieferland kann bei abweichender Lieferadresse nicht ausgewählt werden JTL-Shop - Fehler und Bugs 9
Neu JTL Shop: Ausblenden von Unterkategorien (In der Mitte) möglich ? Allgemeine Fragen zu JTL-Shop 0
Neu 500er Probleme nach Shop Update Betrieb / Pflege von JTL-Shop 4
Neu JTL Shop 5.5 Tips für bessere Performance? Allgemeine Fragen zu JTL-Shop 7
Neu JTL Debug 2.0.4 und Shop 5.5.2 - Fehler 500 Plugins für JTL-Shop 3
Neu Sprechende URLs & Sprachlogik im JTL-Shop – Wer hat’s schon umgesetzt? Allgemeine Fragen zu JTL-Shop 1
Neu JTL Shop 5.5.2 Startseite Breite ändern Allgemeine Fragen zu JTL-Shop 1
Neu Kundendaten inkl Login Daten auf neuen Shop übertragen inkl Blowfish Key. Fehlerhafte Adressen etc mit Sonderzeichen etc Allgemeine Fragen zu JTL-Shop 1
Neu .php-cs-fixer.php - nicht identisch mit den Dateien der aktuellen Version von JTL-Shop JTL-Shop - Fehler und Bugs 3
Neu JTL-Shop: Anzeige der Artikel aus untergeordneten Kategorien Allgemeine Fragen zu JTL-Shop 2
Warnmeldung JTL-Shop Anbindung nach Update JTL-Wawi 1.10 5
Shop Anzeige Nicht lieferbare Artikel Einrichtung JTL-Shop5 0

Ähnliche Themen