Neu 5er Shop robots.txt

TimWB

Aktives Mitglied
31. August 2023
15
2
Hallo,
gibt es eine Vorlage für den 5er Shop einer sinnvollen Robots.txt oder wäre jemand so lieb und postet den Inhalt der etwas mehr als dem Standard entspricht ?
Tausend Dank
Liebe Grüße
Tim
 

en001

Sehr aktives Mitglied
15. März 2017
565
63
Der Standard ist richtig. Das ist eine sinnvolle robots.txt. Crawl-Sperren verhindern nur die Aktualisierung von Seiten. Will man Seiten nicht in einem Index haben nutzt man ein noindex. Ein Disallow: /geheim/12345.html verrät ja mehr und schützt nicht.
 

P0ttwal

Sehr aktives Mitglied
13. Juli 2021
130
33
Der Standard ist richtig. Das ist eine sinnvolle robots.txt. Crawl-Sperren verhindern nur die Aktualisierung von Seiten. Will man Seiten nicht in einem Index haben nutzt man ein noindex. Ein Disallow: /geheim/12345.html verrät ja mehr und schützt nicht.

Das sehe ich nicht so.

Ich will ja bestimmte Bots ausschließen, da diese sich gerne in den tausenden Merkmalseiten verfangen und dann nicht mehr raus kommen. Obwohl diese noindex sind. Gerade der Bing Bot ist hier sehr anfällig und nimmt mir was vom Crawlbudget weg, weil er lieber stundenlang Filterseiten mit 3 und mehr filtern durchwühlt.
 

ecki

Aktives Mitglied
17. August 2022
75
12
Filterseiten könnten einfach mit
Disallow: /*__*
ausgeschlossen werden, wenn diese uninteressant sind.
 

css-umsetzung

Offizieller Servicepartner
SPBanner
6. Juli 2011
8.041
2.297
Berlin
Firma
css-umsetzung
Hallo,

so sollte das derzeit zumindest aussehen

Code:
# BITTE NICHT LOESCHEN, SERVER-/CRAWLING-OPTIMIERUNG
User-agent: Bingbot
User-agent: AdIdxBot
User-agent: pinterest
User-agent: BingPreview
User-agent: MicrosoftPreview
Crawl-delay: 5
Disallow: /*__*
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*
Disallow: /jtl-store/__
Disallow: /extension-store/__
Allow: *

User-agent: *
Crawl-delay: 5
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*
Disallow: /jtl-store/__
Disallow: /extension-store/__
Allow: *
 

css-umsetzung

Offizieller Servicepartner
SPBanner
6. Juli 2011
8.041
2.297
Berlin
Firma
css-umsetzung
Noch als Nachtrag:

Das Thema Bots und deren Eigenart, die Performance von Shops extrem in den Keller zu ziehen wurde ja schon an mehreren Stellen im Forum besprochen, derzeit sind haufenweise Bots unterwegs die versuchen, für Ihre KI die Webseiten leer zu saugen, was eben auf die Performance der Shops geht.

Es gibt verschiedene Wege, die Bots in Ihre Schranken zu weisen, das was ich da gepostet habe ist die offizielle Version von JTL, die sich um die normalen Bots kümmert.

die Schädlichen Bots kann man z.B.: über die IP oder anderweitig, z.B.: mit Plugins aussperren, ich halte aber meinen Weg noch immer für den besten, da er sich auch am besten erweitern lässt und der Shop gar nicht erst auf die Idee kommt die Datenbank anzufassen.

einfach das hier in der config Datei vom Shop, am Ende eintragen und dann ist das schlimmste schon überstanden, zusätzlich natürlich noch die Robots nutzen damit Bing und Co nicht mehr versucht, 10 Seiten innerhalb eienr Sekudne zu crawlen.

PHP:
if(!empty($_SERVER['HTTP_USER_AGENT']) && preg_match("/Mb2345Browser|LieBaoFast|zh-CN|MicroMessenger|zh_CN|Kinza|MJ12bot|AhrefsBot|Bytespider|ClaudeBot|Amazonbot|Petalbot|GPTBot|BLEXBot|GeedoProductSearch/",$_SERVER['HTTP_USER_AGENT'])) {
    header('HTTP/1.0 403 Forbidden');
    die("zugriff nicht erlaubt");
}

Wenn die Seite mal sehr langsam ist, könnt Ihr hiermit, über das jtllogs/ Verzeichnis sehen welcher Bot euch gerade stört (Achtung nicht dauerhaft laufen lassen)

Code:
if(!empty($_SERVER['HTTP_USER_AGENT'])) {
    $agent = $_SERVER['HTTP_USER_AGENT'];
} else {
    $agent = "unknown";
}
if(!empty($agent) && !empty($_SERVER['REQUEST_URI']) && $fp = fopen(PFAD_ROOT."jtllogs/zugriffslog_".date("d-m-Y").".log","a+")) {
    fwrite($fp,date("H:i:s")."    ".$_SERVER['REMOTE_ADDR']."                ".$agent."\n");
    fwrite($fp,$_SERVER['REQUEST_URI']."\n");
    fwrite($fp,print_r($_REQUEST,true)."\n");
    fwrite($fp,"---------------------------------------------------------------------------------\n");
    fclose($fp);
}
 
  • Gefällt mir
Reaktionen: Dee, TimWB und ple

ecki

Aktives Mitglied
17. August 2022
75
12
Hallo,

so sollte das derzeit zumindest aussehen

Code:
# BITTE NICHT LOESCHEN, SERVER-/CRAWLING-OPTIMIERUNG
User-agent: Bingbot
User-agent: AdIdxBot
User-agent: pinterest
User-agent: BingPreview
User-agent: MicrosoftPreview
Crawl-delay: 5
Disallow: /*__*
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*
Disallow: /jtl-store/__
Disallow: /extension-store/__
Allow: *

User-agent: *
Crawl-delay: 5
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*
Disallow: /jtl-store/__
Disallow: /extension-store/__
Allow: *

Hallo,
eine Idee, warum sind die Endungen .php und nicht nur zb. /warenkorb?
Gruß ecki
 

css-umsetzung

Offizieller Servicepartner
SPBanner
6. Juli 2011
8.041
2.297
Berlin
Firma
css-umsetzung
gibt es druckansicht überhaupt noch?

bei den anderen relevanten Url's komt es darauf an wie deine echten SEO Url's aussehen.
 

ecki

Aktives Mitglied
17. August 2022
75
12
gibt es druckansicht überhaupt noch?

bei den anderen relevanten Url's komt es darauf an wie deine echten SEO Url's aussehen.
Jop schlechtes Beispiel ;)
Keine Ahnung, ist aus einer Standard robot.txt shop 5 installation raus kopiert.

So wie ich jetzt raus gelesen habe, deckt eine Disallow: /warenkorb alles ab. Also ob mit oder ohne Endung.

Laut ChatGPT:
Ja, die explizite Angabe der .php-Dateien in der robots.txt kann aus Sicherheitsgründen problematisch sein, weil sie potenziellen Angreifern verraten kann, welche spezifischen Skripte auf deiner Website existieren. Dies kann als Ausgangspunkt für gezielte Angriffe genutzt werden (z. B. SQL-Injections oder andere Exploits, wenn eine Datei Schwachstellen hat).
 
Ähnliche Themen
Titel Forum Antworten Datum
Neu JavaSript im Shop 5 Allgemeine Fragen zu JTL-Shop 8
Neu JTL SHOP 5.6 und Konfigurationsartikel Allgemeine Fragen zu JTL-Shop 0
Neu Neues E-Commerce Business mit JTL Wawi - Jtl Shop - Lexware Office (online) - Fragen Starten mit JTL: Projektabwicklung & Migration 2
Neu Bestellungen werden nicht mehr übertragen: Der Shop hat nicht alle Zahlungen gesendet. WooCommerce-Connector 0
Neu Abgelaufene MHD (Mindesthaltbarkeitsdatum) wird im Shop nicht angezeigt. JTL-Shop - Fehler und Bugs 2
Neu Bestellung aus JTL-Shop wird nicht in die Wawi übernommen Allgemeine Fragen zu JTL-Shop 1
Neu Nach Update auf JTL Shop 5.6.1 - Play/Pause Buttons im Layout!? Installation / Updates von JTL-Shop 6
Neu Stückzahl in Wawi teilbar - aber nicht im Shop. Möglich? Allgemeine Fragen zu JTL-Shop 3
Neu JTL Shop Mailversand geht nicht mehr - Address blicked Allgemeine Fragen zu JTL-Shop 5
Neu JTL-Shop: Veraltete URLs & Weiterleitungen in der Sitemap – wie lösen? Allgemeine Fragen zu JTL-Shop 0
Neu Coupon-Steuer Plugin: Korrekte Steuerberechnung für JTL-Shop Coupons Plugins für JTL-Shop 1
Neu Nach Update komme ich nicht mehr auf die Shop Seite Installation / Updates von JTL-Shop 6
Workflow zum abrufen der Upload-Datei aus dem Shop-Auftrag JTL-Wawi 1.11 0
Neu 20.11.2025 Hosting JTL Shop Tod :+( Allgemeine Fragen zu JTL-Shop 15
Neu How to properly update order status through JTL Shop plugin? Allgemeine Fragen zu JTL-Shop 4
Neu Shop 5.61 - fehlende Sprachvariablen - suche *.slf Datei zum Import Betrieb / Pflege von JTL-Shop 3
Neu Shop extrem langsam ab ca. 17.oo Uhr JTL-Shop - Fehler und Bugs 4
Neu Kundenkonto mit mehreren Shop-eMail-Adressen User helfen Usern - Fragen zu JTL-Wawi 0
Neu Was passiert beim Shop Update mit den Mailvorlagen? Installation / Updates von JTL-Shop 2
Neu Hohe CPU-last auf Shopserver - JTL Shop Query? Allgemeine Fragen zu JTL-Shop 9
Neu Von jetzt auf gleich Shop down "ohne" Fremdeinwirkung JTL-Shop - Fehler und Bugs 5
Am eigenen Lager Bestand = 0, bei FBA = 170, Probleme mit dem eigenen Shop und Otto.de JTL-Wawi 1.10 3
Neu Nach Update auf neueste Shop-Version – Datenbank plötzlich leer / Wie weiter? Backup, Rollback oder neu aufsetzen? JTL-Shop - Fehler und Bugs 9
Neu Dokumentation: Kundenverknüpfung JTL-Wawi (Version 1.10.15.0) zu JTL-Shop JTL-Shop 5.2 Onlineshop-Anbindung 0
Neu Preisfehler Anzeige JTL Shop 5 JTL-Shop - Fehler und Bugs 1
Neu 🚀 Pilotkunden gesucht: HS Dynamic Pricing Plugin für JTL-Shop Plugins für JTL-Shop 0
Neu Probleme bei WooCommerce JTL-Connector, keine Aktivierung möglich, Bestands-Shop lahmgelegt Onlineshop-Anbindung 0
Neu 🚀 JTL Shop Performance Check (Free): Kostenloses Plugin Plugins für JTL-Shop 0
Neu Downgrade von 3 JTL-Shop-Lizenzen auf 1 – Frage zur Umstellung der Domains User helfen Usern - Fragen zu JTL-Wawi 1
Neu JTL SHop 5.4 KAtegoriebild Allgemeine Fragen zu JTL-Shop 5
Nach Auftragsabschluss falsche Artikelbestände im Shop JTL-Wawi 1.9 0
Sonderpreise werden vom Shop aus Wawi nicht übernommen JTL-Wawi 1.10 9
Neu Shop versendet keine Bestellbestätigung JTL-Shop - Fehler und Bugs 0
Neu Anzeige von mehreren Kundengruppenpreisen im Shop Templates für JTL-Shop 0
Neu Täglich SQL Backup vom Shop Allgemeine Fragen zu JTL-Shop 2
WF - automatisches Aktivieren / Deaktivieren für Verkaufskanal Shop JTL-Wawi 1.9 6
Neu Welcher Hoster ist für JTL-Shop 5 empfehlenswert? User helfen Usern 12
Neu Aktuellen JTL Shop installieren *Fehler* Installation / Updates von JTL-Shop 0
Neu JTL Shop Versand Preisstaffel mit negativen Werten?? Allgemeine Fragen zu JTL-Shop 0
Neu Bestellobergrenze (999€) für Schweizer Kunden im Shop hinterlegen Betrieb / Pflege von JTL-Shop 1
Neu Keine plugins im header und footer mehr auf Startseite shop 5.6.0 angezeigt Installation / Updates von JTL-Shop 5
Neu Shop 5.6. pagespeed FCP LCP Optimierung - java script & CSS veraltet bzw. nicht verwendet - Cache Dauer Betrieb / Pflege von JTL-Shop 6
Neu Shop über verschieden Domains in gewünschter Sprache aufrufen ? Betrieb / Pflege von JTL-Shop 5
Neu JTL Shop - OSS - Länderauswahl notwendig ?! JTL-Shop - Ideen, Lob und Kritik 1
Neu Probleme nach Shop Update auf V5.6 Onlineshop-Anbindung 3
Neu JTL Shop Brevo Plugin meldet keine Abmeldungen an JTL Shop + Kontakte landen nicht in der Willkommenssequenz Plugins für JTL-Shop 0
Neu Suche Freelancer für Aufsetzen JTL B2B Shop Dienstleistung, Jobs und Ähnliches 3
Neu JTL-Shop Admin Bereich und Shop nur noch 504 Gateway Time-out ( Hosting über JTL ) User helfen Usern - Fragen zu JTL-Wawi 4
Neu JTL-Shop 5.5.2 – Fehlerhafter Canonical-Tag im Blog-Template verhindert Indexierung durch Google JTL-Shop - Fehler und Bugs 2
Neu JTL Shop Update von 5.3.3 auf 5.6 mit der Community Free Edition - WaWi funktion weiter gegeben? User helfen Usern - Fragen zu JTL-Wawi 1

Ähnliche Themen