Neu 5er Shop robots.txt

TimWB

Mitglied
31. August 2023
12
2
Hallo,
gibt es eine Vorlage für den 5er Shop einer sinnvollen Robots.txt oder wäre jemand so lieb und postet den Inhalt der etwas mehr als dem Standard entspricht ?
Tausend Dank
Liebe Grüße
Tim
 

en001

Sehr aktives Mitglied
15. März 2017
510
52
Der Standard ist richtig. Das ist eine sinnvolle robots.txt. Crawl-Sperren verhindern nur die Aktualisierung von Seiten. Will man Seiten nicht in einem Index haben nutzt man ein noindex. Ein Disallow: /geheim/12345.html verrät ja mehr und schützt nicht.
 

P0ttwal

Sehr aktives Mitglied
13. Juli 2021
124
33
Der Standard ist richtig. Das ist eine sinnvolle robots.txt. Crawl-Sperren verhindern nur die Aktualisierung von Seiten. Will man Seiten nicht in einem Index haben nutzt man ein noindex. Ein Disallow: /geheim/12345.html verrät ja mehr und schützt nicht.

Das sehe ich nicht so.

Ich will ja bestimmte Bots ausschließen, da diese sich gerne in den tausenden Merkmalseiten verfangen und dann nicht mehr raus kommen. Obwohl diese noindex sind. Gerade der Bing Bot ist hier sehr anfällig und nimmt mir was vom Crawlbudget weg, weil er lieber stundenlang Filterseiten mit 3 und mehr filtern durchwühlt.
 

ecki

Aktives Mitglied
17. August 2022
67
10
Filterseiten könnten einfach mit
Disallow: /*__*
ausgeschlossen werden, wenn diese uninteressant sind.
 

css-umsetzung

Offizieller Servicepartner
SPBanner
6. Juli 2011
7.480
2.063
Berlin
Hallo,

so sollte das derzeit zumindest aussehen

Code:
# BITTE NICHT LOESCHEN, SERVER-/CRAWLING-OPTIMIERUNG
User-agent: Bingbot
User-agent: AdIdxBot
User-agent: pinterest
User-agent: BingPreview
User-agent: MicrosoftPreview
Crawl-delay: 5
Disallow: /*__*
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*
Disallow: /jtl-store/__
Disallow: /extension-store/__
Allow: *

User-agent: *
Crawl-delay: 5
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*
Disallow: /jtl-store/__
Disallow: /extension-store/__
Allow: *
 
  • Gefällt mir
Reaktionen: ecki, MKis84 und ple

css-umsetzung

Offizieller Servicepartner
SPBanner
6. Juli 2011
7.480
2.063
Berlin
Noch als Nachtrag:

Das Thema Bots und deren Eigenart, die Performance von Shops extrem in den Keller zu ziehen wurde ja schon an mehreren Stellen im Forum besprochen, derzeit sind haufenweise Bots unterwegs die versuchen, für Ihre KI die Webseiten leer zu saugen, was eben auf die Performance der Shops geht.

Es gibt verschiedene Wege, die Bots in Ihre Schranken zu weisen, das was ich da gepostet habe ist die offizielle Version von JTL, die sich um die normalen Bots kümmert.

die Schädlichen Bots kann man z.B.: über die IP oder anderweitig, z.B.: mit Plugins aussperren, ich halte aber meinen Weg noch immer für den besten, da er sich auch am besten erweitern lässt und der Shop gar nicht erst auf die Idee kommt die Datenbank anzufassen.

einfach das hier in der config Datei vom Shop, am Ende eintragen und dann ist das schlimmste schon überstanden, zusätzlich natürlich noch die Robots nutzen damit Bing und Co nicht mehr versucht, 10 Seiten innerhalb eienr Sekudne zu crawlen.

PHP:
if(!empty($_SERVER['HTTP_USER_AGENT']) && preg_match("/Mb2345Browser|LieBaoFast|zh-CN|MicroMessenger|zh_CN|Kinza|MJ12bot|AhrefsBot|Bytespider|ClaudeBot|Amazonbot|Petalbot|GPTBot|BLEXBot|GeedoProductSearch/",$_SERVER['HTTP_USER_AGENT'])) {
    header('HTTP/1.0 403 Forbidden');
    die("zugriff nicht erlaubt");
}

Wenn die Seite mal sehr langsam ist, könnt Ihr hiermit, über das jtllogs/ Verzeichnis sehen welcher Bot euch gerade stört (Achtung nicht dauerhaft laufen lassen)

Code:
if(!empty($_SERVER['HTTP_USER_AGENT'])) {
    $agent = $_SERVER['HTTP_USER_AGENT'];
} else {
    $agent = "unknown";
}
if(!empty($agent) && !empty($_SERVER['REQUEST_URI']) && $fp = fopen(PFAD_ROOT."jtllogs/zugriffslog_".date("d-m-Y").".log","a+")) {
    fwrite($fp,date("H:i:s")."    ".$_SERVER['REMOTE_ADDR']."                ".$agent."\n");
    fwrite($fp,$_SERVER['REQUEST_URI']."\n");
    fwrite($fp,print_r($_REQUEST,true)."\n");
    fwrite($fp,"---------------------------------------------------------------------------------\n");
    fclose($fp);
}
 
  • Gefällt mir
Reaktionen: TimWB und ple

ecki

Aktives Mitglied
17. August 2022
67
10
Hallo,

so sollte das derzeit zumindest aussehen

Code:
# BITTE NICHT LOESCHEN, SERVER-/CRAWLING-OPTIMIERUNG
User-agent: Bingbot
User-agent: AdIdxBot
User-agent: pinterest
User-agent: BingPreview
User-agent: MicrosoftPreview
Crawl-delay: 5
Disallow: /*__*
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*
Disallow: /jtl-store/__
Disallow: /extension-store/__
Allow: *

User-agent: *
Crawl-delay: 5
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*
Disallow: /jtl-store/__
Disallow: /extension-store/__
Allow: *

Hallo,
eine Idee, warum sind die Endungen .php und nicht nur zb. /warenkorb?
Gruß ecki
 

ecki

Aktives Mitglied
17. August 2022
67
10
gibt es druckansicht überhaupt noch?

bei den anderen relevanten Url's komt es darauf an wie deine echten SEO Url's aussehen.
Jop schlechtes Beispiel ;)
Keine Ahnung, ist aus einer Standard robot.txt shop 5 installation raus kopiert.

So wie ich jetzt raus gelesen habe, deckt eine Disallow: /warenkorb alles ab. Also ob mit oder ohne Endung.

Laut ChatGPT:
Ja, die explizite Angabe der .php-Dateien in der robots.txt kann aus Sicherheitsgründen problematisch sein, weil sie potenziellen Angreifern verraten kann, welche spezifischen Skripte auf deiner Website existieren. Dies kann als Ausgangspunkt für gezielte Angriffe genutzt werden (z. B. SQL-Injections oder andere Exploits, wenn eine Datei Schwachstellen hat).
 
Ähnliche Themen
Titel Forum Antworten Datum
Neu JTL Shop Editor Code Anzeige Betrieb / Pflege von JTL-Shop 0
Neu Shopware 5 Shop synchronisiert nicht mehr Shopware-Connector 2
Neu Shop 4 und Meta-Pixel Plugins für JTL-Shop 8
Massenumbenennung der Bilder in Wawi und Shop JTL-Wawi 1.9 2
Neu Warum wird im Shop 5 der Lieferanten-Artikelname anstatt WAWI-Artikelname angezeigt? Wie kann ich das ändern? Betrieb / Pflege von JTL-Shop 1
Neu Shopify FE im Vergleich mit JTL Shop Allgemeine Fragen zu JTL-Shop 0
Neu treuheld.com Schmuck Online Shop Shops stellen sich vor 0
Artikel werden bei Ebay und im Shop willkürlich gelöscht JTL-Wawi 1.9 0
Neu Lieferanten anbinden, um den Einkauf zu optimieren und Preise im Shop automatisch an neue Einkaufspreise anzupassen User helfen Usern - Fragen zu JTL-Wawi 4
Neu SHOP 5.4.1: Absturz beim Ändern von Mengen im Warenkorb, wenn Menge > Bestand JTL-Shop - Fehler und Bugs 1
Neu Einzelne Kategorien im Shop werden nicht angezeigt Allgemeine Fragen zu JTL-Shop 1
Keine Verbindung Mit JTL Shop 5 obwohl sync PW und Sync Benutzer in php identisch mit Wawi Einrichtung JTL-Shop5 5
Gelöst JTL Shop - Artikel Konfigurator - Menge veränderbar Templates für JTL-Shop 2
Neu Kundendatenanonymisierung im Shop rückgängig machen, wenn in Wawi Storno rückgängig JTL-Shop - Fehler und Bugs 0
Neu Fehlermeldung bei Synchronisation aus der WaWi: "Artikel "XYZ" kann nicht hochgeladen werden, da der Shop den Steuersatz '19' nicht unterstützt." WooCommerce-Connector 1
Neu Einrichtung von Versandarten in JTL-Shop und Verknüpfung mit JTL-Wawi Installation / Updates von JTL-Shop 12
Neu Paypal-Probleme (Smartbuttons) nach Shop-Update Betrieb / Pflege von JTL-Shop 0
Neu Shop nicht erreichbar ! Allgemeine Fragen zu JTL-Shop 6
Neu Suche nach neuen JTL Shop Projekten Dienstleistung, Jobs und Ähnliches 0
Neu JTL Shop und Wawi auf einem Server möglich? Installation / Updates von JTL-Shop 0
Neu SOFORT Überweisung Classic mit JTL Shop 5.4 - Kompatible? Plugins für JTL-Shop 0
Neu Shop Umzug Interne Verlinkung 404 Installation / Updates von JTL-Shop 3
Neu Sprachauswahl mit Flaggen Shop 5.4 Nova Template Templates für JTL-Shop 10
Neu jtl shop kategorien links anordnen Allgemeine Fragen zu JTL-Shop 4
Neu Shop 5.4.0, Seiten werden nicht indexiert von Google, keine Ahnung warum :-( Betrieb / Pflege von JTL-Shop 24
Neu bestehenden alten JTL Shop neu installieren (Leichen beseitigen) Installation / Updates von JTL-Shop 2
Neu WooCommerce Connector Fehler: Shop-URL verweist nicht auf einen gültigen Shop WooCommerce-Connector 2
Neu Drastischer Besucherrückgang und Umsatzeinbruch nach Update auf JTL Shop 5 - Bitte um Hilfe Allgemeine Fragen zu JTL-Shop 5
Neu Anzeige im Shop "nur lokaler Verkauf!" Betrieb / Pflege von JTL-Shop 2
Workflow trägt Funktionsattribut nicht im JTL-Shop ein JTL-Wawi 1.9 0
Neu Shop 5.4 - Plugin läuft nicht mehr "class EventDispatcher is not available" Plugins für JTL-Shop 2
Neu Bestellbestätigung aus JTL SHOP mit Lieferadresse Dienstleistung, Jobs und Ähnliches 0
Neu Shop umstellen auf Kleinunternehmer Allgemeine Fragen zu JTL-Shop 4
WaWi Shop JTL-Wawi 1.9 1
WAWI bzw. Shop-Kategorien nach Datum ein- bzw. Auszublenden JTL-Wawi 1.9 5
Shop::Smarty()->assign im Shop nutzen Upgrade JTL-Shop4 auf JTL-Shop5 6
Neu Fehlerhafter Abgleich wegen angeblich mehr als 500 Artikel in der CFE von JTL-Shop 5 Allgemeine Fragen zu JTL-Shop 18
Neu JTL Shop und SEO bei unterschiedlichen Sprachen aber gleichen Artikelnamen Betrieb / Pflege von JTL-Shop 12
Neu Installation von JTL-Shop 5.4.1 auf Ubuntu Server 24.04.2 LTS Installation / Updates von JTL-Shop 6
Neu Kein Zugriff von Wawi auf JTL-Shop, auf lokalem Apache-Server gehostet Installation / Updates von JTL-Shop 8
Neu Geänderte Versandinformationen im JTL-Shop 5 werden nicht angezeigt. Allgemeine Fragen zu JTL-Shop 2
Neu Merkmal-Text im Shop ausgeben ...? Templates für JTL-Shop 0
Neu JTL Shop leere Startseite nach OPC Betrieb / Pflege von JTL-Shop 5
Neu Mapping der Versandarten Shop, WMS und Wawi Allgemeine Fragen zu JTL-Shop 0
Neu Die Tabelle tkampagnevorgang verlangsamt den Shop Allgemeine Fragen zu JTL-Shop 3
Neu Shopware-Kunden nach Import automatisch im JTL-Shop als registriert markieren Umstieg auf JTL-Shop 7
Neu JTL Shop 5 Mail Vorlagen anpassen Allgemeine Fragen zu JTL-Shop 1
Neu JTL-Shop 5 Whatsapp Business Produktkatalog Export anlegen Allgemeine Fragen zu JTL-Shop 1
Neu CSV per FTP vom Lieferanten JTL Shop Hosting Schnittstellen Import / Export 3
Neu JTL Shop 5 -> Anzeigen 2. Tab ... Allgemeine Fragen zu JTL-Shop 1

Ähnliche Themen