Neu 5er Shop robots.txt

TimWB

Mitglied
31. August 2023
12
2
Hallo,
gibt es eine Vorlage für den 5er Shop einer sinnvollen Robots.txt oder wäre jemand so lieb und postet den Inhalt der etwas mehr als dem Standard entspricht ?
Tausend Dank
Liebe Grüße
Tim
 

en001

Sehr aktives Mitglied
15. März 2017
514
52
Der Standard ist richtig. Das ist eine sinnvolle robots.txt. Crawl-Sperren verhindern nur die Aktualisierung von Seiten. Will man Seiten nicht in einem Index haben nutzt man ein noindex. Ein Disallow: /geheim/12345.html verrät ja mehr und schützt nicht.
 

P0ttwal

Sehr aktives Mitglied
13. Juli 2021
124
33
Der Standard ist richtig. Das ist eine sinnvolle robots.txt. Crawl-Sperren verhindern nur die Aktualisierung von Seiten. Will man Seiten nicht in einem Index haben nutzt man ein noindex. Ein Disallow: /geheim/12345.html verrät ja mehr und schützt nicht.

Das sehe ich nicht so.

Ich will ja bestimmte Bots ausschließen, da diese sich gerne in den tausenden Merkmalseiten verfangen und dann nicht mehr raus kommen. Obwohl diese noindex sind. Gerade der Bing Bot ist hier sehr anfällig und nimmt mir was vom Crawlbudget weg, weil er lieber stundenlang Filterseiten mit 3 und mehr filtern durchwühlt.
 

ecki

Aktives Mitglied
17. August 2022
67
10
Filterseiten könnten einfach mit
Disallow: /*__*
ausgeschlossen werden, wenn diese uninteressant sind.
 

css-umsetzung

Offizieller Servicepartner
SPBanner
6. Juli 2011
7.558
2.093
Berlin
Hallo,

so sollte das derzeit zumindest aussehen

Code:
# BITTE NICHT LOESCHEN, SERVER-/CRAWLING-OPTIMIERUNG
User-agent: Bingbot
User-agent: AdIdxBot
User-agent: pinterest
User-agent: BingPreview
User-agent: MicrosoftPreview
Crawl-delay: 5
Disallow: /*__*
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*
Disallow: /jtl-store/__
Disallow: /extension-store/__
Allow: *

User-agent: *
Crawl-delay: 5
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*
Disallow: /jtl-store/__
Disallow: /extension-store/__
Allow: *
 
  • Gefällt mir
Reaktionen: ecki, MKis84 und ple

css-umsetzung

Offizieller Servicepartner
SPBanner
6. Juli 2011
7.558
2.093
Berlin
Noch als Nachtrag:

Das Thema Bots und deren Eigenart, die Performance von Shops extrem in den Keller zu ziehen wurde ja schon an mehreren Stellen im Forum besprochen, derzeit sind haufenweise Bots unterwegs die versuchen, für Ihre KI die Webseiten leer zu saugen, was eben auf die Performance der Shops geht.

Es gibt verschiedene Wege, die Bots in Ihre Schranken zu weisen, das was ich da gepostet habe ist die offizielle Version von JTL, die sich um die normalen Bots kümmert.

die Schädlichen Bots kann man z.B.: über die IP oder anderweitig, z.B.: mit Plugins aussperren, ich halte aber meinen Weg noch immer für den besten, da er sich auch am besten erweitern lässt und der Shop gar nicht erst auf die Idee kommt die Datenbank anzufassen.

einfach das hier in der config Datei vom Shop, am Ende eintragen und dann ist das schlimmste schon überstanden, zusätzlich natürlich noch die Robots nutzen damit Bing und Co nicht mehr versucht, 10 Seiten innerhalb eienr Sekudne zu crawlen.

PHP:
if(!empty($_SERVER['HTTP_USER_AGENT']) && preg_match("/Mb2345Browser|LieBaoFast|zh-CN|MicroMessenger|zh_CN|Kinza|MJ12bot|AhrefsBot|Bytespider|ClaudeBot|Amazonbot|Petalbot|GPTBot|BLEXBot|GeedoProductSearch/",$_SERVER['HTTP_USER_AGENT'])) {
    header('HTTP/1.0 403 Forbidden');
    die("zugriff nicht erlaubt");
}

Wenn die Seite mal sehr langsam ist, könnt Ihr hiermit, über das jtllogs/ Verzeichnis sehen welcher Bot euch gerade stört (Achtung nicht dauerhaft laufen lassen)

Code:
if(!empty($_SERVER['HTTP_USER_AGENT'])) {
    $agent = $_SERVER['HTTP_USER_AGENT'];
} else {
    $agent = "unknown";
}
if(!empty($agent) && !empty($_SERVER['REQUEST_URI']) && $fp = fopen(PFAD_ROOT."jtllogs/zugriffslog_".date("d-m-Y").".log","a+")) {
    fwrite($fp,date("H:i:s")."    ".$_SERVER['REMOTE_ADDR']."                ".$agent."\n");
    fwrite($fp,$_SERVER['REQUEST_URI']."\n");
    fwrite($fp,print_r($_REQUEST,true)."\n");
    fwrite($fp,"---------------------------------------------------------------------------------\n");
    fclose($fp);
}
 
  • Gefällt mir
Reaktionen: Dee, TimWB und ple

ecki

Aktives Mitglied
17. August 2022
67
10
Hallo,

so sollte das derzeit zumindest aussehen

Code:
# BITTE NICHT LOESCHEN, SERVER-/CRAWLING-OPTIMIERUNG
User-agent: Bingbot
User-agent: AdIdxBot
User-agent: pinterest
User-agent: BingPreview
User-agent: MicrosoftPreview
Crawl-delay: 5
Disallow: /*__*
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*
Disallow: /jtl-store/__
Disallow: /extension-store/__
Allow: *

User-agent: *
Crawl-delay: 5
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*
Disallow: /jtl-store/__
Disallow: /extension-store/__
Allow: *

Hallo,
eine Idee, warum sind die Endungen .php und nicht nur zb. /warenkorb?
Gruß ecki
 

ecki

Aktives Mitglied
17. August 2022
67
10
gibt es druckansicht überhaupt noch?

bei den anderen relevanten Url's komt es darauf an wie deine echten SEO Url's aussehen.
Jop schlechtes Beispiel ;)
Keine Ahnung, ist aus einer Standard robot.txt shop 5 installation raus kopiert.

So wie ich jetzt raus gelesen habe, deckt eine Disallow: /warenkorb alles ab. Also ob mit oder ohne Endung.

Laut ChatGPT:
Ja, die explizite Angabe der .php-Dateien in der robots.txt kann aus Sicherheitsgründen problematisch sein, weil sie potenziellen Angreifern verraten kann, welche spezifischen Skripte auf deiner Website existieren. Dies kann als Ausgangspunkt für gezielte Angriffe genutzt werden (z. B. SQL-Injections oder andere Exploits, wenn eine Datei Schwachstellen hat).
 
Ähnliche Themen
Titel Forum Antworten Datum
Neu Artikel duplizieren für neuen Shop JTL-Wawi - Ideen, Lob und Kritik 1
Neu Shop-Apotheke - Payment Buchungen abrufen und zuordnen Einrichtung und Installation von JTL-eazyAuction 0
Neu [Gelöst][shop 5.4.1] Newsletter Abmeldung "Fatal error: Uncaught Error: Typed property JTL\Optin\OptinRefData::$optinClass must" JTL-Shop - Fehler und Bugs 1
Neu JTL-Wawi 1.10.8.0 Error bei Bestellhistorie erneut Abrufen vom Shop JTL-Wawi - Fehler und Bugs 0
Artikelübersicht - Anzeige ob Artikel im Shop (NICHT Kasse) aktiv oder nicht - möglich ? JTL-Wawi 1.9 7
JTL-Shop Abgleiche geht nicht mehr JTL-Wawi 1.10 3
Neu Shop nicht erreichbar JTL-Shop - Fehler und Bugs 5
Neu Artikelübersicht: JTL-Shop lädt per AJAX gesamte Html-Seite in das Filter-Modal JTL-Shop - Fehler und Bugs 0
Neu Zugriff auf Rechnungsnummer innerhalb von JTL Shop Technische Fragen zu Plugins und Templates 0
Shop Lizenz auf Abwegen 1.10.10.3 JTL-Wawi 1.10 7
Neu JTL Shop Staffelpreise werden nicht angezeigt Allgemeine Fragen zu JTL-Shop 7
Neu JTL Wawi / Shop / POS in der Schweiz Starten mit JTL: Projektabwicklung & Migration 0
Neu Affiliate Plugin Empfehlung für JTL Shop 5 Plugins für JTL-Shop 0
Kategorien ohne WaWi aus Shop entfernen Einrichtung JTL-Shop5 2
Gestaltung und Einrichtung JTL-Shop Einrichtung JTL-Shop5 5
Verbindung Shop zu Kundencenter Einrichtung JTL-Shop5 0
Neu Wie läuft eine Bestellung ab und wie bekomme ich die Aufträge aus dem Shop in die Wawi übertragen? Betrieb / Pflege von JTL-Shop 0
Neu Probleme beim Abgleich von JTL WAWI und JTL Shop JTL-Wawi - Fehler und Bugs 8
Problem bei der Anzeige von Kindartikel-Titeln bei Vaterartikeln (JTL-Shop & eBay) JTL-Wawi 1.9 0
Neu Verknüpfung JTL-Shop und Meta-Produktkatalog Allgemeine Fragen zu JTL-Shop 4
Neu Falsche Lieferadresse vom Shop? JTL-Shop - Fehler und Bugs 2
Neu Connector Shop Abgleich nicht im JTL Worker Allgemeines zu den JTL-Connectoren 2
Neu Warenkorbwert festsetzen JTL shop Allgemeine Fragen zu JTL-Shop 0
Neu TiktTok Shop... User helfen Usern - Fragen zu JTL-Wawi 3
Neu Restlängen im Shop anzeigen mit Variante Allgemeine Fragen zu JTL-Shop 1
Neu Wechsel von JTL Shop 5 zu Shopware 6 – Wer hat Erfahrung mit kompletter Datenmigration (Kundenlogins, Bestellungen, Gutscheine etc.)? Shopware-Connector 3
Neu JTL Shop Editor Code Anzeige Betrieb / Pflege von JTL-Shop 0
Neu Shopware 5 Shop synchronisiert nicht mehr Shopware-Connector 2
Neu Shop 4 und Meta-Pixel Plugins für JTL-Shop 8
Massenumbenennung der Bilder in Wawi und Shop JTL-Wawi 1.9 2
Neu Warum wird im Shop 5 der Lieferanten-Artikelname anstatt WAWI-Artikelname angezeigt? Wie kann ich das ändern? Betrieb / Pflege von JTL-Shop 1
Neu Shopify FE im Vergleich mit JTL Shop Allgemeine Fragen zu JTL-Shop 0
Neu treuheld.com Schmuck Online Shop Shops stellen sich vor 0
Artikel werden bei Ebay und im Shop willkürlich gelöscht JTL-Wawi 1.9 0
Neu Lieferanten anbinden, um den Einkauf zu optimieren und Preise im Shop automatisch an neue Einkaufspreise anzupassen User helfen Usern - Fragen zu JTL-Wawi 5
Neu SHOP 5.4.1: Absturz beim Ändern von Mengen im Warenkorb, wenn Menge > Bestand JTL-Shop - Fehler und Bugs 1
Neu Einzelne Kategorien im Shop werden nicht angezeigt Allgemeine Fragen zu JTL-Shop 1
Keine Verbindung Mit JTL Shop 5 obwohl sync PW und Sync Benutzer in php identisch mit Wawi Einrichtung JTL-Shop5 5
Gelöst JTL Shop - Artikel Konfigurator - Menge veränderbar Templates für JTL-Shop 2
Neu Kundendatenanonymisierung im Shop rückgängig machen, wenn in Wawi Storno rückgängig JTL-Shop - Fehler und Bugs 0
Neu Fehlermeldung bei Synchronisation aus der WaWi: "Artikel "XYZ" kann nicht hochgeladen werden, da der Shop den Steuersatz '19' nicht unterstützt." WooCommerce-Connector 1
Neu Einrichtung von Versandarten in JTL-Shop und Verknüpfung mit JTL-Wawi Installation / Updates von JTL-Shop 12
Neu Paypal-Probleme (Smartbuttons) nach Shop-Update Betrieb / Pflege von JTL-Shop 0
Neu Shop nicht erreichbar ! Allgemeine Fragen zu JTL-Shop 6
Neu Suche nach neuen JTL Shop Projekten Dienstleistung, Jobs und Ähnliches 0
Neu JTL Shop und Wawi auf einem Server möglich? Installation / Updates von JTL-Shop 0
Neu SOFORT Überweisung Classic mit JTL Shop 5.4 - Kompatible? Plugins für JTL-Shop 0
Neu Shop Umzug Interne Verlinkung 404 Installation / Updates von JTL-Shop 3
Neu Sprachauswahl mit Flaggen Shop 5.4 Nova Template Templates für JTL-Shop 10
Neu jtl shop kategorien links anordnen Allgemeine Fragen zu JTL-Shop 4

Ähnliche Themen