Indexierung bei Google -falsche Indexierung durch Google?

Petuchov

Sehr aktives Mitglied
1. Oktober 2009
1.695
23
Augsburg
Die originale robots.txt sieht im Shop 3 so aus:
User-agent: *
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*


So wird die auch im Google Webmaster bei der anmeldung der Sitemap eingelesen
Bei der Prüfung der Indizierten Seiten stelle ich jedoch fest, dass die Navi-Seiten doch indexiert werden ( allinurl/mit übersprungenen Suchergebissen)

Beispiel :
www.domainname.de/navi.php?s=67&lang=eng&curr=EUR
auch Seiten wie
45,00 € - 52,50 € (1) - domainname.de (alle Preisgruppen) www.domainname.de/navi.php?k=54&pf=45_52.5

sollte eigentlich nicht sein , denke ist auch für den Shop eher schädlich

Eigentlich sollte Google das Zeugs garnicht einlesen, auch wenn es in der Sitemap ist

in diesem Zusammenhang stellt sich auch die Farge , was die Einstellung

(580) Alle Linkseiten anzeigen
(Ja/Nein) bewirkt, und wie ich die unerwünschten Seiten, ohne händisch arbeiten zu müssen, herausbekomme
 
Zuletzt von einem Moderator bearbeitet:

ralph_1

Gut bekanntes Mitglied
12. August 2011
586
5
AW: Indexierung bei Google -falsche Indexierung durch Google?

Eigentlich sollte Google das Zeugs garnicht einlesen, auch wenn es in der Sitemap ist
Tut es aber. Entgegen eigener Aussage werden ganz offensichtlich alle Inhalte eingelesen und oft auch, wenigstens für einige Zeit, im Suchindex aufgelistet. In der Regel aber nur zu finden, wenn man sich alle Seiten einer domain anzeigen lässt, über ein Suchwort wird das wohl nicht gelingen.
Nach Google-Richtlinien ist diese Seite über die robots.txt von der Indizierung ausgeschlossen, mehr kannst du nicht tun.

in diesem Zusammenhang stellt sich auch die Farge , was die Einstellung

(580) Alle Linkseiten anzeigen (Ja/Nein) bewirkt, und wie ich die unerwünschten Seiten, ohne händisch arbeiten zu müssen, herausbekomme
Ich glaube, hier handelt es sich um die Auflistung aller CMS-Seiten auf der der CMS-Seite Sitemap, also die Seite, die auch bei erfolgloser Suche angezeigt wird. Auf die xml-sitemap hat diese Einstellung scheinbar keinen Einfluss.
 
Zuletzt von einem Moderator bearbeitet:

upbox

Offizieller Servicepartner
SPBanner
17. Januar 2011
240
20
AW: Indexierung bei Google -falsche Indexierung durch Google?

sollte eigentlich nicht sein , denke ist auch für den Shop eher schädlich

Das ist es auch. Definitiv, seitdem Google die Schrauben für internen DC weiter angezogen hat. Das gibt es übrigens nicht nur für die navi.php sondern auch für andere Seiten die schön in der robots.txt ausgeschlossen wurden.


Eigentlich sollte Google das Zeugs gar nicht einlesen, auch wenn es in der Sitemap ist


Also Google lässt sich seit JAHREN nicht mehr wirklich durch die robots.txt beeinflussen. Wenn der Robot denkt, die Inhalte wurden zwar gesperrt sind aber dennoch interessant, dann landet die Seite auch im Index. Das sieht dann immer lustig aus, weil die Seite in der Anzeige von Google nur aus dem Titel besteht. Mehr geht ja auch nicht, weil das Lesen der Seite ja verboten ist. Das hindert aber niemanden daran die Seite zu indizieren. Niemand verbietet dem Bot das mit der Sperrung durch die robots.txt! Hier geht es ja nur um das Lesen der Inhalte!

Das Vorgehen hat sogar die Obernebelkerze Matt Cutts schon erklärt:
Uncrawled URLs in search results - YouTube

Jeder kann selber prüfen, ob sein Shop betroffen ist:
einfach mal in Google eingeben: site:domainname.de/navi.php

Zu der Frage was kann ich dagegen tun:

1.) Entsprechende Parameter in den Google Webmastertools ausschließen
2.) Seiten mit "noindex" aus dem Index befördern, aber vorher die robots.txt bearbeiten!
3.) Unter Umständen manuell alle Seiten über die Webmastertools entfernen

Ich hatte schon mal überlegt zum Thema eine Anleitung zu schreiben. Besteht da eventuell Interesse?
 

microline

Gut bekanntes Mitglied
4. Februar 2010
718
24
AW: Indexierung bei Google -falsche Indexierung durch Google?

Auf jeden Fall ! Ich steuere auf 500.000 Seiten im Index zu ...
 

Petuchov

Sehr aktives Mitglied
1. Oktober 2009
1.695
23
Augsburg
AW: Indexierung bei Google -falsche Indexierung durch Google?

Jeder kann selber prüfen, ob sein Shop betroffen ist:
einfach mal in Google eingeben: site:domainname.de/navi.php

ich habs herausgefunden mit allinurl:www.domainame.de und dann die Suche mit übersprungnen Ergebnissen wiederholen

Zu der Frage was kann ich dagegen tun:

1.) Entsprechende Parameter in den Google Webmastertools ausschließen
2.) Seiten mit "noindex" aus dem Index befördern, aber vorher die robots.txt bearbeiten!
3.) Unter Umständen manuell alle Seiten über die Webmastertools entfernen

Ich hatte schon mal überlegt zum Thema eine Anleitung zu schreiben. Besteht da eventuell Interesse?

Wäre schon toll
In diesem Zusammenhang eine andere Geschihte: Bei einem Kunden, der mit der Original robots.txt seine sitemap anmelden wollte, kommt die Fehlermeldung
dass wichtige Dateien durch die robots.txt gesperrt sind, schaut man nach sind es sie navi Seiten und die Warenkorb Seite sowie die KWK (Kunden werben Kunden)
 

upbox

Offizieller Servicepartner
SPBanner
17. Januar 2011
240
20
AW: Indexierung bei Google -falsche Indexierung durch Google?

Also alle die Interesse haben für die Doku als Demoshop zu fungieren bitte mal kurz melden. Irgendein Beispiel brauche ich :)
 

upbox

Offizieller Servicepartner
SPBanner
17. Januar 2011
240
20
AW: Indexierung bei Google -falsche Indexierung durch Google?

Kurzes Zwischenfazit: Liste ist fertig. Wir überlegen nur gerade, ob wir nicht die Zusammenfassung gleich noch als Plugin veröffentlichen. Leider ist die Lösung nämlich nicht ohne Änderungen in den Template Dateien umsetzbar.
 
Ähnliche Themen
Titel Forum Antworten Datum
Neu JTL Shop5 Indexierung GSC - Seiten wurden innerhalb von Wochen aus dem Index geworfen Templates für JTL-Shop 10
Update 1.9.6.1 weitere Verkaufskanäle fehler bei Abgleich JTL-Wawi 1.9 1
Neu TSE wird bei JTL-POS nicht erkannt JTL-POS - Fehler und Bugs 1
Neu JTL Shop 5.3.X - Fehlerhafte Artikellinks bei Export über Exporte-Manager JTL-Shop - Fehler und Bugs 1
Neu Feld "Verkaufskanal" bei importierten Artikeln ausgegraut JTL-Ameise - Fehler und Bugs 1
Gelöst OPC geht nicht mehr bei v5.4 Installation / Updates von JTL-Shop 3
Neu Kundengruppen Zuordnung bei Registrierung anhand Emaildomain Plugins für JTL-Shop 1
Neu Datev Konto Buchung bei Gutschein Verkauf Allgemeine Fragen zu JTL-POS 0
Neu Breadcrumb Navigation bei Kategorie-, Hersteller- und Merkmallisten verschieden JTL-Shop - Fehler und Bugs 0
Neu Fehler 500 bei Versandmeldung an Amazon über JTL-eazyAuction Amazon-Anbindung - Fehler und Bugs 1
Neu Anpassung der Rechnungsansicht bei zu langen Artikelbeschreibungen Druck-/ E-Mail-/ Exportvorlagen in JTL-Wawi 0
Neu JTL Shop 5.4 - Seite 1 verschachtelt sich bei klick auf Seite 1 JTL-Shop - Fehler und Bugs 0
Neu Keine Exportpapiere mehr bei DHL 3.0 nach UK? JTL-ShippingLabels - Fehler und Bugs 3
In Diskussion Brauche Hilfe bei Bestand Email Workflow JTL-Workflows - Ideen, Lob und Kritik 17
Neu Newsletter-Abonnenten werden bei Gastbestellung nach Anonymisierung entfernt JTL-Shop - Fehler und Bugs 0
Neu Spontane Überarbeitung der Versandbedingungen bei Ebay eBay-Anbindung - Fehler und Bugs 1
Neu JTL2Datev ist defekt bei mir seit dem Update von 30.10.2024 User helfen Usern - Fragen zu JTL-Wawi 6
Neu Wie handelt Ihr die GPSR Anforderung an Produktbilder bei Amazon ? User helfen Usern - Fragen zu JTL-Wawi 0
Neu Frage zur Rechtevergabe bei eigenen Übersichten Eigene Übersichten in der JTL-Wawi 0
JTL-SHO 5 standard, downgrade zu CFE-Version, beide gehostet bei JTL Einrichtung JTL-Shop5 4
Neu Umgang mit Chargen bei mehreren Bestellungen Arbeitsabläufe in JTL-WMS / JTL-Packtisch+ 0
Neu Shopware 6 Bestellabgleich bei vormals fehlgeschlagener Zahlung Shopware-Connector 0
Verwiesen an Support Workflow artikel_erstellt wird bei LagerUmbuchung ausgelöst. JTL-Workflows - Fehler und Bugs 1
Neu Erstattungen per Paypal bei Stornierungen wird öfter nicht ausgezahlt Arbeitsabläufe in JTL-Wawi 0
Neu Artikelgewicht bei Versand in die Schweiz JTL-ShippingLabels - Fehler und Bugs 1
Fehler bei Rechnungsdatenserverice 2.0 JTL-Wawi 1.9 2
Neu Fehler bei Coupons bei Wechsel von 4 auf 5 Betrieb / Pflege von JTL-Shop 0
Neu Abbruch / Timeout bei Bildimport Shopware-Connector 0
Online seit: bei Artikel einstellen JTL-Wawi 1.8 0
Neu Gelber Hintergrund bei Mobilgeräten Einrichtung von JTL-Shop4 0
Neu Hauptbild wird bei Wechsel der VarKombi nicht angezeigt Betrieb / Pflege von JTL-Shop 3
Neu Betrug bei JTL? User helfen Usern - Fragen zu JTL-Wawi 3
Neu Wie kann ich die Verfügbarkeiten eines Artikels bei Amazon steuern? User helfen Usern - Fragen zu JTL-Wawi 0
Neu Workflow Auftragssplit bei DHL Export Sendungen mit mehreren Paketen User helfen Usern - Fragen zu JTL-Wawi 0
Neu Zusätzliche Bearbeitungszeit wird nicht bei der Lieferzeit an Shopware 6 berücksichtigt Shopware-Connector 0
Neu noindex bei URLs mit btgsterne Allgemeine Fragen zu JTL-Shop 0
Neu SCX (Alle Marktplätze) - habt ihr Kategorien, bei denen die Kategoriespezifischen Felder nicht laden / zuordnen nicht möglich / No Data available? Einrichtung und Installation von JTL-eazyAuction 0
In Diskussion Log bei Workflow Fehler JTL-Workflows - Ideen, Lob und Kritik 0
Neu Geht bei Euch das Aufladen der Portokasse in DHL-Onlinefrankierung? JTL-ShippingLabels - Ideen, Lob und Kritik 12
Neu Fehlermeldung: Fehler bei der Kommunikation mit dem eA-Server eBay-Anbindung - Fehler und Bugs 3
Neu Abholung in Filiale nur bei genügend Bestand Plugins für JTL-Shop 3
Fehler bei Update von 1.5.55.8 auf 1.7.15.6 ( Unbehandelte Ausnahme #7110FFD83C0136E0 vom Typ JTL.Database.SqlUpdater.UpdateException) JTL-Wawi 1.7 0
Korrektur Name des Absenders bei Anforderung der Bestätigung der E-Mail-Adresse Einrichtung JTL-Shop5 1
Neu Ebay Kundendienst erreichen, alternative zu customerhelp_de@ebay.com bei Bewertungen User helfen Usern 0
Neu Versand-/Leistungsdatum bei Exportrechnung User helfen Usern - Fragen zu JTL-Wawi 2
Formular Rechnungskorrektur Minus Vorzeichen bei Beträgen entfernen JTL-Wawi 1.9 2
1 Mandant, 2 Shops bei 2 Firmen mit gleichem Firmennamen JTL-Wawi 1.9 4
Neu Workflow: Mail bei Notiz in Auftrags-Historie User helfen Usern - Fragen zu JTL-Wawi 1
Neu Fehler bei Abgleich JTl Wawi mit JTL Shop User helfen Usern - Fragen zu JTL-Wawi 2
Neu Standard-Kundengruppe bei Neuanlage in LS-POS Fragen rund um LS-POS 2

Ähnliche Themen