Indexierung bei Google -falsche Indexierung durch Google?

Petuchov

Sehr aktives Mitglied
1. Oktober 2009
1.695
23
Augsburg
Die originale robots.txt sieht im Shop 3 so aus:
User-agent: *
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*


So wird die auch im Google Webmaster bei der anmeldung der Sitemap eingelesen
Bei der Prüfung der Indizierten Seiten stelle ich jedoch fest, dass die Navi-Seiten doch indexiert werden ( allinurl/mit übersprungenen Suchergebissen)

Beispiel :
www.domainname.de/navi.php?s=67&lang=eng&curr=EUR
auch Seiten wie
45,00 € - 52,50 € (1) - domainname.de (alle Preisgruppen) www.domainname.de/navi.php?k=54&pf=45_52.5

sollte eigentlich nicht sein , denke ist auch für den Shop eher schädlich

Eigentlich sollte Google das Zeugs garnicht einlesen, auch wenn es in der Sitemap ist

in diesem Zusammenhang stellt sich auch die Farge , was die Einstellung

(580) Alle Linkseiten anzeigen
(Ja/Nein) bewirkt, und wie ich die unerwünschten Seiten, ohne händisch arbeiten zu müssen, herausbekomme
 
Zuletzt von einem Moderator bearbeitet:

ralph_1

Gut bekanntes Mitglied
12. August 2011
586
5
AW: Indexierung bei Google -falsche Indexierung durch Google?

Eigentlich sollte Google das Zeugs garnicht einlesen, auch wenn es in der Sitemap ist
Tut es aber. Entgegen eigener Aussage werden ganz offensichtlich alle Inhalte eingelesen und oft auch, wenigstens für einige Zeit, im Suchindex aufgelistet. In der Regel aber nur zu finden, wenn man sich alle Seiten einer domain anzeigen lässt, über ein Suchwort wird das wohl nicht gelingen.
Nach Google-Richtlinien ist diese Seite über die robots.txt von der Indizierung ausgeschlossen, mehr kannst du nicht tun.

in diesem Zusammenhang stellt sich auch die Farge , was die Einstellung

(580) Alle Linkseiten anzeigen (Ja/Nein) bewirkt, und wie ich die unerwünschten Seiten, ohne händisch arbeiten zu müssen, herausbekomme
Ich glaube, hier handelt es sich um die Auflistung aller CMS-Seiten auf der der CMS-Seite Sitemap, also die Seite, die auch bei erfolgloser Suche angezeigt wird. Auf die xml-sitemap hat diese Einstellung scheinbar keinen Einfluss.
 
Zuletzt von einem Moderator bearbeitet:

upbox

Offizieller Servicepartner
SPBanner
17. Januar 2011
270
36
Firma
upbox GmbH
AW: Indexierung bei Google -falsche Indexierung durch Google?

sollte eigentlich nicht sein , denke ist auch für den Shop eher schädlich

Das ist es auch. Definitiv, seitdem Google die Schrauben für internen DC weiter angezogen hat. Das gibt es übrigens nicht nur für die navi.php sondern auch für andere Seiten die schön in der robots.txt ausgeschlossen wurden.


Eigentlich sollte Google das Zeugs gar nicht einlesen, auch wenn es in der Sitemap ist


Also Google lässt sich seit JAHREN nicht mehr wirklich durch die robots.txt beeinflussen. Wenn der Robot denkt, die Inhalte wurden zwar gesperrt sind aber dennoch interessant, dann landet die Seite auch im Index. Das sieht dann immer lustig aus, weil die Seite in der Anzeige von Google nur aus dem Titel besteht. Mehr geht ja auch nicht, weil das Lesen der Seite ja verboten ist. Das hindert aber niemanden daran die Seite zu indizieren. Niemand verbietet dem Bot das mit der Sperrung durch die robots.txt! Hier geht es ja nur um das Lesen der Inhalte!

Das Vorgehen hat sogar die Obernebelkerze Matt Cutts schon erklärt:
Uncrawled URLs in search results - YouTube

Jeder kann selber prüfen, ob sein Shop betroffen ist:
einfach mal in Google eingeben: site:domainname.de/navi.php

Zu der Frage was kann ich dagegen tun:

1.) Entsprechende Parameter in den Google Webmastertools ausschließen
2.) Seiten mit "noindex" aus dem Index befördern, aber vorher die robots.txt bearbeiten!
3.) Unter Umständen manuell alle Seiten über die Webmastertools entfernen

Ich hatte schon mal überlegt zum Thema eine Anleitung zu schreiben. Besteht da eventuell Interesse?
 

microline

Sehr aktives Mitglied
4. Februar 2010
728
28
AW: Indexierung bei Google -falsche Indexierung durch Google?

Auf jeden Fall ! Ich steuere auf 500.000 Seiten im Index zu ...
 

Petuchov

Sehr aktives Mitglied
1. Oktober 2009
1.695
23
Augsburg
AW: Indexierung bei Google -falsche Indexierung durch Google?

Jeder kann selber prüfen, ob sein Shop betroffen ist:
einfach mal in Google eingeben: site:domainname.de/navi.php

ich habs herausgefunden mit allinurl:www.domainame.de und dann die Suche mit übersprungnen Ergebnissen wiederholen

Zu der Frage was kann ich dagegen tun:

1.) Entsprechende Parameter in den Google Webmastertools ausschließen
2.) Seiten mit "noindex" aus dem Index befördern, aber vorher die robots.txt bearbeiten!
3.) Unter Umständen manuell alle Seiten über die Webmastertools entfernen

Ich hatte schon mal überlegt zum Thema eine Anleitung zu schreiben. Besteht da eventuell Interesse?

Wäre schon toll
In diesem Zusammenhang eine andere Geschihte: Bei einem Kunden, der mit der Original robots.txt seine sitemap anmelden wollte, kommt die Fehlermeldung
dass wichtige Dateien durch die robots.txt gesperrt sind, schaut man nach sind es sie navi Seiten und die Warenkorb Seite sowie die KWK (Kunden werben Kunden)
 

upbox

Offizieller Servicepartner
SPBanner
17. Januar 2011
270
36
Firma
upbox GmbH
AW: Indexierung bei Google -falsche Indexierung durch Google?

Also alle die Interesse haben für die Doku als Demoshop zu fungieren bitte mal kurz melden. Irgendein Beispiel brauche ich :)
 

kutti

Sehr aktives Mitglied
23. Dezember 2009
514
25
39638 Gardelegen OT-Letzlingen
Firma
Deine-Stickerei.de
AW: Indexierung bei Google -falsche Indexierung durch Google?

Hallo,

der letzte Tread ist zwar noch nicht lange her, aber gibt es schon etwas neues in der Richtung? Ich wäre daran interessiert.
 

upbox

Offizieller Servicepartner
SPBanner
17. Januar 2011
270
36
Firma
upbox GmbH
AW: Indexierung bei Google -falsche Indexierung durch Google?

Kurzes Zwischenfazit: Liste ist fertig. Wir überlegen nur gerade, ob wir nicht die Zusammenfassung gleich noch als Plugin veröffentlichen. Leider ist die Lösung nämlich nicht ohne Änderungen in den Template Dateien umsetzbar.
 
Ähnliche Themen
Titel Forum Antworten Datum
Neu Wie ändere ich das vorausgewählte Lager bei Bestellungen? User helfen Usern - Fragen zu JTL-Wawi 0
Neu Fehlender Rabattabzug bei Amazon Multirabatten Amazon-Anbindung - Fehler und Bugs 0
Neu Workflow bei fehlerhaften Bankabgleich JTL-Workflows - Ideen, Lob und Kritik 1
Gelöst: Störung bei LInk11 - JTL- Shops teilweise nicht erreichbar Störungsmeldungen 1
Neu JTL Wawi 1.11.11 - Zahlungsabgleich bei FYRST Bank verlangt immer Passwort User helfen Usern - Fragen zu JTL-Wawi 0
Kundengruppenrabatte werden bei einzelnen Artikeln nicht übernommen – „Rabatte ignorieren“ springt nach Speichern zurück JTL-Wawi 2.0 2
Neu [API] Zahlungen bei salesOrders verbuchen Schnittstellen Import / Export 0
Neu Unerwünschtes Scrollen/Springen zum Seitenanfang bei Footer-Menüs (Mobile) JTL-Shop - Fehler und Bugs 0
Frage stellen bei Bestellung JTL-Wawi 1.11 1
Bei Update auf 2.05 kam folgende Meldung JTL-Wawi 2.0 2
Neu Fehleretikett bei OTTO Bestellungen bzgl. Adresszusatz JTL-ShippingLabels - Fehler und Bugs 2
Skonto wird bei Zahlung setzen nicht berücksichtigt JTL-Wawi 1.11 2
Wawi 1.11.9 Ständige Abstürze bei Aktualisierung Artikelstammdaten JTL-Wawi 1.11 4
Neu Helfen Lösungen wie Unicorn wirklich, um die teuren Preise bei JTL zu vermeiden? Amazon-Anbindung - Ideen, Lob und Kritik 1
Neu Erstellung der Sitemap bei WaWi Abgleich funktioniert nicht Allgemeine Fragen zu JTL-Shop 0
Neu Bug? Führende Nullen bei Sendungsnummern verschwinden in JTL-Wawi 2.0.3 JTL-ShippingLabels - Fehler und Bugs 1
Neu Update nach 5.7.1 hängt bei Mirgation Installation / Updates von JTL-Shop 4
Wawi 1.11. Rechnungsanhang funktioniert nicht mehr bei Versandmail JTL-Wawi 1.11 6
Fehlermeldungen bei Einrichtung DHL 4.0 "Objektverweis" und "Konfiguration Versandart" JTL-Wawi 1.11 2
Error 500 bei Neuinstallation Einrichtung JTL-Shop5 7
Neu Amazon Versandentgelt Kaufen bei Standardbestellungen Amazon-Anbindung - Ideen, Lob und Kritik 0
Neu Hilfe bei jtl-pos Synchronisation User helfen Usern - Fragen zu JTL-Wawi 5
Neu Fragen zum SaaS-Connector / Shopware6 bei Lagerbestandskorrektur Shopware-Connector 0
Kontrollkästchen "Export" bei Zahlungen nicht mehr angehakt JTL-Wawi 2.0 1
Neu Seltsamer Fehler bei PayPal-Checkout: "Warenkorb enthielt Vaterartikel..." JTL-Shop - Fehler und Bugs 2
Neu Nach Update auf 1.11.10.0 Abgleich zu Ebay über 3 Stunden bei neuen Angeboten eBay-Anbindung - Fehler und Bugs 2
Neu Falsch erzeugte Ausgangszahlung bei Teilzahlungen und Retoure (Kauf auf Rechnung) Arbeitsabläufe in JTL-Wawi 0
Anmeldung mit OAuth bei Versanddienstleister notwendig JTL-Wawi 1.10 5
Neu Kritisches Problem bei DHL 4.0: Handelsstücklisten brechen EU- und Exportversand JTL-ShippingLabels - Fehler und Bugs 24
Neu Muss bei DHL Express ebenfalls was geändert werden, aufgrund DHL 4.0? User helfen Usern - Fragen zu JTL-Wawi 1
Ameise.exe Fundort bei JTL WAWI 2.02 JTL-Wawi 2.0 2
Neu Keine Adressvalidierung bei DHL Versenden 4.0? JTL-ShippingLabels - Ideen, Lob und Kritik 5
Fehlermeldung bei DHL 4.0 versand JTL-Wawi 2.0 26
Neu Neuerdings E-Mail benachrichtigung bei "Pick up in Store", allerdings mit E-Mail "Bestellung wurde abgeholt" Shopify-Connector 0
Neu keine Kontakt Absender/Empfänger bei DHL Versenden 4.0 JTL-ShippingLabels - Ideen, Lob und Kritik 4
Neu DHL Versenden 4.0 HS Code-Fehler bei Freiposition JTL-ShippingLabels - Fehler und Bugs 14
Neu Muss man für DHL Versenden 4.0 einen neuen Benutzer bei DHL anlegen? JTL-ShippingLabels - Ideen, Lob und Kritik 2
Ebay angebote lassen sich nicht mehr bei JTL bearbeiten JTL-Wawi 2.0 0
Ameise-Export: Umsatzsteuer stimmt nicht mit Differenz aus Netto und Brutto überein (insbesondere bei mehreren Steuersätzen) JTL-Wawi 1.11 0
Fehler bei Bearbeitung von Attributen via HTML-Editor JTL-Wawi 2.0 3
Neu product_visibility bei JTL-Wawi und Shopware 6 Shopware-Connector 1
Neu Produkt-Upload schlägt fehl nach Shopware-Update 6.7.9.0 – Fehler bei quantityStart (SaaS-Connector) Shopware-Connector 14
Neu Wie aktiviere ich den richtigen EK bei freiem Wareneingang? Arbeitsabläufe in JTL-WMS / JTL-Packtisch+ 0
Workflow Trigger bei Angebot-Import über Ameise JTL-Wawi 1.9 1
Absturz bei Hinzufügen von Artikelbildern JTL-Wawi 2.0 3
Neu Falsche Zahlungsart bei Gutscheinzahlungen im DSFinV-K-Export JTL-POS - Fehler und Bugs 1
Update auf 2.0.1 Fehler bei eazybusiness JTL-Wawi 2.0 17
Update auf 2.0.1.0 bricht ab bei 1.12.0.0. JTL-Wawi 2.0 6
Probleme bei der Verbindung zur Datenbank JTL-Wawi 2.0 12
Neu JTL Shipping Fehler bei DHL Versand über WMS ? User helfen Usern - Fragen zu JTL-Wawi 2

Ähnliche Themen