Indexierung bei Google -falsche Indexierung durch Google?

Petuchov

Sehr aktives Mitglied
1. Oktober 2009
1.695
23
Augsburg
Die originale robots.txt sieht im Shop 3 so aus:
User-agent: *
Disallow: /navi.php
Disallow: /druckansicht.php
Disallow: /suche.php
Disallow: /bestellabschluss.php
Disallow: /bestellvorgang.php
Disallow: /jtl.php
Disallow: /pass.php
Disallow: /registrieren.php
Disallow: /warenkorb.php
Disallow: /admin
Disallow: /admin/*
Disallow: /dbeS/*


So wird die auch im Google Webmaster bei der anmeldung der Sitemap eingelesen
Bei der Prüfung der Indizierten Seiten stelle ich jedoch fest, dass die Navi-Seiten doch indexiert werden ( allinurl/mit übersprungenen Suchergebissen)

Beispiel :
www.domainname.de/navi.php?s=67&lang=eng&curr=EUR
auch Seiten wie
45,00 € - 52,50 € (1) - domainname.de (alle Preisgruppen) www.domainname.de/navi.php?k=54&pf=45_52.5

sollte eigentlich nicht sein , denke ist auch für den Shop eher schädlich

Eigentlich sollte Google das Zeugs garnicht einlesen, auch wenn es in der Sitemap ist

in diesem Zusammenhang stellt sich auch die Farge , was die Einstellung

(580) Alle Linkseiten anzeigen
(Ja/Nein) bewirkt, und wie ich die unerwünschten Seiten, ohne händisch arbeiten zu müssen, herausbekomme
 
Zuletzt von einem Moderator bearbeitet:

ralph_1

Gut bekanntes Mitglied
12. August 2011
586
5
AW: Indexierung bei Google -falsche Indexierung durch Google?

Eigentlich sollte Google das Zeugs garnicht einlesen, auch wenn es in der Sitemap ist
Tut es aber. Entgegen eigener Aussage werden ganz offensichtlich alle Inhalte eingelesen und oft auch, wenigstens für einige Zeit, im Suchindex aufgelistet. In der Regel aber nur zu finden, wenn man sich alle Seiten einer domain anzeigen lässt, über ein Suchwort wird das wohl nicht gelingen.
Nach Google-Richtlinien ist diese Seite über die robots.txt von der Indizierung ausgeschlossen, mehr kannst du nicht tun.

in diesem Zusammenhang stellt sich auch die Farge , was die Einstellung

(580) Alle Linkseiten anzeigen (Ja/Nein) bewirkt, und wie ich die unerwünschten Seiten, ohne händisch arbeiten zu müssen, herausbekomme
Ich glaube, hier handelt es sich um die Auflistung aller CMS-Seiten auf der der CMS-Seite Sitemap, also die Seite, die auch bei erfolgloser Suche angezeigt wird. Auf die xml-sitemap hat diese Einstellung scheinbar keinen Einfluss.
 
Zuletzt von einem Moderator bearbeitet:

upbox

Offizieller Servicepartner
SPBanner
17. Januar 2011
256
32
Firma
upbox GmbH
AW: Indexierung bei Google -falsche Indexierung durch Google?

sollte eigentlich nicht sein , denke ist auch für den Shop eher schädlich

Das ist es auch. Definitiv, seitdem Google die Schrauben für internen DC weiter angezogen hat. Das gibt es übrigens nicht nur für die navi.php sondern auch für andere Seiten die schön in der robots.txt ausgeschlossen wurden.


Eigentlich sollte Google das Zeugs gar nicht einlesen, auch wenn es in der Sitemap ist


Also Google lässt sich seit JAHREN nicht mehr wirklich durch die robots.txt beeinflussen. Wenn der Robot denkt, die Inhalte wurden zwar gesperrt sind aber dennoch interessant, dann landet die Seite auch im Index. Das sieht dann immer lustig aus, weil die Seite in der Anzeige von Google nur aus dem Titel besteht. Mehr geht ja auch nicht, weil das Lesen der Seite ja verboten ist. Das hindert aber niemanden daran die Seite zu indizieren. Niemand verbietet dem Bot das mit der Sperrung durch die robots.txt! Hier geht es ja nur um das Lesen der Inhalte!

Das Vorgehen hat sogar die Obernebelkerze Matt Cutts schon erklärt:
Uncrawled URLs in search results - YouTube

Jeder kann selber prüfen, ob sein Shop betroffen ist:
einfach mal in Google eingeben: site:domainname.de/navi.php

Zu der Frage was kann ich dagegen tun:

1.) Entsprechende Parameter in den Google Webmastertools ausschließen
2.) Seiten mit "noindex" aus dem Index befördern, aber vorher die robots.txt bearbeiten!
3.) Unter Umständen manuell alle Seiten über die Webmastertools entfernen

Ich hatte schon mal überlegt zum Thema eine Anleitung zu schreiben. Besteht da eventuell Interesse?
 

microline

Sehr aktives Mitglied
4. Februar 2010
728
28
AW: Indexierung bei Google -falsche Indexierung durch Google?

Auf jeden Fall ! Ich steuere auf 500.000 Seiten im Index zu ...
 

Petuchov

Sehr aktives Mitglied
1. Oktober 2009
1.695
23
Augsburg
AW: Indexierung bei Google -falsche Indexierung durch Google?

Jeder kann selber prüfen, ob sein Shop betroffen ist:
einfach mal in Google eingeben: site:domainname.de/navi.php

ich habs herausgefunden mit allinurl:www.domainame.de und dann die Suche mit übersprungnen Ergebnissen wiederholen

Zu der Frage was kann ich dagegen tun:

1.) Entsprechende Parameter in den Google Webmastertools ausschließen
2.) Seiten mit "noindex" aus dem Index befördern, aber vorher die robots.txt bearbeiten!
3.) Unter Umständen manuell alle Seiten über die Webmastertools entfernen

Ich hatte schon mal überlegt zum Thema eine Anleitung zu schreiben. Besteht da eventuell Interesse?

Wäre schon toll
In diesem Zusammenhang eine andere Geschihte: Bei einem Kunden, der mit der Original robots.txt seine sitemap anmelden wollte, kommt die Fehlermeldung
dass wichtige Dateien durch die robots.txt gesperrt sind, schaut man nach sind es sie navi Seiten und die Warenkorb Seite sowie die KWK (Kunden werben Kunden)
 

upbox

Offizieller Servicepartner
SPBanner
17. Januar 2011
256
32
Firma
upbox GmbH
AW: Indexierung bei Google -falsche Indexierung durch Google?

Also alle die Interesse haben für die Doku als Demoshop zu fungieren bitte mal kurz melden. Irgendein Beispiel brauche ich :)
 

kutti

Sehr aktives Mitglied
23. Dezember 2009
513
25
39638 Gardelegen OT-Letzlingen
Firma
Deine-Stickerei.de
AW: Indexierung bei Google -falsche Indexierung durch Google?

Hallo,

der letzte Tread ist zwar noch nicht lange her, aber gibt es schon etwas neues in der Richtung? Ich wäre daran interessiert.
 

upbox

Offizieller Servicepartner
SPBanner
17. Januar 2011
256
32
Firma
upbox GmbH
AW: Indexierung bei Google -falsche Indexierung durch Google?

Kurzes Zwischenfazit: Liste ist fertig. Wir überlegen nur gerade, ob wir nicht die Zusammenfassung gleich noch als Plugin veröffentlichen. Leider ist die Lösung nämlich nicht ohne Änderungen in den Template Dateien umsetzbar.
 
Ähnliche Themen
Titel Forum Antworten Datum
Ebay angebote lassen sich nicht mehr bei JTL bearbeiten JTL-Wawi 2.0 0
Ameise-Export: Umsatzsteuer stimmt nicht mit Differenz aus Netto und Brutto überein (insbesondere bei mehreren Steuersätzen) JTL-Wawi 1.11 0
Fehler bei Bearbeitung von Attributen via HTML-Editor JTL-Wawi 2.0 3
Neu product_visibility bei JTL-Wawi und Shopware 6 Shopware-Connector 1
Neu Wie aktiviere ich den richtigen EK bei freiem Wareneingang? Arbeitsabläufe in JTL-WMS / JTL-Packtisch+ 0
Workflow Trigger bei Angebot-Import über Ameise JTL-Wawi 1.9 0
Absturz bei Hinzufügen von Artikelbildern JTL-Wawi 2.0 3
Neu Falsche Zahlungsart bei Gutscheinzahlungen im DSFinV-K-Export JTL-POS - Fehler und Bugs 0
Update auf 2.0.1 Fehler bei eazybusiness JTL-Wawi 2.0 17
Update auf 2.0.1.0 bricht ab bei 1.12.0.0. JTL-Wawi 2.0 6
Probleme bei der Verbindung zur Datenbank JTL-Wawi 2.0 12
Neu JTL Shipping Fehler bei DHL Versand über WMS ? User helfen Usern - Fragen zu JTL-Wawi 2
Artikelnamen bei Varioartikel nichtänderbar mit csv JTL-Wawi 1.10 0
Neu 5.6.1 Bug bei Versandarten mit Kalkulation durch Artikelmenge und Staffelpreisen JTL-Shop - Fehler und Bugs 2
Neu Seit Update auf JTL-WaWi 2.0.0.0 keine Abholung der Kundendaten bei MediaSaturn-Bestellungen JTL-Wawi - Fehler und Bugs 7
Neu Hilfe bei der Entwicklung gesucht: Werde Tester für meine JTL-Shop Plugins Plugins für JTL-Shop 0
Neu Google Shopping: identifier_exists bei fehlender GTIN Allgemeine Fragen zu JTL-Shop 3
Neu Workflow automatisch bei Warenausgang für Bestand und Puffer JTL-Wawi - Ideen, Lob und Kritik 12
Neu Anzeigen der Zahlungsart, die bei der Zahlung gesetzt wird Eigene Übersichten in der JTL-Wawi 10
Versandkosten bei gemischten Steuersätzen JTL-Wawi 2.0 6
Gelöst Bekannte Störung: Fehler "Der Inhaltstyp text/html stimmt nicht mit text/xml überein" bei der Labelerstellung Gelöste Themen in diesem Bereich 1
Neu Synchronisation funktioniert nur bei manchen Produkten Shopify-Connector 7
Neu Problem bei Varianten-Upload mit Amazon Lister 2.0 (Attribut-Mapping Farbe/Größe) Onlineshop-Anbindung 1
Neu Reihenfolge der Länder (bei der Versandkostenberechnung) Betrieb / Pflege von JTL-Shop 2
Neu Workflow Ereignis "Position hinzufügen" bei Angebote User helfen Usern - Fragen zu JTL-Wawi 0
Neu Kundenrabatte bei Auftragsimport JTL-Ameise - Fehler und Bugs 0
Neu Rückverfolgung des Verkaufskanal bei Angeboten aus dem Shop User helfen Usern - Fragen zu JTL-Wawi 3
Neu Rückverfolgung des Verkaufskanal bei Angeboten aus dem Shop Eigene Übersichten in der JTL-Wawi 0
Neu welche Sync Benutzer Daten in Shop und WAWI bei neu-Hosting über JTL Allgemeine Fragen zu JTL-Shop 0
welche Sync Benutzer Daten in Shop und WAWI bei neu-Hosting über JTL JTL-Wawi 1.11 0
Neu Gelangensbestätigungen bei innergemeinschaftlichen Lieferungen? User helfen Usern - Fragen zu JTL-Wawi 1
Neu SaaS Connector – product.push Performance-Problem bei Shopware 6.6 Shopware-Connector 3
Neu Ständig neue Angebote von JTL und Fallen bei Unaufmerksamkeit Smalltalk 26
Export Zahlungen Amazon marketplace bei Kombi OSS und FBA erfolgt nach JTL2DATEV unvollständig JTL-Wawi 1.9 0
Neu Massive 504 Timeouts bei Bot-Crawl (JTL-Hosting) – PHP-Worker-Pool als Flaschenhals? JTL-Shop - Fehler und Bugs 2
Neu Hinweisfeld bei Versandarten: HTML Code möglich? Betrieb / Pflege von JTL-Shop 7
Neu Hinweis bei B2B-IGL User helfen Usern - Fragen zu JTL-Wawi 5
Aktualisierung Artikelbilder bei Kaufland nicht möglich? kaufland.de - Anbindung (SCX) 0
Neu Fehlermeldung bei Farbänderung im Nova oder Nova Child Theme Templates für JTL-Shop 2
Skonto bei Barzahlung wird angezeigt, aber nicht vom Rechnungsbetrag abgezogen JTL-Wawi 1.9 11
Neu Fehler bei Artikel Filter in der Wawi JTL-Wawi - Fehler und Bugs 2
Neu Bei Gutschein einlösen kein Rückgeld möglich Allgemeine Fragen zu JTL-POS 0
Neu SPAM durch die Eingabeseite bei den Kundendaten JTL-Shop - Fehler und Bugs 67
Inaktive Zahlungsart wird bei Eingangsrechnungen angezeigt JTL-Wawi 1.11 0
Neu Shopify Connector Fehlermeldung bei Kategoriebildern Shopify-Connector 6
Neu Eigenen Firmennamen bei eingehenden Anrufen anzeigen lassen Smalltalk 2
Neu Google Shopping: g:product_type mit Attribut befüllen ist immer DE, obwohl mehrsprachig angelegt Plugins für JTL-Shop 0
Neu Google Shopping – Missing sub-attribute [country] (Versandland fehlt) Plugins für JTL-Shop 6
Neu JTL Exportformat Google - Produkte fehlen im Export Plugins für JTL-Shop 0
Neu Google Merchantcenter - Download der Shoppingfeeds nicht mehr möglich Allgemeine Fragen zu JTL-Shop 6

Ähnliche Themen