Gelöst Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artikel)

Janusch

Administrator
Mitarbeiter
24. März 2006
13.921
264
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Reicht hier auch ggf. zum testen die Testlizens ? Sind dort die Beschränkungen entfernt ?

https://technet.microsoft.com/de-de/evalcenter/dn205290.aspx

Irgendwie sieht man bei Microsoft den Wald vor lauter Bäumen nicht. ^^
dafür würde ich aber schon alle Aritkel importieren, wenn testen dann richtig.
180 Tage ist die Beschränkung. ISO oder CAB für lokale Installation nehmen.
 

Gabbahead

Aktives Mitglied
18. Februar 2015
167
1
Berlin
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Ja die Preise sind auf jeden Fall recht ordentlich. Aber sie werden dann wohl oder übel nötig sein, denn wir brauchen diese Ressourcen.
Und ja, ich habe den Import nur pausiert um schauen wie lange es aktuell dauert. Aber kann ich hier nun die Vollversion einfach drüber bügeln und dann den Import wieder aufnehmen ? Oder soll ich den Import mit der Express Version zuende bringen. Das wird dann aber locker noch ne Woche dauern. ^^
 

Janusch

Administrator
Mitarbeiter
24. März 2006
13.921
264
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Man kann die Express Datenbank in der Vollversion importieren und weiter nutzen, da diese kompatibel sind. Auf Version achten, 2005 geht in 2012 aber nicht umgekehrt.

Denoch ist mir kein Nutzer bekannt der 2,5 Mio. Artikel mit der Wawi betreibt. Das höchste war etwas unter 1 Mio. und da war die Hardware schon ordentlich.
Wenn Du weter testen möchtest, dann nimm die 41 von heute die gleich rauskommt. Zumindest der Ameise import sollte besser laufen. Die Suche in Artikelverwaltung sollte auch besser funktionieren.
Falls es nicht funktioniert, können wir Dir entgegenkommen und die Lizenzkoste erstatten.
 

Janusch

Administrator
Mitarbeiter
24. März 2006
13.921
264
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Noch kurz Nachtrag. beim Webshopabgliech werden ca. 5 Artikel pro Sek. übertragen. Das sind etwa 18k pro Stunde ohne Bilder.
 

Gabbahead

Aktives Mitglied
18. Februar 2015
167
1
Berlin
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Also das Angebot der Lizenskostenerstattung finde ich wirklich sehr löblich und rechne ich euch hoch an. Da können sich andere auf jeden Fall noch ne scheibe von abschneiden. Bei einem anderen Anbieter wo wir leider von wechseln musste, gab es solch ein Angebot nicht. Wobei hier der Fehler nicht bei uns lag, das es nicht funktioniert hat, sondern beim Anbieter, da in der Demo mehr versprochen wurde, als in der Final dann möglich war.

Aber ich würde natürlich trotzdem erstmal gerne versuchen bei euch zu bleiben, da mir das Gesamtpaket bei euch einfach zu gut gefällt. ;)

Ich werde das ganze nun mal mit SSD M.2 Module testen, damit zumindest die Festplatte erheblich mehr Leistung erhält. Dazu schauen ich ob die neue MSSQL Lizens mehr Performance bringt. Ich hoffe die Testversion oder Developer Version kann hier schon Aufschluss darüber geben.
 

Gabbahead

Aktives Mitglied
18. Februar 2015
167
1
Berlin
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Gehört zwar nun nicht mehr so ganz zu diesem Thema hier. Aber danke das ihr nun mit der 41er die EAN, Lieferanten-/Artikelnummer Suchen rausgepackt habt. Die Volltextsuche war für sowas einfach nicht zugebrauchen. ;) Von 6min. Wartezeit inzwischen auf 1-2min runter gegangen. Dazu habe ich heute die Vollversion von MSSQL installiert. Nächste Woche kommt dann neue Hardware und dann geht der Import weiter und werde sehen wie sich das ganze dann verhält.
 

memo Software

Gut bekanntes Mitglied
10. Oktober 2009
442
1
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Die Developer-Lizenz ist leider nicht für den produktiven Einsatz genehmigt. Nimm die Enterprise. Die kann nämlich als einziger MSSQL-Server In-Memory OLTP. Damit kannst Du die ganze Datenbank ins RAM laden, was mehr bringt als die SSDs (vorausgesetzt, Du hast 40GB oder mehr RAM und einen wirklich fetten Server).

Siehe auch: https://msdn.microsoft.com/de-de/library/cc645993.aspx#Scalability

Viel Erfolg!

Martin
 

Gabbahead

Aktives Mitglied
18. Februar 2015
167
1
Berlin
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Noch läuft das ja nicht im produktiven Einsatz und ich nutze auch nicht die Developer Verison, sondern die 180 Tage Testversion, die hat ebenfalls OLTP enthalten. ;) Ich denke die DB wird am Ende ca. 15-20GB haben, darum habe ich heute erstmal nur 32GB Arbeitsspeicher bestellt. Werde dann das ganze mal testen wie es sich verhält. Es bringt mir nichts wenn ich jetzt schon überall das beste hole und das Nadelör am ganz anderen Ende sitzt, nämlich Softwareseitig.

Aber ich hoffe das ich mit hilfe von JTL und der Beta auch auf Softwareseite noch etwas an der Schraube drehen kann. Die Suche wurde ja nun in der 41er etwas verbessert und die Beta läuft ja auch noch ein wenig.

Ich denke wir werden nicht die einzigen Kunden mit so einer großen Datenbank sein und JTL wird selber daran interessiert sein auch solche Kunden zu gewinnen. Auf jeden Fall sind meine 8GB von der Datenbank nun komplett belegt. ^^ Man sieht nicht mal den Prozess dafür, sonst war der sqlserver Prozess bei der Suche und Import so auf 2-3GB angestiegen, da rühert sich aktuell garnichts.

Frage mich wie Windows das also verwaltet. Muss man OLTP explizit für die Instanz/DB aktivieren, oder reicht die Konfiguration am Anfang der Installation ?

Und Danke. ;)
 
Ähnliche Themen
Titel Forum Antworten Datum
Neu Feld "Verkaufskanal" bei importierten Artikeln ausgegraut JTL-Ameise - Fehler und Bugs 1
Gelöst OPC geht nicht mehr bei v5.4 Installation / Updates von JTL-Shop 3
Neu Kundengruppen Zuordnung bei Registrierung anhand Emaildomain Plugins für JTL-Shop 1
Neu Datev Konto Buchung bei Gutschein Verkauf Allgemeine Fragen zu JTL-POS 0
Neu Breadcrumb Navigation bei Kategorie-, Hersteller- und Merkmallisten verschieden JTL-Shop - Fehler und Bugs 0
Neu Fehler 500 bei Versandmeldung an Amazon über JTL-eazyAuction Amazon-Anbindung - Fehler und Bugs 1
Neu Anpassung der Rechnungsansicht bei zu langen Artikelbeschreibungen Druck-/ E-Mail-/ Exportvorlagen in JTL-Wawi 0
Neu JTL Shop 5.4 - Seite 1 verschachtelt sich bei klick auf Seite 1 JTL-Shop - Fehler und Bugs 0
Neu Keine Exportpapiere mehr bei DHL 3.0 nach UK? JTL-ShippingLabels - Fehler und Bugs 3
In Diskussion Brauche Hilfe bei Bestand Email Workflow JTL-Workflows - Ideen, Lob und Kritik 17
Neu Newsletter-Abonnenten werden bei Gastbestellung nach Anonymisierung entfernt JTL-Shop - Fehler und Bugs 0
Neu Spontane Überarbeitung der Versandbedingungen bei Ebay eBay-Anbindung - Fehler und Bugs 1
Neu JTL2Datev ist defekt bei mir seit dem Update von 30.10.2024 User helfen Usern - Fragen zu JTL-Wawi 6
Neu Wie handelt Ihr die GPSR Anforderung an Produktbilder bei Amazon ? User helfen Usern - Fragen zu JTL-Wawi 0
Neu Frage zur Rechtevergabe bei eigenen Übersichten Eigene Übersichten in der JTL-Wawi 0
JTL-SHO 5 standard, downgrade zu CFE-Version, beide gehostet bei JTL Einrichtung JTL-Shop5 4
Neu Umgang mit Chargen bei mehreren Bestellungen Arbeitsabläufe in JTL-WMS / JTL-Packtisch+ 0
Neu Shopware 6 Bestellabgleich bei vormals fehlgeschlagener Zahlung Shopware-Connector 0
Verwiesen an Support Workflow artikel_erstellt wird bei LagerUmbuchung ausgelöst. JTL-Workflows - Fehler und Bugs 1
Neu Erstattungen per Paypal bei Stornierungen wird öfter nicht ausgezahlt Arbeitsabläufe in JTL-Wawi 0
Neu Artikelgewicht bei Versand in die Schweiz JTL-ShippingLabels - Fehler und Bugs 1
Fehler bei Rechnungsdatenserverice 2.0 JTL-Wawi 1.9 2
Neu Fehler bei Coupons bei Wechsel von 4 auf 5 Betrieb / Pflege von JTL-Shop 0
Neu Abbruch / Timeout bei Bildimport Shopware-Connector 0
Online seit: bei Artikel einstellen JTL-Wawi 1.8 0
Neu Gelber Hintergrund bei Mobilgeräten Einrichtung von JTL-Shop4 0
Neu Hauptbild wird bei Wechsel der VarKombi nicht angezeigt Betrieb / Pflege von JTL-Shop 3
Neu Betrug bei JTL? User helfen Usern - Fragen zu JTL-Wawi 3
Neu Wie kann ich die Verfügbarkeiten eines Artikels bei Amazon steuern? User helfen Usern - Fragen zu JTL-Wawi 0
Neu Workflow Auftragssplit bei DHL Export Sendungen mit mehreren Paketen User helfen Usern - Fragen zu JTL-Wawi 0
Neu Zusätzliche Bearbeitungszeit wird nicht bei der Lieferzeit an Shopware 6 berücksichtigt Shopware-Connector 0
Neu noindex bei URLs mit btgsterne Allgemeine Fragen zu JTL-Shop 0
Neu SCX (Alle Marktplätze) - habt ihr Kategorien, bei denen die Kategoriespezifischen Felder nicht laden / zuordnen nicht möglich / No Data available? Einrichtung und Installation von JTL-eazyAuction 0
In Diskussion Log bei Workflow Fehler JTL-Workflows - Ideen, Lob und Kritik 0
Neu Geht bei Euch das Aufladen der Portokasse in DHL-Onlinefrankierung? JTL-ShippingLabels - Ideen, Lob und Kritik 12
Neu Fehlermeldung: Fehler bei der Kommunikation mit dem eA-Server eBay-Anbindung - Fehler und Bugs 3
Neu Abholung in Filiale nur bei genügend Bestand Plugins für JTL-Shop 3
Fehler bei Update von 1.5.55.8 auf 1.7.15.6 ( Unbehandelte Ausnahme #7110FFD83C0136E0 vom Typ JTL.Database.SqlUpdater.UpdateException) JTL-Wawi 1.7 0
Korrektur Name des Absenders bei Anforderung der Bestätigung der E-Mail-Adresse Einrichtung JTL-Shop5 1
Neu Ebay Kundendienst erreichen, alternative zu customerhelp_de@ebay.com bei Bewertungen User helfen Usern 0
Neu Versand-/Leistungsdatum bei Exportrechnung User helfen Usern - Fragen zu JTL-Wawi 2
Formular Rechnungskorrektur Minus Vorzeichen bei Beträgen entfernen JTL-Wawi 1.9 2
1 Mandant, 2 Shops bei 2 Firmen mit gleichem Firmennamen JTL-Wawi 1.9 4
Neu Workflow: Mail bei Notiz in Auftrags-Historie User helfen Usern - Fragen zu JTL-Wawi 1
Neu Fehler bei Abgleich JTl Wawi mit JTL Shop User helfen Usern - Fragen zu JTL-Wawi 2
Neu Standard-Kundengruppe bei Neuanlage in LS-POS Fragen rund um LS-POS 2
In Diskussion E-Mail an Lieferanten bei Verkauf einer seiner Artikel JTL-Workflows - Ideen, Lob und Kritik 4
Neu Fehler bei Connector Shopify-Connector 4
Neu Ablage von E-Mails bei einem Auftrag User helfen Usern - Fragen zu JTL-Wawi 4
Wie lange benötigt bei euch die Wawi zum starten JTL-Wawi 1.9 7

Ähnliche Themen