Gelöst Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artikel)

Janusch

Administrator
Mitarbeiter
24. März 2006
13.921
264
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Reicht hier auch ggf. zum testen die Testlizens ? Sind dort die Beschränkungen entfernt ?

https://technet.microsoft.com/de-de/evalcenter/dn205290.aspx

Irgendwie sieht man bei Microsoft den Wald vor lauter Bäumen nicht. ^^
dafür würde ich aber schon alle Aritkel importieren, wenn testen dann richtig.
180 Tage ist die Beschränkung. ISO oder CAB für lokale Installation nehmen.
 

Gabbahead

Aktives Mitglied
18. Februar 2015
167
1
Berlin
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Ja die Preise sind auf jeden Fall recht ordentlich. Aber sie werden dann wohl oder übel nötig sein, denn wir brauchen diese Ressourcen.
Und ja, ich habe den Import nur pausiert um schauen wie lange es aktuell dauert. Aber kann ich hier nun die Vollversion einfach drüber bügeln und dann den Import wieder aufnehmen ? Oder soll ich den Import mit der Express Version zuende bringen. Das wird dann aber locker noch ne Woche dauern. ^^
 

Janusch

Administrator
Mitarbeiter
24. März 2006
13.921
264
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Man kann die Express Datenbank in der Vollversion importieren und weiter nutzen, da diese kompatibel sind. Auf Version achten, 2005 geht in 2012 aber nicht umgekehrt.

Denoch ist mir kein Nutzer bekannt der 2,5 Mio. Artikel mit der Wawi betreibt. Das höchste war etwas unter 1 Mio. und da war die Hardware schon ordentlich.
Wenn Du weter testen möchtest, dann nimm die 41 von heute die gleich rauskommt. Zumindest der Ameise import sollte besser laufen. Die Suche in Artikelverwaltung sollte auch besser funktionieren.
Falls es nicht funktioniert, können wir Dir entgegenkommen und die Lizenzkoste erstatten.
 

Janusch

Administrator
Mitarbeiter
24. März 2006
13.921
264
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Noch kurz Nachtrag. beim Webshopabgliech werden ca. 5 Artikel pro Sek. übertragen. Das sind etwa 18k pro Stunde ohne Bilder.
 

Gabbahead

Aktives Mitglied
18. Februar 2015
167
1
Berlin
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Also das Angebot der Lizenskostenerstattung finde ich wirklich sehr löblich und rechne ich euch hoch an. Da können sich andere auf jeden Fall noch ne scheibe von abschneiden. Bei einem anderen Anbieter wo wir leider von wechseln musste, gab es solch ein Angebot nicht. Wobei hier der Fehler nicht bei uns lag, das es nicht funktioniert hat, sondern beim Anbieter, da in der Demo mehr versprochen wurde, als in der Final dann möglich war.

Aber ich würde natürlich trotzdem erstmal gerne versuchen bei euch zu bleiben, da mir das Gesamtpaket bei euch einfach zu gut gefällt. ;)

Ich werde das ganze nun mal mit SSD M.2 Module testen, damit zumindest die Festplatte erheblich mehr Leistung erhält. Dazu schauen ich ob die neue MSSQL Lizens mehr Performance bringt. Ich hoffe die Testversion oder Developer Version kann hier schon Aufschluss darüber geben.
 

Gabbahead

Aktives Mitglied
18. Februar 2015
167
1
Berlin
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Gehört zwar nun nicht mehr so ganz zu diesem Thema hier. Aber danke das ihr nun mit der 41er die EAN, Lieferanten-/Artikelnummer Suchen rausgepackt habt. Die Volltextsuche war für sowas einfach nicht zugebrauchen. ;) Von 6min. Wartezeit inzwischen auf 1-2min runter gegangen. Dazu habe ich heute die Vollversion von MSSQL installiert. Nächste Woche kommt dann neue Hardware und dann geht der Import weiter und werde sehen wie sich das ganze dann verhält.
 

memo Software

Gut bekanntes Mitglied
10. Oktober 2009
442
1
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Die Developer-Lizenz ist leider nicht für den produktiven Einsatz genehmigt. Nimm die Enterprise. Die kann nämlich als einziger MSSQL-Server In-Memory OLTP. Damit kannst Du die ganze Datenbank ins RAM laden, was mehr bringt als die SSDs (vorausgesetzt, Du hast 40GB oder mehr RAM und einen wirklich fetten Server).

Siehe auch: https://msdn.microsoft.com/de-de/library/cc645993.aspx#Scalability

Viel Erfolg!

Martin
 

Gabbahead

Aktives Mitglied
18. Februar 2015
167
1
Berlin
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Noch läuft das ja nicht im produktiven Einsatz und ich nutze auch nicht die Developer Verison, sondern die 180 Tage Testversion, die hat ebenfalls OLTP enthalten. ;) Ich denke die DB wird am Ende ca. 15-20GB haben, darum habe ich heute erstmal nur 32GB Arbeitsspeicher bestellt. Werde dann das ganze mal testen wie es sich verhält. Es bringt mir nichts wenn ich jetzt schon überall das beste hole und das Nadelör am ganz anderen Ende sitzt, nämlich Softwareseitig.

Aber ich hoffe das ich mit hilfe von JTL und der Beta auch auf Softwareseite noch etwas an der Schraube drehen kann. Die Suche wurde ja nun in der 41er etwas verbessert und die Beta läuft ja auch noch ein wenig.

Ich denke wir werden nicht die einzigen Kunden mit so einer großen Datenbank sein und JTL wird selber daran interessiert sein auch solche Kunden zu gewinnen. Auf jeden Fall sind meine 8GB von der Datenbank nun komplett belegt. ^^ Man sieht nicht mal den Prozess dafür, sonst war der sqlserver Prozess bei der Suche und Import so auf 2-3GB angestiegen, da rühert sich aktuell garnichts.

Frage mich wie Windows das also verwaltet. Muss man OLTP explizit für die Instanz/DB aktivieren, oder reicht die Konfiguration am Anfang der Installation ?

Und Danke. ;)
 
Ähnliche Themen
Titel Forum Antworten Datum
Neu Vorgang wenn Mahngebühren nicht bezahlt wurden? User helfen Usern - Fragen zu JTL-Wawi 3
Neu Kind-Artikel nicht bei Ebay anbieten Allgemeine Fragen zu JTL-Shop 1
Neu Wie ändere ich das vorausgewählte Lager bei Bestellungen? User helfen Usern - Fragen zu JTL-Wawi 1
Neu Fehlender Rabattabzug bei Amazon Multirabatten Amazon-Anbindung - Fehler und Bugs 0
In Diskussion Workflow bei fehlerhaften Bankabgleich JTL-Workflows - Ideen, Lob und Kritik 4
Gelöst: Störung bei LInk11 - JTL- Shops teilweise nicht erreichbar Störungsmeldungen 1
Neu JTL Wawi 1.11.11 - Zahlungsabgleich bei FYRST Bank verlangt immer Passwort User helfen Usern - Fragen zu JTL-Wawi 0
Kundengruppenrabatte werden bei einzelnen Artikeln nicht übernommen – „Rabatte ignorieren“ springt nach Speichern zurück JTL-Wawi 2.0 2
Neu [API] Zahlungen bei salesOrders verbuchen Schnittstellen Import / Export 0
Neu Unerwünschtes Scrollen/Springen zum Seitenanfang bei Footer-Menüs (Mobile) JTL-Shop - Fehler und Bugs 0
Frage stellen bei Bestellung JTL-Wawi 1.11 1
Bei Update auf 2.05 kam folgende Meldung JTL-Wawi 2.0 2
Neu Fehleretikett bei OTTO Bestellungen bzgl. Adresszusatz JTL-ShippingLabels - Fehler und Bugs 2
Skonto wird bei Zahlung setzen nicht berücksichtigt JTL-Wawi 1.11 2
Wawi 1.11.9 Ständige Abstürze bei Aktualisierung Artikelstammdaten JTL-Wawi 1.11 4
Neu Helfen Lösungen wie Unicorn wirklich, um die teuren Preise bei JTL zu vermeiden? Amazon-Anbindung - Ideen, Lob und Kritik 1
Neu Erstellung der Sitemap bei WaWi Abgleich funktioniert nicht Allgemeine Fragen zu JTL-Shop 0
Neu Bug? Führende Nullen bei Sendungsnummern verschwinden in JTL-Wawi 2.0.3 JTL-ShippingLabels - Fehler und Bugs 1
Neu Update nach 5.7.1 hängt bei Mirgation Installation / Updates von JTL-Shop 4
Wawi 1.11. Rechnungsanhang funktioniert nicht mehr bei Versandmail JTL-Wawi 1.11 6
Fehlermeldungen bei Einrichtung DHL 4.0 "Objektverweis" und "Konfiguration Versandart" JTL-Wawi 1.11 2
Error 500 bei Neuinstallation Einrichtung JTL-Shop5 7
Neu Amazon Versandentgelt Kaufen bei Standardbestellungen Amazon-Anbindung - Ideen, Lob und Kritik 0
Neu Hilfe bei jtl-pos Synchronisation User helfen Usern - Fragen zu JTL-Wawi 5
Neu Fragen zum SaaS-Connector / Shopware6 bei Lagerbestandskorrektur Shopware-Connector 0
Kontrollkästchen "Export" bei Zahlungen nicht mehr angehakt JTL-Wawi 2.0 4
Neu Seltsamer Fehler bei PayPal-Checkout: "Warenkorb enthielt Vaterartikel..." JTL-Shop - Fehler und Bugs 2
Neu Nach Update auf 1.11.10.0 Abgleich zu Ebay über 3 Stunden bei neuen Angeboten eBay-Anbindung - Fehler und Bugs 2
Neu Falsch erzeugte Ausgangszahlung bei Teilzahlungen und Retoure (Kauf auf Rechnung) Arbeitsabläufe in JTL-Wawi 0
Anmeldung mit OAuth bei Versanddienstleister notwendig JTL-Wawi 1.10 5
Neu Kritisches Problem bei DHL 4.0: Handelsstücklisten brechen EU- und Exportversand JTL-ShippingLabels - Fehler und Bugs 25
Neu Muss bei DHL Express ebenfalls was geändert werden, aufgrund DHL 4.0? User helfen Usern - Fragen zu JTL-Wawi 1
Ameise.exe Fundort bei JTL WAWI 2.02 JTL-Wawi 2.0 2
Neu Keine Adressvalidierung bei DHL Versenden 4.0? JTL-ShippingLabels - Ideen, Lob und Kritik 5
Fehlermeldung bei DHL 4.0 versand JTL-Wawi 2.0 26
Neu Neuerdings E-Mail benachrichtigung bei "Pick up in Store", allerdings mit E-Mail "Bestellung wurde abgeholt" Shopify-Connector 0
Neu keine Kontakt Absender/Empfänger bei DHL Versenden 4.0 JTL-ShippingLabels - Ideen, Lob und Kritik 4
Neu DHL Versenden 4.0 HS Code-Fehler bei Freiposition JTL-ShippingLabels - Fehler und Bugs 20
Neu Muss man für DHL Versenden 4.0 einen neuen Benutzer bei DHL anlegen? JTL-ShippingLabels - Ideen, Lob und Kritik 2
Ebay angebote lassen sich nicht mehr bei JTL bearbeiten JTL-Wawi 2.0 0
Ameise-Export: Umsatzsteuer stimmt nicht mit Differenz aus Netto und Brutto überein (insbesondere bei mehreren Steuersätzen) JTL-Wawi 1.11 0
Fehler bei Bearbeitung von Attributen via HTML-Editor JTL-Wawi 2.0 3
Neu product_visibility bei JTL-Wawi und Shopware 6 Shopware-Connector 1
Neu Produkt-Upload schlägt fehl nach Shopware-Update 6.7.9.0 – Fehler bei quantityStart (SaaS-Connector) Shopware-Connector 14
Neu Wie aktiviere ich den richtigen EK bei freiem Wareneingang? Arbeitsabläufe in JTL-WMS / JTL-Packtisch+ 0
Workflow Trigger bei Angebot-Import über Ameise JTL-Wawi 1.9 1
Absturz bei Hinzufügen von Artikelbildern JTL-Wawi 2.0 3
Neu Falsche Zahlungsart bei Gutscheinzahlungen im DSFinV-K-Export JTL-POS - Fehler und Bugs 1
Update auf 2.0.1 Fehler bei eazybusiness JTL-Wawi 2.0 17
Update auf 2.0.1.0 bricht ab bei 1.12.0.0. JTL-Wawi 2.0 6

Ähnliche Themen