Gelöst Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artikel)

Janusch

Administrator
Mitarbeiter
24. März 2006
13.921
264
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Reicht hier auch ggf. zum testen die Testlizens ? Sind dort die Beschränkungen entfernt ?

https://technet.microsoft.com/de-de/evalcenter/dn205290.aspx

Irgendwie sieht man bei Microsoft den Wald vor lauter Bäumen nicht. ^^
dafür würde ich aber schon alle Aritkel importieren, wenn testen dann richtig.
180 Tage ist die Beschränkung. ISO oder CAB für lokale Installation nehmen.
 

Gabbahead

Aktives Mitglied
18. Februar 2015
167
1
Berlin
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Ja die Preise sind auf jeden Fall recht ordentlich. Aber sie werden dann wohl oder übel nötig sein, denn wir brauchen diese Ressourcen.
Und ja, ich habe den Import nur pausiert um schauen wie lange es aktuell dauert. Aber kann ich hier nun die Vollversion einfach drüber bügeln und dann den Import wieder aufnehmen ? Oder soll ich den Import mit der Express Version zuende bringen. Das wird dann aber locker noch ne Woche dauern. ^^
 

Janusch

Administrator
Mitarbeiter
24. März 2006
13.921
264
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Man kann die Express Datenbank in der Vollversion importieren und weiter nutzen, da diese kompatibel sind. Auf Version achten, 2005 geht in 2012 aber nicht umgekehrt.

Denoch ist mir kein Nutzer bekannt der 2,5 Mio. Artikel mit der Wawi betreibt. Das höchste war etwas unter 1 Mio. und da war die Hardware schon ordentlich.
Wenn Du weter testen möchtest, dann nimm die 41 von heute die gleich rauskommt. Zumindest der Ameise import sollte besser laufen. Die Suche in Artikelverwaltung sollte auch besser funktionieren.
Falls es nicht funktioniert, können wir Dir entgegenkommen und die Lizenzkoste erstatten.
 

Janusch

Administrator
Mitarbeiter
24. März 2006
13.921
264
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Noch kurz Nachtrag. beim Webshopabgliech werden ca. 5 Artikel pro Sek. übertragen. Das sind etwa 18k pro Stunde ohne Bilder.
 

Gabbahead

Aktives Mitglied
18. Februar 2015
167
1
Berlin
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Also das Angebot der Lizenskostenerstattung finde ich wirklich sehr löblich und rechne ich euch hoch an. Da können sich andere auf jeden Fall noch ne scheibe von abschneiden. Bei einem anderen Anbieter wo wir leider von wechseln musste, gab es solch ein Angebot nicht. Wobei hier der Fehler nicht bei uns lag, das es nicht funktioniert hat, sondern beim Anbieter, da in der Demo mehr versprochen wurde, als in der Final dann möglich war.

Aber ich würde natürlich trotzdem erstmal gerne versuchen bei euch zu bleiben, da mir das Gesamtpaket bei euch einfach zu gut gefällt. ;)

Ich werde das ganze nun mal mit SSD M.2 Module testen, damit zumindest die Festplatte erheblich mehr Leistung erhält. Dazu schauen ich ob die neue MSSQL Lizens mehr Performance bringt. Ich hoffe die Testversion oder Developer Version kann hier schon Aufschluss darüber geben.
 

Gabbahead

Aktives Mitglied
18. Februar 2015
167
1
Berlin
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Gehört zwar nun nicht mehr so ganz zu diesem Thema hier. Aber danke das ihr nun mit der 41er die EAN, Lieferanten-/Artikelnummer Suchen rausgepackt habt. Die Volltextsuche war für sowas einfach nicht zugebrauchen. ;) Von 6min. Wartezeit inzwischen auf 1-2min runter gegangen. Dazu habe ich heute die Vollversion von MSSQL installiert. Nächste Woche kommt dann neue Hardware und dann geht der Import weiter und werde sehen wie sich das ganze dann verhält.
 

memo Software

Gut bekanntes Mitglied
10. Oktober 2009
442
1
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Die Developer-Lizenz ist leider nicht für den produktiven Einsatz genehmigt. Nimm die Enterprise. Die kann nämlich als einziger MSSQL-Server In-Memory OLTP. Damit kannst Du die ganze Datenbank ins RAM laden, was mehr bringt als die SSDs (vorausgesetzt, Du hast 40GB oder mehr RAM und einen wirklich fetten Server).

Siehe auch: https://msdn.microsoft.com/de-de/library/cc645993.aspx#Scalability

Viel Erfolg!

Martin
 

Gabbahead

Aktives Mitglied
18. Februar 2015
167
1
Berlin
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Noch läuft das ja nicht im produktiven Einsatz und ich nutze auch nicht die Developer Verison, sondern die 180 Tage Testversion, die hat ebenfalls OLTP enthalten. ;) Ich denke die DB wird am Ende ca. 15-20GB haben, darum habe ich heute erstmal nur 32GB Arbeitsspeicher bestellt. Werde dann das ganze mal testen wie es sich verhält. Es bringt mir nichts wenn ich jetzt schon überall das beste hole und das Nadelör am ganz anderen Ende sitzt, nämlich Softwareseitig.

Aber ich hoffe das ich mit hilfe von JTL und der Beta auch auf Softwareseite noch etwas an der Schraube drehen kann. Die Suche wurde ja nun in der 41er etwas verbessert und die Beta läuft ja auch noch ein wenig.

Ich denke wir werden nicht die einzigen Kunden mit so einer großen Datenbank sein und JTL wird selber daran interessiert sein auch solche Kunden zu gewinnen. Auf jeden Fall sind meine 8GB von der Datenbank nun komplett belegt. ^^ Man sieht nicht mal den Prozess dafür, sonst war der sqlserver Prozess bei der Suche und Import so auf 2-3GB angestiegen, da rühert sich aktuell garnichts.

Frage mich wie Windows das also verwaltet. Muss man OLTP explizit für die Instanz/DB aktivieren, oder reicht die Konfiguration am Anfang der Installation ?

Und Danke. ;)
 
Ähnliche Themen
Titel Forum Antworten Datum
Neu Artikeldarstellung / bei nicht Verfügbarkeit / bestellbar Anhand Verfügbarkeitszeit Allgemeine Fragen zu JTL-Shop 0
Neu GELÖST! Amazon "Aufzuschaltende Angebote" seit Tagen in "wird gesendet" bei WAWI 1.11.3 Amazon-Anbindung - Fehler und Bugs 9
Neu Fehlermeldung 'quantity' bei Vaterartikel Amazon-Lister - Fehler und Bugs 0
Neu Probleme bei der Umstellung von Varkombi auf Konfigurationsartikel User helfen Usern - Fragen zu JTL-Wawi 0
Am eigenen Lager Bestand = 0, bei FBA = 170, Probleme mit dem eigenen Shop und Otto.de JTL-Wawi 1.10 3
Neu JOBS bei CIN com-insnetz Berlin Dienstleistung, Jobs und Ähnliches 0
Neu Probleme bei WooCommerce JTL-Connector, keine Aktivierung möglich, Bestands-Shop lahmgelegt Onlineshop-Anbindung 0
Neu Pickliste Hinweis anzeigen nur bei bestimmten Verkaufkanal User helfen Usern - Fragen zu JTL-Wawi 0
Änderung E-Mailadresse bei Mahnungen JTL-Wawi 1.9 7
Ticket erstellen bei einer Fehlermeldung mit JTL-Start ??? JTL-Wawi 1.9 6
Neu Packtisch + Waage – Meldung bei großem Unterschied zwischen tatsächlichem Gewicht und Systemgewicht? Arbeitsabläufe in JTL-WMS / JTL-Packtisch+ 1
Massenänderung "Lagerplatz" für Artikel bei WMS Lager JTL-Wawi 1.10 2
Sammelbuchung bei Zahlungsausgang über das Zahlungsmodul JTL-Wawi 1.10 0
Neu Fehlermeldung bei Rechnungserstellung Arbeitsabläufe in JTL-Wawi 0
Neu Paypal bei bestimmten Produkten nicht anbieten Plugins für JTL-Shop 1
Neu Amazon Bestellungen werden nicht abgerufen - Fehler bei Account 'XXX' []: Ihr Account ist nicht aktiv. Amazon-Anbindung - Fehler und Bugs 5
EBICS einrichten bei Commerzbank JTL-Wawi 1.10 1
Neu Artikel mit gleichem Namen werden bei Shopify zu einem Artikel Shopify-Connector 2
Neu Keine Zahlung erforderlich bei < 1€ JTL-Shop - Fehler und Bugs 1
Neu PayPal-Plugin blockiert bei PayPal-Störung Checkout JTL-Shop - Fehler und Bugs 4
In Diskussion Etikett mit Warnung bei Versand drucken JTL-Workflows - Ideen, Lob und Kritik 9
Neu Falsche Umsatzsteuer bei Paypal-Checkout Bestellungen im Webshop JTL-Shop - Fehler und Bugs 3
1.11 mit 2 Mandanten - Dashboard bei Advanced Wawi zerschossen - JTL Start funktioniert JTL-Wawi 1.11 1
Neu Zeit bei Mahnungen Nachträglich ändern Arbeitsabläufe in JTL-Wawi 0
Neu DATEV Rechnungsdatenservice 2.0 Fehlermeldung bei der Übertragung Schnittstellen Import / Export 4
Neu Attribut bei bestimmten Artikel steuert das Erscheinen einer Checkbox vor Bestellabschluss Allgemeine Fragen zu JTL-Shop 1
Beantwortet Fehler bei Erstimport: Explicit Move is not supported for HerstellerSortMode.Alphabetical Shopware-Connector 1
Neu Heute wied kein Versand bei Amazon bestätigt und manueller Abgleich gibt Fehlermeldung aus Amazon-Anbindung - Fehler und Bugs 1
Produkt-API v4 Support bei OTTO läuft aus (10.12.2025) – Zukunft mit JTL Wawi unklar Otto.de - Anbindung (SCX) 25
Neu Bestellvorgang – Land und Postleitzahl werden nicht erkannt und HTTP-Fehler 500 bei der Lieferadresse JTL-Shop - Fehler und Bugs 11
Lieferzeit / Lieferdatum wird im Shop bei Variantenartikeln nicht angezeigt Allgemeine Fragen zu JTL-Shop 0
JTL Zahlungsabgleich Fehlermeldung bei Versuch Lieferantenrechnung zu bezahlen JTL-Wawi 1.10 4
Neu Falsche Steuer bei VCS-Lite Amazon-Anbindung - Fehler und Bugs 2
Neu Falsche Währung in VCS-Lite Rechnungsvorlage bei anderem Land für Rechnung als Lieferung, HUF statt EUR Amazon-Anbindung - Fehler und Bugs 0
Neu Wieder einmal fehlt der Adresszusatz bei Bestellungen und es kommt somit zu Problemen Amazon-Anbindung - Fehler und Bugs 0
Neu Ihr Token bei JTL-eazyAuction ist ausgelaufen - Verletzung von Nebenpflichten (Treue- und Informationspflicht) durch JTL Einrichtung und Installation von JTL-eazyAuction 4
Neu Mapping (Menge) bei einigen Artikeln wird nicht durchgeführt Shopify-Connector 12
Anhänge in JTL-Wawi bei Rechnung JTL-Wawi 1.10 0
Neu bei bestimmten Kunden muss die Rechnung beigelegt werden / wie erfolgt dies? Arbeitsabläufe in JTL-Wawi 8
Versandart falsch bei Auslandsbestellung (DHL Versenden 3.0) JTL-Wawi 1.6 0
Neu Artikelnummern bei bestehenden Artikel falsch zusammengesetzt JTL-Wawi - Fehler und Bugs 0
Bei der Länderverwaltung fehlt das Bearbeiten-Symbol Einrichtung JTL-Shop5 1
Falsche Lieferadresse bei Auftragsimport JTL-Wawi 1.9 4
Neu Preisgleichheit bei unterscheidlicher Umsatzsteuer JTL-Shop - Fehler und Bugs 12
Issue angelegt [WAWI-44314] Workflow automatisch 2 Pakete erstellen bei bestimmen Produkten? JTL-Workflows - Ideen, Lob und Kritik 2
Neu Bei allen Artikeln aus einer Execlliste die Lieferzeiten einheitlich setzen. JTL-Wawi 1.6 4
Neu Plötzlich bei Bestellung beim Lieferanten Menge: "Error" JTL-Wawi - Fehler und Bugs 0
Neu Bei Mahnlauf automatisch speichern Arbeitsabläufe in JTL-Wawi 2
Neu Ameise -> "Artikel je Posten": bei neu = vorhanden / bei update nicht? Einrichtung und Installation von JTL-eazyAuction 0
Neu Workflow um einen Artikel bei einem bestimmten Verkaufskanal zu aktivieren oder deaktivieren User helfen Usern - Fragen zu JTL-Wawi 4

Ähnliche Themen