Gelöst Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artikel)

Janusch

Administrator
Mitarbeiter
24. März 2006
13.921
264
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Reicht hier auch ggf. zum testen die Testlizens ? Sind dort die Beschränkungen entfernt ?

https://technet.microsoft.com/de-de/evalcenter/dn205290.aspx

Irgendwie sieht man bei Microsoft den Wald vor lauter Bäumen nicht. ^^
dafür würde ich aber schon alle Aritkel importieren, wenn testen dann richtig.
180 Tage ist die Beschränkung. ISO oder CAB für lokale Installation nehmen.
 

Gabbahead

Aktives Mitglied
18. Februar 2015
167
1
Berlin
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Ja die Preise sind auf jeden Fall recht ordentlich. Aber sie werden dann wohl oder übel nötig sein, denn wir brauchen diese Ressourcen.
Und ja, ich habe den Import nur pausiert um schauen wie lange es aktuell dauert. Aber kann ich hier nun die Vollversion einfach drüber bügeln und dann den Import wieder aufnehmen ? Oder soll ich den Import mit der Express Version zuende bringen. Das wird dann aber locker noch ne Woche dauern. ^^
 

Janusch

Administrator
Mitarbeiter
24. März 2006
13.921
264
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Man kann die Express Datenbank in der Vollversion importieren und weiter nutzen, da diese kompatibel sind. Auf Version achten, 2005 geht in 2012 aber nicht umgekehrt.

Denoch ist mir kein Nutzer bekannt der 2,5 Mio. Artikel mit der Wawi betreibt. Das höchste war etwas unter 1 Mio. und da war die Hardware schon ordentlich.
Wenn Du weter testen möchtest, dann nimm die 41 von heute die gleich rauskommt. Zumindest der Ameise import sollte besser laufen. Die Suche in Artikelverwaltung sollte auch besser funktionieren.
Falls es nicht funktioniert, können wir Dir entgegenkommen und die Lizenzkoste erstatten.
 

Janusch

Administrator
Mitarbeiter
24. März 2006
13.921
264
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Noch kurz Nachtrag. beim Webshopabgliech werden ca. 5 Artikel pro Sek. übertragen. Das sind etwa 18k pro Stunde ohne Bilder.
 

Gabbahead

Aktives Mitglied
18. Februar 2015
167
1
Berlin
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Also das Angebot der Lizenskostenerstattung finde ich wirklich sehr löblich und rechne ich euch hoch an. Da können sich andere auf jeden Fall noch ne scheibe von abschneiden. Bei einem anderen Anbieter wo wir leider von wechseln musste, gab es solch ein Angebot nicht. Wobei hier der Fehler nicht bei uns lag, das es nicht funktioniert hat, sondern beim Anbieter, da in der Demo mehr versprochen wurde, als in der Final dann möglich war.

Aber ich würde natürlich trotzdem erstmal gerne versuchen bei euch zu bleiben, da mir das Gesamtpaket bei euch einfach zu gut gefällt. ;)

Ich werde das ganze nun mal mit SSD M.2 Module testen, damit zumindest die Festplatte erheblich mehr Leistung erhält. Dazu schauen ich ob die neue MSSQL Lizens mehr Performance bringt. Ich hoffe die Testversion oder Developer Version kann hier schon Aufschluss darüber geben.
 

Gabbahead

Aktives Mitglied
18. Februar 2015
167
1
Berlin
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Gehört zwar nun nicht mehr so ganz zu diesem Thema hier. Aber danke das ihr nun mit der 41er die EAN, Lieferanten-/Artikelnummer Suchen rausgepackt habt. Die Volltextsuche war für sowas einfach nicht zugebrauchen. ;) Von 6min. Wartezeit inzwischen auf 1-2min runter gegangen. Dazu habe ich heute die Vollversion von MSSQL installiert. Nächste Woche kommt dann neue Hardware und dann geht der Import weiter und werde sehen wie sich das ganze dann verhält.
 

memo Software

Gut bekanntes Mitglied
10. Oktober 2009
442
1
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Die Developer-Lizenz ist leider nicht für den produktiven Einsatz genehmigt. Nimm die Enterprise. Die kann nämlich als einziger MSSQL-Server In-Memory OLTP. Damit kannst Du die ganze Datenbank ins RAM laden, was mehr bringt als die SSDs (vorausgesetzt, Du hast 40GB oder mehr RAM und einen wirklich fetten Server).

Siehe auch: https://msdn.microsoft.com/de-de/library/cc645993.aspx#Scalability

Viel Erfolg!

Martin
 

Gabbahead

Aktives Mitglied
18. Februar 2015
167
1
Berlin
AW: Vorgang bei sehr großer Artikelanzahl / großer CSV Datei (33GB/32 Millionen Artik

Noch läuft das ja nicht im produktiven Einsatz und ich nutze auch nicht die Developer Verison, sondern die 180 Tage Testversion, die hat ebenfalls OLTP enthalten. ;) Ich denke die DB wird am Ende ca. 15-20GB haben, darum habe ich heute erstmal nur 32GB Arbeitsspeicher bestellt. Werde dann das ganze mal testen wie es sich verhält. Es bringt mir nichts wenn ich jetzt schon überall das beste hole und das Nadelör am ganz anderen Ende sitzt, nämlich Softwareseitig.

Aber ich hoffe das ich mit hilfe von JTL und der Beta auch auf Softwareseite noch etwas an der Schraube drehen kann. Die Suche wurde ja nun in der 41er etwas verbessert und die Beta läuft ja auch noch ein wenig.

Ich denke wir werden nicht die einzigen Kunden mit so einer großen Datenbank sein und JTL wird selber daran interessiert sein auch solche Kunden zu gewinnen. Auf jeden Fall sind meine 8GB von der Datenbank nun komplett belegt. ^^ Man sieht nicht mal den Prozess dafür, sonst war der sqlserver Prozess bei der Suche und Import so auf 2-3GB angestiegen, da rühert sich aktuell garnichts.

Frage mich wie Windows das also verwaltet. Muss man OLTP explizit für die Instanz/DB aktivieren, oder reicht die Konfiguration am Anfang der Installation ?

Und Danke. ;)
 
Ähnliche Themen
Titel Forum Antworten Datum
Import Fehler! Der Vorgang wurde abgebrochen! JTL-Wawi 1.10 24
Neu {{ Vorgang.Kunde.EigeneFelderAlsText }} keine Array Ausgabe Rechnungsvorlage Export XML Druck-/ E-Mail-/ Exportvorlagen in JTL-Wawi 1
Neu Exception bei core.connector.auth: Invalid shop url. https://XYZ.de does not point to a shopware 6 instance. Please check the Shop URL. Shopware-Connector 0
Neu Umsatzsteuer Versandkosten bei Mischwarenkorb (7% und 19% Artikel) JTL-Wawi - Fehler und Bugs 0
Probleme mit Lagerbestandsübertragung bei Otto nach Artikelnummernänderung Otto.de - Anbindung (SCX) 0
Neu Amazon Rechnung ändern bei VCS-Lite - Fehlermeldung beim Stornieren (Auftrag fehlt) Arbeitsabläufe in JTL-Wawi 4
Neu Fehler bei Abgleich WooCommerce-Connector 1
500 Internal Server Error bei Statistiken/Einstiegsseiten Einrichtung JTL-Shop5 1
Neu Nach Auftragsimport falsche Versandoption bei "Ausländern" JTL-Wawi - Fehler und Bugs 1
Keine Anmeldung möglich bei JTL WAWI JTL-Wawi 1.9 0
GLS-Retourenlabel – Fehler bei Feld 'Name1', obwohl DPD funktioniert JTL-Wawi 1.9 0
Neu Shopify Lagerbestandsabgleich einrichten (bei neuem Shop) Shopify-Connector 3
Neu Wie kann man einen Artikel auf einen bestehenden Artikel bei Amazon aufschalten? Amazon-Lister - Ideen, Lob und Kritik 2
Neu SW6: Timeout bei Artikelabfruf Einrichtung und Installation von JTL-eazyAuction 0
Neu Gutscheinzahlungen bei Retouren immer auf Gutschein zurückbuchen JTL-POS - Ideen, Lob und Kritik 0
Neu Bug - Grundpreis bei Preis mit Rabatt ist falsch JTL-Shop - Fehler und Bugs 0
Seit Update 1.10.12.0 – Keine Rechnungserstellung per Workflow bei FBA-Aufträgen JTL-Wawi 1.10 0
Neu Fehlermeldung bei Rechnungserstellung "Sie haben keinen Kunden ausgewählt" JTL-POS - Fehler und Bugs 0
Frage zu Variationsartikeln im Onlineshop ( Bei einem Kauf ) JTL-Wawi 1.9 7
Neu Auftrag: Keine E-Mail-Adresse bei Lieferadresse JTL-Wawi - Fehler und Bugs 0
Auftrag: Keine E-Mail-Adresse bei Lieferadresse JTL-Wawi 1.10 0
Neu Mehrere Bankverbindungen bei Nachnahme über DHL Versenden 3.0 User helfen Usern - Fragen zu JTL-Wawi 2
Neu Zahlungsart bei Auftragsbestätigung ausgeben User helfen Usern - Fragen zu JTL-Wawi 3
Neu Falsche Benutzerzuordnung am WMS-Packplatz bei Mitarbeiterwechsel (Remote Server) JTL-WMS / JTL-Packtisch+ - Fehler und Bugs 0
Bei Bestellungen Lieferung an Lager ändern JTL-Wawi 1.10 1
Neu JTL Shop 5.5.1 Lieferland kann bei abweichender Lieferadresse nicht ausgewählt werden JTL-Shop - Fehler und Bugs 9
Bei Installation Exitcode 1638 - abbruch JTL-Wawi 1.10 1
Neu Falscher Lagerbestand bei Amazon Amazon-Anbindung - Fehler und Bugs 0
Neu JTL Shopify Anbindung - Falscher Bruttopreis bei 7% Artikel, Grundpreise werden nicht übermittelt Shopify-Connector 3
Neu Kundenkonto bei 2-FA Auth wiederherstellen Betrieb / Pflege von JTL-Shop 0
Neu 5.5.2: OPC Akkordeon scrollt bei Wechsel der Gruppe ganz nach oben JTL-Shop - Fehler und Bugs 0
Neu Frage zu BLINDKOPIE bei Versand User helfen Usern - Fragen zu JTL-Wawi 2
Neu unterschiedliche Versandkosten bei unterschiedlichen Umsätzen Arbeitsabläufe in JTL-Wawi 0
Neu HILFÄÄÄÄ - Gibt es hier jemand der uns helfen kann Schlussrechnungen mit ausgewiesener MwSt bei den Anzahlungen User helfen Usern - Fragen zu JTL-Wawi 32
Neu Workflow lößt bei Track & Trace nicht aus User helfen Usern - Fragen zu JTL-Wawi 1
Neu Verkauf bei Netto-Online User helfen Usern - Fragen zu JTL-Wawi 0
Neu Variantenartikel bei Ebay erweitern User helfen Usern - Fragen zu JTL-Wawi 8
Neu Probleme bei der Indexierung bei Google (Search Console) JTL-Shop - Fehler und Bugs 2
Neu Versand via Spring XBS - Eigentliche Versandart bei Auslieferung nicht bekannt, wie mit Amazon umgehen Amazon-Anbindung - Ideen, Lob und Kritik 0
Neu Keine Verbindung zur DB - Störung bei JTL? JTL-Wawi - Fehler und Bugs 12
Neu Hinweistext bei Registrierung hinzufügen Allgemeine Fragen zu JTL-Shop 4
Zahlungsabgleich weiterhin schlecht - fehlende Zuordnung bei minimal abweichendem Präfix JTL-Wawi 1.10 0
DHL Versenden 3.0 – Nachnahme bei zwei Paketen: Betrag wird nicht aufgeteilt JTL-Wawi 1.9 1
Neu Shop 5.5.1: Lieferadresse - Lieferland - bei mir leer? JTL-Shop - Fehler und Bugs 4
Neu Nach Update 5.5.0: Überall zu viele Nullen bei den Mengenangaben (1 wird als 1,0000 angezeigt) JTL-Shop - Fehler und Bugs 8
Neu JTL Shop 5.5.1 : Lieferzeit wird mit "0 Werktagen" ausgegeben, obwohl Lieferzeiten bei Versandarten hinterlegt sind JTL-Shop - Fehler und Bugs 3
Statusänderung bei Selbstabholung JTL-Wawi 1.10 2
Neu Rechnungen erstellen bei Amazon Bestellungen nicht mehr möglich Amazon-Anbindung - Fehler und Bugs 2
Irritierende Nachkommastellen bei Bestellmenge in Shop-Emails Vers. 5.5.0 Einrichtung JTL-Shop5 1
Steuerberechnung bei Firma in Spanien JTL-Wawi 1.9 0

Ähnliche Themen