Kentino AI 192 Turin2U RTXPro6000 4000TOPS — 2× RTX Pro 6000 Blackwell Server Edition — 2U Turin SP5
Πλατφόρμα εταιρικού επιπέδου, συναρμολογημένη και δοκιμασμένη στην ΕΕ.
Kentino AI 192 Turin2U RTXPro6000 4000TOPS
Ζεύγος ναυαρχίδων ECC Blackwell 192 GB
2x RTX Pro 6000 Έκδοση διακομιστή | EPYC Turin SP5 | 4 000 TOPS INT8
Δύο παθητικές κάρτες RTX Pro 6000 Blackwell Server Edition -- 96 GB ECC η καθεμία. Λιγότερο tensor-parallel overhead από τις εκδόσεις 4 ή 8 καρτών. Ζευγάρι ναυαρχίδων κέντρων δεδομένων σε πλατφόρμα Gen5/DDR5 2U με γνήσια πλεονάζουσα ισχύ 1+1.
Ένας διακομιστής συμπερασμάτων 2U σε rack με δύο παθητικές κάρτες RTX Pro 6000 Blackwell Server Edition (96 GB ECC GDDR7 ανά κάρτα), μία CPU AMD EPYC 9335 Turin (32C/64T, 3.0/4.4 GHz), 512 GB DDR5-4800 ECC, 5.76 TB κέντρου δεδομένων Gen5 NVMe και ένα πλεονάζον τροφοδοτικό 1+1 2.7 kW 80+ Platinum CRPS. Από 56.600 € χωρίς ΦΠΑ. Για πυκνή bf16 70B και μεσαίου μεγέθους MoE, λιγότερες μεγάλες κάρτες υπερισχύουν περισσότερων μικρών καρτών -- ο παραλληλισμός τανυστήρα δύο καρτών έχει ελάχιστη επιβάρυνση επικοινωνίας και κάθε κάρτα 96 GB φέρει ένα πλήρες αντίγραφο των περισσότερων μοντέλων.
Το ίδιο ζεύγος 192 GB Blackwell με την έκδοση 4U Rome, σε ένα πλαίσιο ASRock 2U με πυκνότητα rack, πλήρη μνήμη Gen5 host-side, μνήμη DDR5-4800 και γνήσιο τροφοδοτικό Platinum CRPS 1+1 εφεδρικό 2.7 kW. Επιλέξτε αυτήν την έκδοση όταν η πυκνότητα rack έχει σημασία, όταν οι προδιαγραφές επιχορήγησης ή προμήθειας απαιτούν μια σύγχρονη πλατφόρμα PCIe 5.0 / DDR5 ή όταν η εφεδρική τροφοδοσία είναι απαίτηση και όχι αναβάθμιση.
υλικού
| Συστατικό | Λεπτομέρεια |
|---|---|
| GPU | 2x NVIDIA RTX Pro 6000 Blackwell Server Edition 96 GB ECC GDDR7 (παθητική, 600 W, PCIe 5.0 x16, διπλή υποδοχή) |
| Συγκρότημα VRAM | 192 GB ECC (96 GB x 2) -- κάθε κάρτα χωράει ένα μοντέλο 70B bf16 αυτόνομα |
| CPU | AMD EPYC 9335 Τορίνο (32C/64T, 3.0/4.4 GHz, 210 W, SP5, 128x λωρίδες PCIe 5.0, Zen5c, 256 MB L3) |
| Motherboard | ASRock Rack 2U4G-GENOA/M3 (SP5, 4x PCIe 5.0 x16 GPU διπλής υποδοχής, 8x DDR5 1DPC, OCP 3.0, IPMI AST2600) |
| RAM συστήματος | 512 GB DDR5-4800 ECC RDIMM (8 x 64 GB, 1DPC πλήρως συμπληρωμένη -- διαμόρφωση μέγιστου εύρους ζώνης) |
| Αποθήκη / Αποθήκευση | Kioxia CD8-P 3.84 TB Gen5 U.3 (θερμού επιπέδου, 1 DWPD, ~12 GB/s ανάγνωση) + Kioxia CD8-P 1.92 TB Gen5 U.3 (εκκίνησης επιπέδου λειτουργικού συστήματος) -- 5.76 TB συνολικός χώρος στο κέντρο δεδομένων Gen5 NVMe |
| τροφοδοτικό | 1+1 εφεδρικό τροφοδοτικό 2.7 kW 80+ Platinum CRPS (2x 1350 W στα 230 V) -- γνήσιο εφεδρικό τροφοδοτικό N+1· ένα τροφοδοτικό υποστηρίζει πλήρες φορτίο συμβολής |
| Σασί | Τοποθέτηση σε rack 2U με κατευθυνόμενη ροή αέρα από εμπρός προς τα πίσω (ανεμιστήρες υψηλής στατικής πίεσης 80 mm). Δυνατότητα λειτουργίας 24/7. |
| Ψύξη | Ενεργή ψύκτρα CPU SP5 + 3 μπροστινές εισαγωγές 80x38 mm + 1 πίσω εξάτμιση 80x80 mm (σχεδιασμένη για 4x παθητικό θερμικό φορτίο GPU· η διάταξη 2 καρτών παρέχει άφθονο θερμικό χώρο) |
| Δίκτυο | Διαθέσιμη υποδοχή Intel X710-T2L PCIe dual 10GBASE-T + OCP 3.0 για αναβάθμιση 25/100 GbE |
Φάκελος Power
- Κατανάλωση GPU: 2x 600 W = 1200 W
- Σύνολο συστήματος σε πλήρες φορτίο: ~1 510 W
- Διαμόρφωση τροφοδοτικού: 1+1 εφεδρικό CRPS, 2x 1350 W στα 230 V (σύνολο 2700 W)
- Ελεύθερο ύψος: 44.1% υπό τυπικό φορτίο συμπερασμού
- Γνήσιος πλεονασμός N+1 -- ένα τροφοδοτικό διατηρεί πλήρες φορτίο συμπερασμάτων· δεν υπάρχει κίνδυνος βλάβης ενός μόνο τροφοδοτικού
Τοπολογία λωρίδας
PCIe Gen5 x16 end-to-end -- εγγενής τόσο στον κεντρικό υπολογιστή όσο και στην κάρτα Gen5. Άμεση σύνδεση root-complex, χωρίς διακόπτη PCIe. Μία μονή υποδοχή PCIe 5.0 x16 + μία υποδοχή PCIe 5.0 x8 παραμένουν διαθέσιμες (η κάρτα δικτύου καταλαμβάνει την υποδοχή x8). Δεν υπάρχει NVLink -- peer-to-peer σύνδεση μεταξύ GPU μέσω PCIe. Το εύρος ζώνης Gen5 εξαλείφει το Gen4 host-cap που υπάρχει στο μοντέλο 4U Rome.
Τι μπορείτε να εκτελέσετε
Με 192 GB ECC VRAM σε μόλις δύο κάρτες Blackwell με εγγενή fp8/fp4, αυτή είναι η πιο καθαρή διαδρομή προς πυκνά 70B σε bf16 και MoE μεσαίου μεγέθους. Δύο ανεξάρτητες ροές 70B -- μία ανά κάρτα -- ή 200B MoE και στις δύο με ελάχιστη επιβάρυνση TP δύο κατευθύνσεων.
Μεταπτυχιακά Νομικής -- κείμενο / συλλογισμός / κωδικοποίηση
κινεζικά σύνορα
- Qwen3 / Qwen3.5 (Alibaba): Qwen3-235B-A22B Q4 (~132 GB) άνετο με μεγάλο ctx (~15-25 tok/s single-stream σε 2 κάρτες); Qwen3-Coder-480B-A35B Q2 (~160 GB); Qwen3.5-122B-A10B fp8 (~75 GB); Qwen3-32B πυκνό bf16 με τεράστιο KV; QwQ-32B bf16
- DeepSeek: DeepSeek-V3/R1 Q2 (~215 GB με μικρή διαφορά RAM) -- Η Blackwell εκτελεί εγγενώς το fp8. Το DeepSeek-R2 32B bf16 εκτελεί δύο ταυτόχρονες ροές (μία ανά κάρτα)
- GLM / Z.ai: GLM-4.5 / 4.6 / 4.7 Q4 (~177 GB) -- διαμόρφωση ήρωα σε αυτό το επίπεδο. GLM-4.5-Air FP8 ή bf16 με τεράστιο KV
- Tencent Hunyuan: Hunyuan-Large Q3 (~160 GB) -- 389B MoE με 256k ctx. Hunyuan-A13B fp8 native (~80 GB) με τεράστιο KV
- άλλα: Baidu ERNIE-4.5-424B Q3 (~180 GB); InternVL3.5-241B-A28B Q4 (~135 GB); MiniMax-M1 Q3 (~180 GB)
Δυτικά σύνορα
- Meta Llama: Llama 3.3 70B bf16 σε μία κάρτα -- δύο ανεξάρτητα ταυτόχρονα streams των 70B (~20-30 tok/s ανά stream). Llama 4 Scout bf16 (~218 GB, tight). Llama 4 Maverick Q3 (~188 GB)
- Mistral: Mistral Large 2 / Pixtral Large / Devstral 2 123B Q6 (~88 GB) μία κάρτα ή bf16 και στις δύο κάρτες· Mistral Small 3 πολλαπλής ροής
- OpenAI (βάρη ανοιχτών δεδομένων): gpt-oss-120b MXFP4 εγγενής έκδοση (80 GB) -- χωράει σε ΜΙΑ κάρτα, δύο ανεξάρτητες ταυτόχρονες ροές
- NVIDIA Nemotron: Llama-3.1-Nemotron Ultra 253B Q4 (~147 GB); Super 49B bf16 σε μία κάρτα
- άλλα: Cohere Command R+ 104B Q6 (~85 GB) σε μία κάρτα· Google Gemma 3 27B bf16 πολλαπλές ταυτόχρονες ροές
Μοντέλα Vision-Language
InternVL3.5-241B-A28B Q4 (~135 GB). Qwen3-VL-235B-A22B Q4. Qwen3-VL-32B bf16 μονής κάρτας. Pixtral Large 124B bf16 ή Q6. Llama 3.2 90B Vision bf16 (~180 GB). Molmo 72B bf16 (~144 GB). GLM-4.6V 106B fp8. Gemma 3 27B πολυτροπική x 2-3 ταυτόχρονες ροές.
Δημιουργία εικόνας
FLUX.1 [dev] bf16 πολλαπλές ταυτόχρονες ροές. FLUX.1 Kontext [dev]. FLUX Tools. SD 3.5 Large bf16 ταυτόχρονες. HunyuanImage-2.1 bf16 (~34 GB) x 2-4 ταυτόχρονες. HunyuanImage-3.0 base (80B MoE, 13B ενεργές) bf16 -- χωράει σε μία κάρτα. HunyuanDiT. Kolors / Kolors 2.0. AuraFlow. OmniGen v1. PixArt-Sigma.
Δημιουργία βίντεο
Wan 2.2 MoE διπλού-ειδικού bf16 πλήρες πλαίσιο -- ταιριάζει σε μία κάρτα, δύο ταυτόχρονες ροές παραγωγής· Wan 2.2 TI2V-5B· HunyuanVideo 13B bf16 και οι δύο ειδικοί· HunyuanVideo 1.5· CogVideoX-5B bf16· Open-Sora 2.0 11B bf16· Mochi-1 bf16 (~42 GB)· LTX-Video· Pyramid Flow· SVD / SV3D / SV4D· NVIDIA Cosmos Predict 2.
Ήχος / Ομιλία / TTS
- ASR: Whisper v3 μεγάλο / turbo (~50x σε πραγματικό χρόνο); Parakeet-TDT; Canary 1B; Qwen3-ASR; SenseVoice
- Συντομογραφία: CosyVoice 2/3; Kokoro 82M; XTTS v2; Σταθερός ήχος ανοιχτός; Step-Audio-EditX
- Πραγματικός χρόνος / S2S: Kyutai Moshi 7B; Step-Audio 2 mini/R1; Qwen2.5-Omni-7B
- Μουσική / Εφέ εφέ: MusicGen / AudioGen / Bark; SeamlessM4T v2
Εξυπηρέτηση πολλαπλών μοντέλων / πολλαπλών ενοικιαστών
- Δύο ανεξάρτητες ροές 70B -- μία ανά κάρτα, η απλούστερη μορφή απομόνωσης ενοικιαστή
- Πυκνό 70B bf16 + υποστηρικτική στοίβα -- LLM στην κάρτα 1, εικόνα/βίντεο/ήχος στην κάρτα 2
- 200B MoE και στις δύο κάρτες -- ελάχιστη τενσορική παράλληλη επιβάρυνση (αμφίδρομη διαίρεση)
- fp8-native frontier -- οικογένεια DeepSeek V3, Hunyuan-Large fp8 με εγγενείς διαδρομές Blackwell
Στοχευμένα φόρτα εργασίας
- Πυκνή συμπερασματολογία bf16 70B -- δύο κάρτες τανυστικής παράλληλης με ελάχιστη επιβάρυνση ή ένα μοντέλο ανά κάρτα για ροή
- 100-150B MoE στα Q4-Q6 (GLM-4.5-Air, Qwen3.5-122B-A10B, Hunyuan-A13B, Llama 4 Scout)
- Συμπερασματολογία συνόρων εγγενής στο FP8 (οικογένεια DeepSeek V3, Hunyuan, Llama 4) -- Το Blackwell εκτελεί το fp8 εγγενώς
- Επιστημονικοί υπολογισμοί που απαιτούν απόδοση Gen5 NVMe επιπέδου κέντρου δεδομένων και μνήμη ECC
- Στούντιο δημιουργίας εικόνας + βίντεο στο bf16 (Wan 2.2 T2V-A14B, HunyuanVideo 13B, FLUX.1 [dev])
- Υλοποιήσεις με περιορισμό πυκνότητας rack -- Συντελεστής μορφής 2U έναντι του ισοδύναμου 4U Rome στην ίδια VRAM
- Προδιαγραφές προμήθειας που απαιτούν πλατφόρμα PCIe 5.0 / DDR5 ή πλεονάζουσα τροφοδοτική μονάδα
Μετρημένη απόδοση
Δημοσιευμένες αναφορές | Φύλλο δεδομένων NVIDIA RTX Pro 6000 Blackwell Server Edition + συγκριτικά σημεία αναφοράς κοινότητας
| αναφοράς | Αποτέλεσμα |
|---|---|
| Ανά κάρτα INT8 TOPS (φύλλο δεδομένων NVIDIA) | 2.000 ΚΟΡΥΦΕΣ |
| Συνολικό INT8 TOPS (2 κάρτες) | 2.000 ΚΟΡΥΦΕΣ |
| Εύρος ζώνης μνήμης ανά κάρτα | ~1 800 GB/s, 96 GB ECC GDDR7 |
| Λάμα 3.3 70B bf16 ανά κάρτα (κοινότητα) | 15-25 tok/s single-stream, 60-90 tok/s batch -- αναμενόμενη βελτίωση από τη διαδρομή μνήμης στην πλευρά του κεντρικού υπολογιστή Gen5 σε φόρτους εργασίας μαζικής ροής σε σύγκριση με τον κεντρικό υπολογιστή Gen4 |
| Πλεονέκτημα στην πλευρά του κεντρικού υπολογιστή Gen5 (ίδια κάρτα πυριτίου για μία κάρτα) | Η ολοκληρωμένη λειτουργία PCIe 5.0 x16 μειώνει την καθυστέρηση μεταφοράς μεταξύ συσκευών υποδοχής για μαζική ροή φόρτων εργασίας. Οι εργασίες υπολογισμού που συνδέονται με την κάρτα έχουν πανομοιότυπη απόδοση με τις εκδόσεις που φιλοξενούνται σε Gen4. |
| Τενσορική παράλληλη διπλής κάρτας 70B (κοινότητα) | Αναμένονται ~30-45 tok/s μονής ροής |
| Blackwell fp8 native | DeepSeek-V3 fp8, Hunyuan-A13B fp8 εκτέλεση χωρίς bf16 upcast |
Δημοσιευμένες εξωτερικές αναφορές, που δεν έχουν μετρηθεί σε υλικό Kentino. Το Kentino θα δημοσιεύσει αριθμούς πρώτου κατασκευαστή μετά την πρώτη κατασκευή από τον πελάτη.
Δεν είναι ιδανικό για
- Πολύ υψηλή ταυτόχρονη εξυπηρέτηση πολλαπλών μισθωτών -- 4x L40 ή 6x L4 κατανέμονται καλύτερα σε περισσότερες κάρτες
- Βαριά μνήμη KV σε πολύ μεγάλο χρονικό διάστημα -- προχωρήστε στο Kentino AI 576 Genoa RTXPro6000 12000TOPS
- Εκπαίδευση -- Η Kentino δεν πουλάει υφάσματα NVLink κατηγορίας H
- Συμπερασματικός υπολογισμός προϋπολογισμού σε αυτήν την ομάδα VRAM -- η έκδοση 4U Rome Kentino AI 192 RTXPro6000 4000TOPS έχει χαμηλότερο κόστος εάν η πλευρά κεντρικού υπολογιστή Gen4 είναι αποδεκτή και δεν απαιτείται πλεονασμός PSU.
Εγγύηση και χρόνος παράδοσης
3ετής εγγύηση NVIDIA OEM για την RTX Pro 6000 Server Edition + 36μηνη εγγύηση πλαισίου + εγγύηση ενσωμάτωσης Kentino. Η κατασκευή περιλαμβάνει συναρμολόγηση, ρύθμιση BIOS/υλικολογισμικού, ρύθμιση IPMI, εγκατάσταση προγράμματος οδήγησης, δοκιμή burn-in και επαλήθευση λειτουργίας. Ο χρόνος παράδοσης 14-21 εργάσιμων ημερών αντικατοπτρίζει την παραγγελία μεταπωλητή για εξαρτήματα κατηγορίας Turin· επιβεβαιώνεται κατά την υποβολή της παραγγελίας.
Προτεινόμενα πρόσθετα
- Επέκταση σε διαμόρφωση 4 καρτών -- το πλαίσιο διαθέτει 4 θέσεις GPU εγγενώς (η τρέχουσα έκδοση χρησιμοποιεί 2 από τις 4), διαδρομή αναβάθμισης σε Kentino AI 384 Turin2U RTXPro6000 8000TOPS
- Προσθέστε 25 GbE ή 100 GbE μέσω της υποδοχής OCP 3.0 (παραλλαγή Mellanox ConnectX-5/6 OCP)
- Επιπλέον Kioxia CD8-P NVMe στις 2 υπόλοιπες θήκες U.2 για RAID ή αποθήκευση σε μηδενικό χώρο
- Αναβαθμίστε το επίπεδο αποθήκευσης σε Samsung PM1743 ή Kioxia CM7-V για μεγαλύτερη αντοχή (3 DWPD)
- Ερμάριο rack 24U + online UPS 5 kVA
Οι ερωτήσεις που μας κάνουν συχνότερα οι αγοραστές πριν παραγγείλουν έναν σερβιτόρο.
Πόση ώρα θα πάρει?
Μηχανήματα κατασκευασμένα από εξαρτήματα που παραδίδουμε γρήγορα. Οτιδήποτε απαιτεί συγκεκριμένη γενιά GPU εξαρτάται από την προσφορά. Σας δίνουμε μια ημερομηνία πριν πληρώσετε και αν αλλάξει, σας ενημερώνουμε αντί να σας αφήσουμε να το μάθετε.
Μπορεί να αλλάξει η διαμόρφωση πριν την κατασκευή;
Σχεδόν πάντα. Οι GPU, η μνήμη, ο χώρος αποθήκευσης και η ψύξη επιλέγονται ανά παραγγελία και η αναγραφόμενη διαμόρφωση αποτελεί σημείο εκκίνησης και όχι ένα σταθερό πακέτο. Εάν χρειάζεστε περισσότερη VRAM, ταχύτερη αποθήκευση ή διαφορετική προσέγγιση ψύξης, ενημερώστε το πριν από την παραγγελία και θα σας αναφέρουμε την αλλαγή.
Μπορώ να παραλάβω τον διακομιστή αυτοπροσώπως;
Μπορείτε. Η αποθήκη μας βρίσκεται στην Πράγα και η παραλαβή από κοντά είναι ευπρόσδεκτη — οι περισσότεροι άνθρωποι που έρχονται χρησιμοποιούν την επίσκεψη για να δουν το μηχάνημα με τον μηχανικό μας και να κάνουν τις ερωτήσεις που τους έρχονται άβολα μέσω email. Για παραγγελίες εντός της Τσεχικής Δημοκρατίας, προσπαθούμε επίσης να παραδώσουμε προσωπικά και να σας καθοδηγήσουμε στη διαδικασία εγκατάστασης επί τόπου.
Μπορώ να μιλήσω με κάποιον που κατανοεί πραγματικά τον φόρτο εργασίας;
Ναι. Έχουμε έναν μηχανικό που εργάζεται ειδικά σε συστήματα τεχνητής νοημοσύνης, όχι σε ένα γενικό γραφείο πωλήσεων. Εάν η ερώτησή σας αφορά τα μεγέθη παρτίδων, την κβαντοποίηση, τη διασύνδεση ή το πού θα βρίσκεται το σημείο συμφόρησης, ρωτήστε την — αυτή η συζήτηση συνήθως αλλάζει τη διαμόρφωση προς το καλύτερο.
Ποιο μοντέλο μπορώ να χρησιμοποιήσω σε αυτήν τη διαμόρφωση;
Ναι. Κάθε μηχάνημα συναρμολογείται, δοκιμάζεται η εγκατάστασή του και συγκρίνεται με πραγματικά φόρτα εργασίας τεχνητής νοημοσύνης πριν από την αποστολή του, και αυτό μας αφήνει με ένα LLM ήδη εγκατεστημένο και σε λειτουργία. Το συνδέετε, το συνδέετε στο δίκτυό σας και ξεκινάτε την εργασία — η μόνη απόφαση που απομένει είναι ποιο έργο θα εκτελεστεί πρώτο.
Πώς δοκιμάζετε έναν διακομιστή πριν από την αποστολή;
Το δοκιμάζουμε με βάση τα πραγματικά φόρτα εργασίας τεχνητής νοημοσύνης και όχι με συνθετικές βαθμολογίες: απόδοση συμπερασμάτων, συμπεριφορά συνεχούς φορτίου και θερμικές τιμές υπό συνεχή λειτουργία. Λαμβάνετε τα αποτελέσματα αναφοράς με το μηχάνημα, επομένως η απόδοση που σας υποσχέθηκαν είναι η απόδοση που μπορείτε να επαληθεύσετε από την πρώτη κιόλας μέρα.
Είναι ο διακομιστής έτοιμος να λειτουργήσει όταν φτάσει;
Ναι. Κάθε μηχάνημα συναρμολογείται, δοκιμάζεται η εγκατάστασή του και συγκρίνεται με πραγματικά φόρτα εργασίας τεχνητής νοημοσύνης πριν από την αποστολή του, και αυτό μας αφήνει με ένα LLM ήδη εγκατεστημένο και σε λειτουργία. Το συνδέετε, το συνδέετε στο δίκτυό σας και ξεκινάτε την εργασία — η μόνη απόφαση που απομένει είναι ποιο έργο θα εκτελεστεί πρώτο.
Αποστέλλεται από την αποθήκη μας στην ΕΕ. Τα βαριά αντικείμενα ενδέχεται να απαιτούν διευθέτηση μεταφοράς — επικοινωνήστε μαζί μας για μια προσφορά αποστολής και τον χρόνο παράδοσης. 2ετής περιορισμένη εγγύηση με προηγμένη υποστήριξη RMA. Διατίθεται εκτεταμένη εγγύηση.
Δεν είναι ακριβώς αυτό που χρειάζεσαι;
Πείτε μας τον φόρτο εργασίας σας και θα σχεδιάσουμε αυτήν την πλατφόρμα με βάση αυτόν — GPU, μνήμη, αποθηκευτικό χώρο και ψύξη που ταιριάζουν με αυτά που πραγματικά χρησιμοποιείτε.