Θερμικά και ροή αέρα σε κατασκευές διακομιστών τεχνητής νοημοσύνης πολλαπλών GPU

Ένας διακομιστής τεχνητής νοημοσύνης με πολλαπλές GPU είναι, από θερμικής άποψης, ένας βιομηχανικός θερμαντήρας που περιστασιακά κάνει μαθηματικές πράξεις. Ένα πλαίσιο 4× RTX 5090 υπό παρατεταμένο φορτίο αποδίδει συνεχώς 2.4 kW θερμότητας. Ένα 8× 5090 αποδίδει 5 kW. Τίποτα από αυτά δεν πηγαίνει πουθενά από μόνο του - προσγειώνεται στην πλακέτα GPU, στα VRM, στα πακέτα μνήμης και από εκεί σε όποιον αέρα μπορεί να ωθήσει το πλαίσιο προς τα πίσω. Εάν η ροή αέρα δεν ταιριάζει με την ισχύ, το πυρίτιο επιβραδύνει και το γκάζι σε έναν διακομιστή συμπερασμάτων διπλασιάζει την καθυστέρηση των διακριτικών και σιωπηλά στο μισό την απόδοση. Οι περισσότερες ιστορίες "ο διακομιστής GPU έγινε πιο αργός" είναι θερμικές, όχι λογισμικού. Αυτή είναι η πλευρά της ροής αέρα της κατασκευής, σε συνδυασμό με το W04 στην τροφοδοσία.

Η θερμότητα είναι απλώς δύναμη, όπως επαναλαμβάνεται

Κάθε watt που κατανέμεται σε μια GPU εξέρχεται ως θερμότητα — η κάρτα δεν εκτελεί μηχανική εργασία, επομένως δεν υπάρχει συντελεστής απόδοσης. Τα TDP με τα οποία σταθμίζουμε:

GPU Διατηρούμενο TDP Σκουφάκι Οροφή θερμού σημείου Στόχος γκαζιού
RTX 5090 (FE / πλακέτα συνεργάτη) 575 W ~ 600 W ~95 °C (πυρίτιο) 90 °C άκρη
RTX 4090 450 W ~ 500 W ~95°C 83 °C άκρη
Σταθμός εργασίας RTX Pro 6000 Blackwell 600 W 600 W ~90°C 88 °C άκρη
RTX Pro 6000 Blackwell Max-Q 300 W 300 W ~85°C 85 °C άκρη
L40 300 W 300 W ~87°C 87 °C άκρη
L4 72 W 72 W ~87°C 87 °C άκρη
Intel Arc Pro B70 32 GB 200 W 225 W ~90°C 90 °C άκρη

Δύο σημειώσεις που έχουν σημασία για τις αποφάσεις κατασκευής. Η NVIDIA αύξησε το κατώφλι γκαζιού στο άκρο του 5090 στους ~90 °C (από 83 °C στο 4090) — το τσιπ διατηρεί πλήρη ρολόγια για περισσότερο χρόνο με την ίδια ροή αέρα, αλλά το πυρίτιο θερμαίνεται περισσότερο, κάτι που έχει σημασία για αναπτύξεις 24/7. Οι κάρτες σταθμών εργασίας και κέντρων δεδομένων (Pro 6000, L40, L4) διατηρούν σταθερά την ονομαστική τους TDP — δεν ενισχύονται πάνω από το όριο. Οι κάρτες καταναλωτών αυξάνονται. Η σειρά σταθμών εργασίας ψύχεται πιο εύκολα προβλέψιμα. Η σειρά καταναλωτών είναι πιο εύκολο να υπερεκτιμηθεί κατά λάθος.

Κατώφλια γκαζιού και πόσο κοστίζουν

Το γκάζι είναι μια κλίση, όχι ένας διακόπτης. Σε πυρίτιο κατηγορίας Blackwell:

Θερμοκρασία ακμής Συμπεριφορά
60-75 ° C Πλήρης ώθηση, χωρίς γκάζι
75-85 ° C Ήπια διακύμανση ρολογιού, σχεδόν πλήρης ώθηση
85-90 ° C Το όριο ενίσχυσης μειώνεται, χάνεται 5–10%
90-95 ° C Σφιχτό γκάζι, απώλεια ρολογιού 15–25%
> 95 ° C Επιθετικό γκάζι, γκάζι με μνήμη, ενδεχόμενο κλείσιμο έκτακτης ανάγκης

Ένα φόρτο εργασίας συμπερασμού 5090 στα 590 W κρύο μειώνεται στα ~510 W όταν ο αισθητήρας ακμής περάσει τους 90 °C — 15% απώλεια tokens ανά δευτερόλεπτο σε ένα φόρτο εργασίας vLLM 70B, η διαφορά μεταξύ του να πετύχει κανείς ένα SLO ή όχι. Μια κάρτα που μόλις ενεργοποιήθηκε φτάνει στο πρώτο σημείο γκαζιού της σε 60–120 δευτερόλεπτα σε συνεχή φόρτωση. Τα benchmarks για διάστημα μικρότερο των 5 λεπτών υπερεκτιμούν τη συνεχή απόδοση κατά 10–20%, κάτι που είναι ένας από τους πιο συνηθισμένους τρόπους με τους οποίους οι δημοσιευμένοι αριθμοί αποκλίνουν από την πραγματικότητα παραγωγής.

Ροή αέρα rack από εμπρός προς τα πίσω — η μόνη λογική αρχιτεκτονική για 24/7

Οι τοπολογίες ψύκτρας GPU χωρίζονται σε ανοιχτού τύπου / αξονικού πύργου (κάρτες καταναλωτικών παιχνιδιών, εξάτμιση στο εσωτερικό του πλαισίου), blower / radial (κάρτες αναφοράς, εξάτμιση από το bracket I/O) και παθητικές κάρτες κέντρου δεδομένων (L4, L40 — χωρίς ανεμιστήρα, οι ανεμιστήρες πλαισίου ωθούν τον αέρα μέσω του finstack). Για μια έκδοση 4 GPU ή 8 GPU που λειτουργεί 24/7, μόνο οι τοπολογίες blower και passive λειτουργούν σε ένα πυκνό πλαίσιο . Σε μια 4U με κάρτες στοιβαγμένες κάθετα, ένας σχεδιασμός ανοιχτού τύπου απάγει θερμότητα στην είσοδο της κάρτας από πάνω. Η πάνω κάρτα βρίσκεται σε αέρα 50–60 °C και κλείνει μέσα σε λίγα λεπτά.

Τα σασί των Kentino 4U και 8U χρησιμοποιούν βιομηχανική ροή αέρα από εμπρός προς τα πίσω με ανεμιστήρες 120 mm που ασκούν υψηλή στατική πίεση στις GPU. Οι κάρτες είναι τύπου φυσητήρα, παθητικές ή ενεργά ανακατευθύνονται μέσω αγωγών σασί. Το ίδιο το σασί είναι η ψύκτρα.

Μπροστινό μέρος του ραφιού — ψυχρός διάδρομος (είσοδος ~22 °C)
3× ανεμιστήρες εισαγωγής 120 mm (υψηλή στατική πίεση)
↓στήλη ροής αέρα
Εσωτερικό πλαισίου 4U
GPU1
GPU2
GPU3
GPU4
Τροφοδοτικό · Μνήμες DIMM · Ψύκτρα CPU + ανεμιστήρας · καλώδια δρομολογημένα πίσω από τη θήκη
↓καυτή εξάτμιση
Πίσω μέρος της σχάρας — θερμός διάδρομος (εξαγωγή 35–45 °C)
1× πίσω εξάτμιση 120 mm + εξάτμιση PSU

Ροή αέρα από εμπρός προς τα πίσω στο rack: εισαγωγή κρύου διαδρόμου → GPU στη στήλη ροής αέρα → εξαγωγή θερμού διαδρόμου. Αυτό κρατάει τα 5090 κάτω από 85 °C σε εισαγωγή 22 °C.

Στατική πίεση έναντι ροής αέρα CFM

Τα φύλλα δεδομένων του ανεμιστήρα παραθέτουν τη ροή αέρα (CFM) και τη στατική πίεση (mm H2O). Για ένα ανοιχτό κουτί, το CFM κυριαρχεί. Για ένα 4U με πυκνές ψύκτρες, ανυψωτήρες, δέσμες καλωδίων και παθητικά πτερύγια GPU στη διαδρομή, η στατική πίεση κυριαρχεί . Ένας τυπικός ανεμιστήρας καταναλωτικού κουτιού 120 mm παρέχει 70 CFM στα 1.2 mm H2O. Ένας βιομηχανικός ανεμιστήρας διακομιστή 120 mm (Delta, Sanyo Denki, Nidec, San Ace) παρέχει 110 CFM στα 8–12 mm H2O. Το διάκενο CFM είναι 60%. Το διάκενο στατικής πίεσης είναι 7–10×. Σε ένα κουτί με πυκνό βήμα πτερυγίων, ο ανεμιστήρας του κουτιού παρέχει περίπου 20 CFM πραγματικής ροής. Ο βιομηχανικός ανεμιστήρας παρέχει 80–90. Αυτός είναι ο λόγος για τον οποίο το κουτί Kentino AI είναι θορυβώδες (55–62 dBA στην επιφάνεια του rack) και βρίσκεται σε rack ή ντουλάπα, όχι σε γραφείο.

Κανόνες: ~40–50 CFM ροής μέσω του πλαισίου ανά kW θερμότητας GPU· στατική πίεση εισαγωγής ≥ 5 mm H2O· η ψύκτρα CPU πρέπει να είναι τύπου πύργου από εμπρός προς τα πίσω, όχι από πάνω.

Πίεση, φίλτρα και διαχείριση καλωδίων

Η πίεση στο σασί είναι η CFM εισαγωγής έναντι της CFM εξαγωγής. Η θετική (περισσότερη εισαγωγή) διαρρέει αέρα έξω από κάθε κενό και παγιδεύει σκόνη στο μπροστινό φίλτρο. Η αρνητική τραβάει τον αφιλτράριστο αέρα μέσα από κάθε ραφή. Το Kentino 4U είναι ελαφρώς θετικό εκ κατασκευής - τρεις εισαγωγές, μία πίσω εξάτμιση και εξάτμιση PSU. Τα φίλτρα έχουν σημασία: ένα φραγμένο φίλτρο εισαγωγής κατά 50% μειώνει τη ροή αέρα του σασί κατά 30-40%. Ελέγχετε κάθε 90 ημέρες σε ένα γραφείο, κάθε 30 σε ένα εργαστήριο. Οι περισσότερες αναφορές "ο διακομιστής θερμάνθηκε μετά από έξι μήνες" αφορούν προβλήματα φίλτρου, όχι υποβάθμιση του πυριτίου.

Τα καλώδια στην μπροστινή-πίσω στήλη αέρα είναι το πιο υποτιμημένο θερμικό πρόβλημα σε κατασκευές με πολλαπλές GPU. Μια δέσμη ATX 24 ακίδων που είναι τοποθετημένη στην πλευρά εισαγωγής της GPU 4 μειώνει την αποτελεσματική ροή αέρα της κάρτας κατά 25-40% και προσθέτει 5-8 °C σε σχέση με τις αντίστοιχες κάρτες. Δρομολογήστε την τροφοδοσία και το EPS πίσω από το δίσκο της μητρικής πλακέτας, ποτέ κατά μήκος της στήλης αέρα. Κανένα καλώδιο μπροστά από το μέσο της GPU. Το W04 καλύπτει γιατί η διανομή διπλού τροφοδοτικού (dual-PSU split) κάνει αυτό φυσικά ευκολότερο σε μια κατασκευή 4 GPU - τη μισή μάζα καλωδίου ανά πλευρά. Η επιλογή διπλού τροφοδοτικού είναι τόσο θερμική όσο και ηλεκτρική.

Απόσταση U μεταξύ ραφιών και θερμή εξάτμιση

Ένα 4U στα 2.4 kW ωθεί την εξαγωγή στους 35–45 °C στα 100+ CFM. Ένα 8U στα 5 kW ωθεί τους 40–50 °C στα 200+ CFM. Τα πάνελ κάλυψης σε αχρησιμοποίητες υποδοχές U είναι υποχρεωτικά σε οποιοδήποτε κλειστό rack — χωρίς αυτά, τα θερμά καυσαέρια επιστρέφουν στην εισαγωγή ψυχρού διαδρόμου. Τα κλειστά ερμάρια που πιέζονται σε έναν τοίχο είναι η χειρότερη περίπτωση: οι ανώτερες μονάδες βρίσκονται 8–12 °C θερμότερες από τις κατώτερες. Ένα άδειο U πάνω και κάτω από κάθε διακομιστή πολλαπλών GPU σε μη κλειστά rack αγοράζει 5–8 °C χώρου εισαγωγής. Η συγκράτηση θερμού διαδρόμου είναι σημαντική σε κλίμακα τεσσάρων rack, υπερβολή για ένα μόνο rack.

Πραγματικές μετρήσεις — 4-GPU και 8-GPU υπό παρατεταμένο φορτίο

Εσωτερικές δοκιμές Kentino, συμπερασματολογία vLLM 70B Q4, σταθερή κατάσταση 30 λεπτών, θερμοκρασία δωματίου 22 °C ± 1 °C.

Χτίστε Εισαγωγή Πλεονέκτημα GPU Άκρη CPU Εξάτμιση Βαλβίδα
4× RTX 5090 (4U, EPYC 9354) 23 ° C 76-84 ° C 68 ° C 41 ° C Οχι
8× RTX 5090 (8U, 2× EPYC 9554) 24 ° C 78-86 ° C 70-72 ° C 46 ° C άκρη
4× Σταθμός εργασίας Pro 6000 (4U) 23 ° C 71-77 ° C 67 ° C 43 ° C Οχι

Ο στόχος σχεδιασμού είναι η 4× 5090 — 8 °C σε όλη την περιοχή, με την ενίσχυση να διατηρείται εντός 30 MHz από την ονομαστική. Η 8× 5090 βρίσκεται πιο κοντά στο όριο. Η GPU 8 στους 86 °C βρίσκεται στο όριο όπου ξεκινά το όριο ενίσχυσης. Σε δωμάτια θερμότερα από 24 °C, μια έκδοση 8× 5090 αρχίζει να χάνει την ενίσχυση στις πιο πίσω κάρτες — η διαμόρφωση 8-GPU είναι αυτή όπου η ατμόσφαιρα του χώρου εγκατάστασης γίνεται μια παράμετρος κατασκευής πρώτης κατηγορίας. Ο σταθμός εργασίας 4× Pro 6000 λειτουργεί πιο ψυχρά στην ίδια κατανάλωση ρεύματος τοίχου, επειδή το σκληρό όριο των 600 W και η ψύξη διπλής ροής προσφέρουν ένα πιο προβλέψιμο περιβάλλον από τον σχεδιασμό καταναλωτών με αιχμές μεταβατικών διακυμάνσεων της 5090.

Τα hotspots πέρα ​​από την GPU πεθαίνουν

Ο αριθμός nvidia-smi Οι αναφορές είναι ο αισθητήρας edge — η άκρη μνήμης GDDR ή η άκρη πυριτίου, ανάλογα με την κάρτα. Δεν είναι το πιο καυτό πράγμα στο πλαίσιο. Τρεις άλλες θέσεις έχουν σημασία:

VRM Συνήθως λειτουργούν 10–20 °C θερμότερα από τη μήτρα υπό παρατεταμένο φορτίο, με ανώτατο όριο περίπου 110 °C. Σε έναν 5090 στα 575 W, η τηλεμετρία της πλακέτας δείχνει θερμοκρασίες VRM στην περιοχή των 85–95 °C. Κάρτες με αδύναμο γκάζι ψύξης VRM στη θερμοκρασία VRM πριν από το πυρίτιο — αόρατες σε nvidia-smi --query-gpu=temperature.gpu, ορατό μόνο ως ανεξήγητη απώλεια ρολογιού. Εάν μια κάρτα λειτουργεί με ψυχρή λειτουργία στον αισθητήρα GPU αλλά χάνει την ώθηση, υποψιαστείτε το VRM.

Η μνήμη GDDR7 στον 5090 λειτουργεί με υψηλές θερμοκρασίες. Η παρατεταμένη συμπερασματική διαδικασία με μεγάλη κίνηση ενεργοποίησης ωθεί τις θερμοκρασίες των συνδέσεων μνήμης στους 95–100 °C. Η κάρτα επιβραδύνει πρώτα το ρολόι μνήμης (απώλεια εύρους ζώνης 3–5%) και στη συνέχεια το ρολόι της GPU. Για φόρτους εργασίας που συνδέονται με τη μνήμη, η θερμοκρασία μνήμης είναι το σημείο συμφόρησης και όχι η θερμοκρασία του πυρήνα.

Οι NVMe SSD είναι ο σιωπηλός δολοφόνος. Ένας δίσκος PCIe 5.0 που εκτελεί συνεχείς αναγνώσεις (φόρτωση βαρών 70B, ροή δεδομένων) φτάνει τους 70–80 °C σε δευτερόλεπτα χωρίς ενεργή ψύξη. Πάνω από τους ~75 °C, ο ελεγκτής επιβραδύνει και το εύρος ζώνης ανάγνωσης μειώνεται στο μισό. Ένα φόρτωμα μοντέλου που "θα έπρεπε να διαρκέσει 8 δευτερόλεπτα" διαρκεί 16 και κανείς δεν ξέρει γιατί. Κάθε έκδοση Kentino AI διαθέτει NVMe με ψύκτρες στη διαδρομή ροής αέρα του πλαισίου.

Για να παρακολουθείτε όλα όσα έχουν σημασία στην παραγωγή:

nvidia-smi --query-gpu=index,temperature.gpu,temperature.memory,clocks.gr,clocks.mem,power.draw \
           --format=csv -l 5

Για το NVMe, nvme smart-log /dev/nvme0 αναφέρει θερμοκρασίες ελεγκτή και σύνθετου υλικού· συναγερμός στους 70 °C σύνθετου υλικού. Η θερμοκρασία VRM εκτίθεται στις κάρτες Pro 6000 μέσω DCGM (dcgm-exporter για τον Προμηθέα). στις κάρτες καταναλωτών εξαρτάται από τον προμηθευτή της πλακέτας και συχνά εμφανίζεται μόνο σε βοηθητικά προγράμματα των Windows — ένας από τους πολλούς λόγους για τους οποίους προτιμούμε τις κάρτες σταθμών εργασίας σε μακροχρόνια παραγωγή.

Θερμοκρασία περιβάλλοντος δωματίου και ο φάκελος ASHRAE

Το πρότυπο ASHRAE TC9.9 ορίζει τα θερμικά περιβλήματα που ακολουθεί ο σχεδιασμός του κέντρου δεδομένων. Η κατηγορία A1 (συστατικοποίηση βαθμίδας 1) συνιστά θερμοκρασία εισόδου 18–27 °C. Η κατηγορία A2 (γενική επιχείρηση) επεκτείνεται έως τους 10–35 °C. Η σειρά Kentino AI έχει σχεδιαστεί για A2, αλλά το περιβλημα χωρίς γκάζι για ένα πλαίσιο 4× ή 8× 5090 βρίσκεται μέσα στο A1: η είσοδος 22 °C είναι το σημείο σχεδιασμού, οι 26 °C το πρακτικό ανώτατο όριο πριν ξεκινήσει η απώλεια ώθησης. Η υγρασία έχει επίσης σημασία: η ASHRAE συνιστά 20–80% χωρίς συμπύκνωση. Στοχεύστε σε 40–60% σχετική υγρασία όλο το χρόνο.

Χτίστε Συνιστώμενο περιβάλλον Οροφή (χωρίς γκάζι) Σκληρή οροφή (οποιαδήποτε γκάζι)
4 × 4090 18-24 ° C 26 ° C 30 ° C
4 × 5090 18-22 ° C 24 ° C 28 ° C
4× Pro 6000 18-25 ° C 27 ° C 32 ° C
8 × 5090 18-22 ° C 23 ° C 26 ° C
8× Pro 6000 18-24 ° C 25 ° C 29 ° C
8× L40 18-26 ° C 28 ° C 32 ° C
8× L4 18-28 ° C 30 ° C 35 ° C

Οι αριθμοί L40 και L4 εξηγούν γιατί αυτές οι κάρτες παραμένουν ενδιαφέρουσες για εγκαταστάσεις γραφείου: αντέχουν τον κανονικό κλιματισμό γραφείου. Μια έκδοση 5090 με 8 GPU χρειάζεται ένα δωμάτιο διακομιστή ή μια ντουλάπα με ειδική ψύξη, τελεία και παύλα.

Διαστασιολόγηση HVAC σε μία παράγραφο

Το φορτίο ψύξης δωματίου ισούται με τη συνεχή κατανάλωση από τον τοίχο: 1 kW = 3,412 BTU/ώρα. Ένας διακομιστής 2.4 kW 4-GPU είναι ~8,200 BTU/ώρα. Ένας διακομιστής 4.5 kW 8-GPU είναι ~15,400 BTU/ώρα. Μέγεθος AC στο 1.3× το φορτίο σταθερής κατάστασης — ο ίδιος κανόνας headroom με τα τροφοδοτικά. Ένας διαχωριστής 12,000 BTU σε έναν διακομιστή 2.4 kW λειτουργεί με κύκλο λειτουργίας 100% και τερματίζει τον συμπιεστή σε 18-30 μήνες. Μια μονάδα 24,000 BTU στο ίδιο φορτίο λειτουργεί με 50% λειτουργία και διαρκεί 8-10 χρόνια. Η ψύξη ακριβείας (CRAC) καθίσταται σχετική πάνω από τα 10 kW. κάτω από αυτό, ένας διαχωριστής σωστού μεγέθους κάνει τη δουλειά.

Συντελεστής μορφής: rack 4U, rack 8U, tower

Η σειρά Kentino AI χρησιμοποιεί τρία: rack 4U για builds 4-GPU (3× είσοδος 120 mm, 1× πίσω, διπλή ATX, rack 19 ιντσών), rack 8U για builds 8-GPU (βιομηχανικοί ανεμιστήρες server, τροφοδοσία CRPS, μητρική πλακέτα διπλής CPU, περίπου διπλάσια πυκνότητα θερμότητας 4U) και tower workstation για dev boxes 1- και 2-GPU (ανεμιστήρες PWM, κατάλληλα για γραφείο). Πάνω από 2 GPU δεν διαθέτουμε towers — ένα κάθετο chassis 4-GPU φτάνει στους 90 °C στην επάνω κάρτα εντός 20 λεπτών με συνεχές φορτίο. Το ίδιο hardware σε ένα rack 4U παραμένει κάτω από 85 °C επ' αόριστον.

Υγρή ψύξη — πότε και γιατί

Ο αέρας χειρίζεται ~600 W ανά GPU σε μια καλοσχεδιασμένη 4U. Πάνω από αυτό, το υγρό είναι η απάντηση. Η λειτουργία AIO ανά κάρτα μειώνει το πλεονέκτημα της GPU κατά 15–25 °C, αλλά προσθέτει μια τάξη μεγέθους πολυπλοκότητας, με την αστοχία της αντλίας και την αθόρυβη εξάτμιση του ψυκτικού ως τις νέες λειτουργίες αστοχίας. Η άμεση σύνδεση στο τσιπ με έναν εναλλάκτη θερμότητας στο πίσω μέρος του rack που συνδέεται με την εγκατάσταση κρύου νερού είναι η σωστή απάντηση στις 16+ GPU ανά cluster. Η εμβάπτιση σε διηλεκτρικό υγρό είναι αποτελεσματική, ακριβή και αλλάζει εντελώς το μοντέλο λειτουργικότητας.

Για την τρέχουσα σειρά Kentino — αερόψυκτο πλαίσιο έως 600 W ανά κάρτα — ο αέρας είναι η σωστή απάντηση . Μια έκδοση 4× 5090 λειτουργεί στους 78–84 °C με μηδενικό γκάζι, 24/7, σε ψυχρό διάδρομο στους 22 °C. Το υγρό θα το ανέβαζε στους 55–65 °C και θα κέρδιζε ένα μικρό ποσοστό του χρόνου ώθησης. Το δέλτα των κεφαλαιουχικών εξόδων και της πολυπλοκότητας δεν το δικαιολογεί σε αυτή την κλίμακα.

Τι πρέπει να κάνετε στη συνέχεια — λίστα ελέγχου θερμικής παρακολούθησης — λίστα ελέγχου θερμικής παρακολούθησης

Εάν διαστασιολογείτε την θερμική πλευρά ενός χώρου κατασκευής ή εγκατάστασης:

  1. Ψυχρός διάδρομος στο δωμάτιο εγκατάστασης; Μετρήστε υπό ρεαλιστικό φορτίο, όχι Κυριακή με το κλιματιστικό σε λειτουργία. Συγκρίνετε με τον παραπάνω πίνακα θερμοκρασίας περιβάλλοντος.
  2. Ψύξη δωματίου με μέγεθος 1.3× φόρτισης τοίχου διακομιστή; Ένα κλιματιστικό που έχει μέγεθος που ταιριάζει ακριβώς με το φορτίο εκτελεί κύκλο λειτουργίας 100% και παρουσιάζει βλάβη εντός δύο ετών.
  3. Πού πηγαίνει η ζεστή εξάτμιση; Ένα ανοιχτό ράφι με ζεστό διάδρομο είναι μια χαρά. Ένα κλειστό ντουλάπι χωρίς περίβλημα ή μια ντουλάπα με τον σερβιτόρο στραμμένη προς τον τοίχο δεν είναι.
  4. Κύκλος λειτουργίας; Ένα developer box με 30% φορτίο έχει διαφορετικές ανάγκες ψύξης από έναν inference server που λειτουργεί 24/7.
  5. Φίλτρο και σχέδιο ανάπτυξης; Ένα φραγμένο φίλτρο μειώνει ήσυχα τη ροή του αέρα στο μισό. Ένας δεύτερος σερβιτόρος διπλασιάζει το θερμικό φορτίο. Προγραμματίστε και τα δύο.
  6. Τηλεμετρία σε λειτουργία; nvidia-smi σταθμισμένο στα 5 δευτερόλεπτα για την άκρη της GPU / μνήμη / ρολόγια / ισχύ, nvme smart-log για μονάδες δίσκου, DCGM για VRM όπου είναι διαθέσιμο, θερμοκρασία περιβάλλοντος δωματίου + υγρασία στη στοίβα παρακολούθησης με συναγερμούς στους 27 °C και εξωτερική υγρασία 40–60% σχετική υγρασία.

Σχεδιασμός σε επίπεδο πλαισίου — ροή αέρα από εμπρός προς τα πίσω, βιομηχανικοί ανεμιστήρες 120 mm, GPU με φυσητήρα ή παθητικές μονάδες γραφικών, πειθαρχημένη δρομολόγηση καλωδίων — παρέχεται από προεπιλογή σε κάθε έκδοση Kentino AI. Το δωμάτιο και το rack είναι η πλευρά του πελάτη της γραμμής παραγωγής και από εκεί προέρχονται τα περισσότερα προβλήματα πεδίου.

Το W06 (το επόμενο στη σειρά W) καλύπτει τα επίπεδα αποθήκευσης — τις διατάξεις NVMe, SAS και bulk pool που συνδυάζονται με αυτά τα υπολογιστικά πλαίσια.


Αυτό είναι μέρος του Kentino Wiki, μιας σειράς αναφοράς για την υπολογιστική Τεχνητή Νοημοσύνη, τη ρομποτική και τα συστήματα που τα συνδέουν. Σχόλια και διορθώσεις είναι ευπρόσδεκτα στο info@kentino.com.