Κόστος ανά εκατομμύριο Tokens: On-Prem vs Cloud

Υπάρχουν τρεις ειλικρινείς τρόποι για να αγοράσετε συμπεράσματα LLM το 2026: καλέστε το φιλοξενούμενο τερματικό σημείο κάποιου άλλου και πληρώστε ανά διακριτικό (cloud LLM API), νοικιάστε μια GPU με την ώρα και εκτελέστε το δικό σας μοντέλο (ενοικίαση cloud GPU) ή αγοράστε έναν διακομιστή και εκτελέστε τον στο δικό σας rack (on-prem). Η τιμή ενός εκατομμυρίου διακριτικών φαίνεται δραματικά διαφορετική και στα τρία, και όχι με τη σειρά που υποθέτουν οι περισσότεροι αγοραστές.

Αυτό το άρθρο κάνει τους υπολογισμούς σε ευρώ χωρίς ΦΠΑ. Κοινό: κάποιος που αποφασίζει αν θα συνεχίσει να πληρώνει μηνιαίως το OpenAI, αν θα αλλάξει σε έναν πάροχο ανοιχτού μοντέλου, αν θα νοικιάσει ένα H100 ή αν θα αγοράσει ένα κουτί 4-/8-GPU. Αναφέρουμε τις τιμές Μαΐου 2026 και τελειώνουμε με μια ροή απόφασης πέντε λεπτών. Διασταυρούμενες παραπομπές: TCO ανά GPU T01 , επιλογή κάρτας W07 , αριθμοί I04 στην πλευρά του τοίχου.

Οι τρεις πλατφόρμες

API Cloud LLM. OpenAI, Anthropic, Google, Together, Fireworks. Πληρωμή ανά εισερχόμενο και εξερχόμενο token. Χωρίς κόστος αδράνειας, χωρίς κεφαλαιουχικά έξοδα, χωρίς λειτουργίες. Επίσης, χωρίς επιλογή μοντέλου πέρα ​​από τον κατάλογό τους, χωρίς LoRA, χωρίς ποσοτικό έλεγχο.

Ενοικίαση GPU στο cloud. AWS p5/p5e/p6, Azure ND H200/B200, GCP A3 Ultra, καθώς και εξειδικευμένα cloud (Lambda, CoreWeave, Nebius, RunPod). Νοικιάστε μια GPU με την ώρα και εκτελέστε οτιδήποτε. Φέρνετε το μοντέλο, τη στοίβα εξυπηρέτησης, τις λειτουργίες. Πληρώνετε είτε εξυπηρετείτε ένα token είτε ένα δισεκατομμύριο την ίδια ώρα.

Εγκατάσταση. Αγοράστε ένα κουτί 4 ή 8 GPU. Τοποθετήστε το στο κτίριό σας ή σε ένα κατάστημα. Φέρνετε ρεύμα, ψύξη, δικτύωση, λειτουργίες. Απόσβεση σε διάστημα τριών ετών. Το οριακό κόστος ενός token είναι η ηλεκτρική ενέργεια. Το σταθερό κόστος είναι όλα όσα έχετε ήδη πληρώσει.

Τρία διαφορετικά σχήματα κόστους — καθαρά μεταβλητό, καθαρά σταθερό με απότομη πτώση, κεφαλαιακές δαπάνες συν οριακά — που ισοσκελίζουν το ένα το άλλο σε διαφορετικά σημεία κατά μήκος του άξονα απόδοσης.

Τιμολόγηση API LLM για το Cloud

USD ανά εκατομμύριο tokens, δημόσιες σελίδες τιμολόγησης, Μάιος 2026. EUR σε EUR/USD ≈ 1.08.

Provider Μοντέλο Εισαγωγή $/Mtok Παραγωγή $/Mtok Εισαγωγή €/Mtok Παραγωγή €/Mtok
OpenAI GPT-5 1.25 10.00 1.16 9.26
OpenAI GPT-5 μίνι 0.25 2.00 0.23 1.85
OpenAI GPT-5 νανο 0.05 0.40 0.05 0.37
OpenAI GPT-4.1 / o3 2.00 8.00 1.85 7.41
Ανθρωπικός Κλοντ Έπους 4.7 15.00 75.00 13.89 69.44
Ανθρωπικός Claude Sonnet 4.6 3.00 15.00 2.78 13.89
Ανθρωπικός Κλοντ Χαϊκού 4.5 1.00 5.00 0.93 4.63
Google Gemini 2.5 Pro 1.25 10.00 1.16 9.26
Google Gemini 2.5 Flash 0.30 2.50 0.28 2.31
Google Gemini 2.5 Flash-Lite 0.10 0.40 0.09 0.37
Μαζί Λάμα 3.3 70Β 0.88 0.88 0.81 0.81
Μαζί Κουέν 2.5 72Β 1.20 1.20 1.11 1.11
Μαζί DeepSeek-V3 1.25 1.25 1.16 1.16
Μαζί Λάμα 3.1 405Β 3.50 3.50 3.24 3.24
AWS Bedrock Λάμα 3.3 70Β 0.72 0.72 0.67 0.67
Γαλανός Λάμα 3.3 70Β 0.59 0.79 0.55 0.73

Δύο ειλικρινείς αναγνώσεις. Τα κλειστά μοντέλα Frontier (Claude Opus 4.7, GPT-5, Gemini 2.5 Pro) είναι μια τάξη μεγέθους πιο ακριβά από τα φιλοξενούμενα API ανοιχτού μοντέλου που εξυπηρετούν το Llama 70B ή το DeepSeek-V3 — η τιμή του "πιο έξυπνου τώρα" έναντι του "καλύτερου ανοιχτού βάρους τώρα". Για τα περισσότερα φόρτα εργασίας παραγωγής (RAG, βήματα πρακτόρων, κώδικας, ταξινόμηση), το Sonnet 4.6 ή το GPT-5 mini είναι το σημείο λειτουργίας, όχι η ναυαρχίδα. Τα διακριτικά εξόδου κοστίζουν τρεις έως επτά φορές την είσοδο σε κλειστούς παρόχους και περίπου ίσο σε κεντρικούς υπολογιστές ανοιχτού μοντέλου. Τα SKU ανοιχτού μοντέλου Hyperscaler (Bedrock, Azure) χρεώνουν ένα premium 30–80% σε σχέση με το Together ή το Fireworks για το ίδιο μοντέλο — πληρώνετε για ενσωμάτωση IAM και έναν μόνο λογαριασμό, όχι φθηνότερα διακριτικά.

Κόστος ανά μετρικό τόνο σε τοπικό κατάστημα

Το κόστος ανά Mtok είναι το συνολικό κόστος τριών ετών διαιρούμενο με τα tokens που εξυπηρετούνται σε διάστημα τριών ετών. Ο παρονομαστής εξαρτάται από τη χρήση. Ο αριθμητής είναι περίπου σταθερός.

On-prem €/Mtok =
    (capex + 3y electricity + 3y maintenance + 3y ops) /
    (sustained tok/s × utilization × 3 × 8,760 × 3,600 / 1e6)

Συνολική κατανάλωση ενέργειας ανά GPU από το T01 με αξιοποίηση 60%, €0.20/kWh, PUE 1.4:

Χτίστε 3ετές Συνολικό Κόστος Συνολικού Κόστους € Παρατεταμένο tok/s Tokens/3y (Mtok) € / Μτόκ
4× RTX 5090 (Llama 70B INT4 TP=4) 27,000 1,800 102,000 0.26
4× Pro 6000 BW SE (Llama 70B FP8 DP) 58,000 1,920 109,000 0.53
4× Pro 6000 BW SE (Qwen 32B INT4) 58,000 2,400 136,000 0.43
8× Pro 6000 BW SE (Llama 70B FP8 DP) 115,000 3,800 215,000 0.53
8× L4 (Λάμα 8B FP8) 36,000 5,200 295,000 0.12

Μειώνοντας την αξιοποίηση στο 30%, κάθε ποσοστό διπλασιάζεται. Ανεβαίνοντας στο 80%, το 8B που εξυπηρετείται από το L4 φτάνει στα 0.09 €/Mtok, φθηνότερο από κάθε cloud API για αυτήν την κατηγορία. Τα μαθηματικά καταρρέουν κάτω από το 25% αξιοποίησης, επειδή το TCO κυριαρχείται από τις κεφαλαιουχικές δαπάνες που πληρώσατε, ανεξάρτητα από το αν το χρησιμοποιήσατε ή όχι.

Το νεκρό σημείο

Επικαλύψτε τη γραμμή cloud. Llama 70B με 100 εκατομμύρια tokens/μήνα , ισορροπημένο 50/50, στο Together: 100 × €0.81 = €81/μήνα → €2,916 σε διάστημα τριών ετών. Ενάντια σε ένα 4× 5090 on-prem στα €27,000, το Together κερδίζει με €24,000. Με 100 εκατομμύρια tokens/μήνα, το on-prem κάνει εντελώς λάθος.

Ώθηση σε 1 B tokens/μήνα : 1,000 × 0.81 € = 810 €/μήνα → 29,160 € σε διάστημα τριών ετών. Μαζί και τα 4× 5090 βρίσκονται εντός 2,000 €. Με 1.5 B/μήνα, τα on-prem κερδίζουν σημαντικά.

Το break-even για συμπερασματολογία κλάσης 70B έναντι του φθηνότερου φιλοξενούμενου API ανοιχτού μοντέλου φτάνει περίπου τα 1.0–1.5 B tokens ανά μήνα, διατηρούμενα σε 4× 5090. Για τα κλειστά frontier API (Claude Sonnet 4.6 στα €8.34/Mtok blend, GPT-5 στα €5.21/Mtok blend), το break-even μετακινείται στα 80–150 M tokens/μήνα — η γραμμή cloud είναι μια τάξη μεγέθους πιο απότομη.

Αυτός είναι ο πιο σημαντικός αριθμός σε αυτό το άρθρο: το νεκρό σημείο δεν είναι "100 εκατομμύρια tokens/μήνα για τα πάντα". Είναι συγκεκριμένο για το φόρτο εργασίας και εξαρτάται αποκλειστικά από τη γραμμή cloud με την οποία ανταγωνίζεστε. Οι αγοραστές που λένε "φτάσαμε τα 50 εκατομμύρια, θα πρέπει να πάμε σε on-prem" συνήθως συγκρίνονται με τον Claude Opus, όπου έχουν δίκιο — αγνοώντας ότι μια μεταφορά φόρτου εργασίας από το Opus στο Sonnet 4.6 τους εξοικονομεί πέντε φορές περισσότερα από μια μεταφορά από το Sonnet σε on-prem σε αυτόν τον όγκο.

Ενοικίαση GPU στο cloud — η μεσαία επιλογή

Ωριαίες τιμές ανά GPU, Μάιος 2026 κατ' απαίτηση:

Provider Παράδειγμα GPU $/ώρα στιγμιότυπο $/GPU-ώρα
AWS σελ.5.48xlarge 8× H100 SXM 55.18 6.90
AWS p5e.48xlarge 8× H200 SXM 30.00 3.75
AWS p6-b200 8× B200 74.88 9.36
Γαλανός ND H200 v5 8× H200 31.00 3.88
GCP a3-ultragpu-8g 8× H200 28.00 3.50
Λάμδα 8× H100 8× H100 16.00 2.00
CoreWeave 8× H100 8× H100 19.20 2.40

Οι δεσμευμένες δεσμεύσεις 1 έτους έχουν έκπτωση 25–35%. Το AWS p5 on-demand είναι περίπου 3× Lambda για το ίδιο πυρίτιο H100. Μεταφράζεται σε ανά διακριτικό: 8× H100 στο Lambda με Llama 3.3 70B FP8 στα ~3,500 tok/s διατηρήσιμο → $16/ώρα × 8,760 × 3 = €389,000 σε διάστημα 3 ετών → €1.96/Mtok με αξιοποίηση 60%. Αυτό σημαίνει 4× ένα 8× Pro 6000 SE on-prem build (€0.53/Mtok) και 2.5× απλώς κλήσεις Together (€0.81/Mtok).

Η ενοικίαση του H100 για την εξυπηρέτηση συμπερασμάτων ανοιχτού μοντέλου είναι το χειρότερο και των δύο κόσμων: τιμές ενοικίασης για το κουτί και λειτουργίες για την εκτέλεσή του. Τα μαθηματικά λειτουργούν μόνο όταν χρειάζεστε ένα συγκεκριμένο μοντέλο που κανείς δεν φιλοξενεί και δεν έχετε τον όγκο για on-premium. Η ενοικίαση GPU στο cloud έχει μια ειλικρινή περίπτωση χρήσης: εκπαίδευση burst . Μια βελτιστοποίηση LoRA σε 8× H100 για 8 ώρες κοστίζει ~$130 στο Lambda. Κανένα TCO on-premium δεν ξεπερνά αυτό για μια εφάπαξ χρήση. Η λογική δεν μεταφέρεται στην συμπερασματολογία, η οποία διατηρείται και λειτουργεί 24/7. Η παγίδα "spot": τα επίπεδα spot/preemptible/community προσφέρουν έκπτωση 50-80% αλλά είναι διακοπτόμενα. Καλή για αντίγραφα συμπερασμάτων χωρίς κατάσταση. Για μια 18ωρη εργασία εκπαίδευσης που ελέγχει κάθε βήμα, δύο διακοπές διπλασιάζουν το κόστος ανά ολοκληρωμένο βήμα και δεν είστε πλέον φθηνότεροι από ό,τι on-demand.

Κρυφά κόστη που κανείς δεν αναφέρει

Cloud: έξοδος στα 0.05–0.09 $/GB όταν στέλνετε εικόνες, ήχο ή βίντεο πίσω. Η καταγραφή προσθέτει 5–10% σε κλίμακα. Το εκ νέου χρεωμένο περιβάλλον είναι το χειρότερο - κάθε API χρεώνει πλήρη προτροπή για κάθε κλήση, επομένως ένα περιβάλλον παράγοντα 50 διακριτικών κοστίζει 50 διακριτικά εισόδου ανά βήμα ενός βρόχου 20 βημάτων. Η προσωρινή αποθήκευση προτροπών (Anthropic, OpenAI, Google το υποστηρίζουν όλες) μειώνει αυτό το 50–90% στα προσωρινά αποθηκευμένα προθέματα, αλλά μόνο εάν το σχεδιάσετε εσείς. Τα όρια ρυθμού παραγωγής ξεκινούν από 30–500 TPM και απαιτούν ιστορικό χρήσης. Οι νέοι πελάτες δεν μπορούν να εκτελούνται σε κλίμακα την πρώτη ημέρα. Τα SKU περιοχής ΕΕ είναι 10–20% περισσότερα από την Ανατολική Αμερική με χαμηλότερη διαθεσιμότητα.

Εγκατάσταση: Ο χρόνος λειτουργίας στα 0.1–0.3 ΙΠΑ ανά διακομιστή είναι 8–24 €/έτος, κάτι που δεν ισχύει ανά Mtok. Ο χρόνος διακοπής λειτουργίας απαιτεί ένα εφεδρικό κουτί ή μια ευέλικτη εφεδρική λύση στο cloud. Η ηλεκτρική ενέργεια δεν κοστίζει 0.20 €/kWh παντού — η βιομηχανική παραγωγή της ΕΕ το 2026 κυμαίνεται από 0.09 €/kWh (υδροηλεκτρική ενέργεια Σουηδίας, Νορβηγίας) έως 0.35 €/kWh (Ιταλία, Ιρλανδία), η Γερμανία στα 0.18–0.22 €/kWh σε επιδοτούμενα βιομηχανικά συστήματα, η Τσεχία στα 0.18–0.25 €/kWh σε ανοιχτή εμπορική παραγωγή. Για την Ιταλία ή την Ιρλανδία, κάθε σειρά ηλεκτρικής ενέργειας στο T01 αυξάνεται κατά 50%. Το Colo rack κοστίζει 100–300 €/μήνα για 4U — 3,600–10,800 € σε διάστημα τριών ετών επιπλέον του υλικού.

Η τιμή της δημοσιευμένης υπηρεσίας cloud είναι περίπου 1.2–1.5 φορές η πραγματική τιμή. Το συνολικό κόστος ιδιοκτησίας (TCO) της δημοσιευμένης υπηρεσίας on-premium είναι περίπου 1.2–1.5 φορές το αντίστοιχο της τιμής. Οι πολλαπλασιαστές ακυρώνονται για τη σύγκριση.

Παράγοντες που δεν σχετίζονται με το κόστος

Τρία πράγματα υπερισχύουν του κόστους ανά μετρικό τόνο (Mtok) για τους πραγματικούς αγοραστές.

Κυριαρχία δεδομένων. Ο κυριότερος λόγος για τον οποίο οι Ευρωπαίοι αγοραστές θα εγκατασταθούν σε εγκαταστάσεις εσωτερικής εγκατάστασης το 2026 είναι ο GDPR συν οι τομεακοί κανόνες (DORA, NIS2, ο νόμος περί τεχνητής νοημοσύνης, MDR). Η αποστολή μηνυμάτων παραγωγής με προσωπικά δεδομένα, ιατρικά αρχεία ή βιομηχανικά μυστικά σε ένα τελικό σημείο που φιλοξενείται στις ΗΠΑ αποτελεί συμβατικό πρόβλημα ανεξάρτητα από την τιμή. Τα SKU περιοχής ΕΕ δεν σημαίνουν ότι ελέγχονται από την ΕΕ. Για έναν αγοραστή που ρυθμίζεται από κανονισμούς, η πριμοδότηση εσωτερικής εγκατάστασης δεν είναι κόστος, είναι το τίμημα της νόμιμης άδειας ανάπτυξης.

Κατώτατο όριο καθυστέρησης. Το WAN στο πλησιέστερο φιλοξενούμενο τελικό σημείο προσθέτει 15–40 ms RTT εντός της ΕΕ και 80–120 ms υπερατλαντικά. Η εγκατάσταση σε ένα τοπικό δίκτυο 10 GbE είναι υποδευτερόλεπτο. Για διαδραστική συνομιλία, το δέλτα WAN είναι αόρατο έναντι 800 ms TTFT. Για έναν βρόχο ρομποτικού ελέγχου ( I01 ) ή έναν φωνητικό παράγοντα κάτω των 300 ms, το WAN είναι μοιραίο.

Δυνατότητα προσαρμογής. Τα API cloud αποστέλλουν το μοντέλο και την ποσότητα που επέλεξε ο πάροχος. On-prem επιλέγετε το μοντέλο, την ποσότητα, τη στοίβα εξυπηρέτησης (vLLM, SGLang, llama.cpp), τους προσαρμογείς LoRA, τον αποκωδικοποιητή speculative. Για ερευνητικά εργαστήρια ή εξειδικευμένα προϊόντα, αυτό είναι που αγοράζετε — το κόστος ανά Mtok είναι δευτερεύον.

Εάν δεν ισχύει τίποτα από τα δύο, ο αγοραστής ανήκει στο cloud κάτω από το σημείο ισορροπίας. Δεν θα έπρεπε κάθε υποψήφιος πελάτης να αγοράσει διακομιστή.

Εργασιακή απόφαση: Φόρτος εργασίας κατηγορίας 70B σε δύο τόμους

Προφίλ πελάτη: SaaS για ταξινόμηση και σύνοψη εγγράφων, είσοδος/έξοδος 70/30, μοντέλο ανοιχτού βάρους κατηγορίας 70B.

Επιλογή Στα 100 εκατομμύρια τόνοι/μήνα (3 έτη) Στα 2 B tok/μήνα (3 χρόνια)
Μαζί (Λάμα 3.3 70Β) €2,916 €58,320
AWS Bedrock (Λάμα 3.3 70B) €2,412 €48,240
Claude Sonnet 4.6 (αναφορά ορίων) €21,996 €439,920
Εσωτερική τοποθέτηση 4× 5090 (αποσβεσμένο) €27,000 €27,000
Lambda 8× H100 αυτο-φιλοξενούμενο €389,000 €389,000

Με 100 εκατομμύρια tokens/μήνα, η Bedrock κερδίζει κατά μια τάξη μεγέθους έναντι της on-prem. Ο πελάτης δεν έχει κερδίσει το κουτί. Με 2 δισεκατομμύρια tokens/μήνα, η on-prem κερδίζει αποφασιστικά με 1.8–2.2× ακόμη και έναντι της φθηνότερης εναλλακτικής λύσης που φιλοξενείται. Το σημείο ισορροπίας για αυτό το φόρτο εργασίας έφτασε περίπου τα 800 εκατομμύρια – 1.2 δισεκατομμύρια tokens/μήνα. Κάτω από αυτό, ενοίκιο. Πάνω από αυτό, ιδιόκτητο.

Πίνακας απόφασης

Όγκος / μήνα Μοντέλο 8Β–13Β Μοντέλο 32Β Μοντέλο 70Β Σύνορο (Claude / GPT-5)
< 100 εκατομμύρια τόκοι Cloud API Cloud API Cloud API Cloud API
100–500 εκατομμύρια τοκ API cloud ή 4× L4 Cloud API Cloud API Cloud API
500 Μ – 1 Β 4–8× L4 επί τόπου 4× 5090 ή Cloud Cloud (Βράχο/Μαζί) Cloud API
1–5 B tok 8× L4 επί τόπου 4 × 5090 4× 5090 ή 4× Pro 6000 SE Υβριδικό cloud + on-premium
5–50 B tok 8× συστοιχία L4 4× Pro 6000 BW SE 4–8× Pro 6000 BW SE Σύννεφο συνόρων + ανάπαυση εντός εγκατάστασης
> 50 δισεκατομμύρια τόκους Πολλαπλών κόμβων L4 8× Pro 6000 BW SE 8× Pro 6000 SE × N Τιμές για επιχειρήσεις + υβριδικά

Συντηρητικός — ένας αγοραστής με ρυθμιζόμενες ρυθμίσεις προωθεί τη στήλη on-prem μία σειρά νωρίτερα· ένας αγοραστής με πειραματικές εκδόσεις μία σειρά αργότερα. Η στήλη frontier είναι ειδική: καμία έκδοση on-prem δεν αντικαθιστά το Claude Opus 4.7 ή το GPT-5. Αυτά είναι ποιοτικά SKU που καλείτε όταν χρειάζεται, όχι φόρτοι εργασίας που φιλοξενείτε.

Η ειλικρινής άποψη

Οι περισσότεροι υποψήφιοι πελάτες που έρχονται πιστεύοντας ότι χρειάζονται διακομιστή δεν το κάνουν. Σε τυπικούς όγκους — 5–50 εκατομμύρια tokens/μήνα για ένα προϊόν πρώιμου σταδίου, 50–500 εκατομμύρια για ένα προϊόν μεσαίου σταδίου — τα cloud APIs υπερισχύουν για άλλους δώδεκα έως είκοσι τέσσερις μήνες. Η σωστή απάντηση είναι «χρησιμοποιήστε το Together ή το Bedrock, παρακολουθήστε τις μηνιαίες δαπάνες σας, καλέστε μας όταν ξεπεράσουν τα 1,500€/μήνα».

Οι αγοραστές για τους οποίους η εγκατάσταση σε τοπικό επίπεδο έχει νόημα το 2026 εμπίπτουν σε τρία σχήματα. Ρυθμιζόμενο : τα δεδομένα δεν μπορούν να φύγουν από το κτίριο. Διατηρούμενο σε κλίμακα : 1+ tokens/μήνα σε ένα μοντέλο κατηγορίας 70B όπου τα μαθηματικά κερδίζουν με 2–3 φορές. Ρομποτική ή χαμηλή καθυστέρηση : Το επίπεδο WAN καταστρέφει την εφαρμογή. Περίπου το 30–40% των υποψήφιων πελατών μας ταιριάζει με ένα. Για το υπόλοιπο 60–70%, τα API cloud το 2026 είναι ένα αξιοσημείωτο προϊόν και θα πρέπει να συνεχίσουν να χρησιμοποιούν ένα μέχρι να αλλάξουν τα μαθηματικά.

Η εκπαίδευση είναι μια διαφορετική συζήτηση. Σχεδόν κάθε φόρτος εργασίας σε κλίμακα Kentino AI (LoRA, QLoRA, fine-tuning 7B–32B) είναι φθηνότερο σε τοπικό επίπεδο από την ενοικίαση GPU στο cloud — το κουτί λειτουργεί 100% κατά τη διάρκεια της εκτέλεσης. Εξαίρεση αποτελεί η εκπαίδευση σε υπερκλίμακα (πλήρης προεκπαίδευση 70B+, RLHF σε κλίμακα) όπου χρειάζεστε 8× H100 με NVLink, την οποία δεν πουλάμε ( το W07 καλύπτει το γιατί). Νοικιάστε το, λειτουργήστε το, φέρτε τα βάρη στο σπίτι.

Τι να κάνω μετά

Εκτελέστε αυτήν την ακολουθία πριν μιλήσετε με έναν προμηθευτή:

  1. Μέτρηση τρέχοντος μηνιαίου όγκου διακριτικών, διαιρεμένο ανά επίπεδο μοντέλου. Εάν δεν μπορείτε, χρησιμοποιήστε το ως εργαλείο για δύο εβδομάδες. Χωρίς αυτόν τον αριθμό, κάθε επόμενο βήμα είναι μια εικασία.
  2. Έργο έξι μήνες αργότερα, συντηρητικά — πολλαπλασιάστε επί 1.5–2. Οι λογαριασμοί LLM αυξάνονται ταχύτερα από το προϊόν, επειδή τα περιβάλλοντα επεκτείνονται και οι πράκτορες προσθέτουν βήματα.
  3. Προσδιορίστε τα επίπεδα με ειλικρίνεια. Κλάσμα που χρειάζεται ποιότητα ορίου; Κλάσμα λεπτό στο Sonnet 4.6 / GPT-5 mini; Κλάσμα λεπτό στο Llama 3.3 70B; Τυπική ανάλυση: 5% / 25% / 70%.
  4. Υπολογισμός λογαριασμού cloud στον προβλεπόμενο όγκο ανά βαθμίδα από τον παραπάνω πίνακα. Αυτός είναι ο ανταγωνιστής σας.
  5. Υπολογισμός σε τοπικό επίπεδο για ένα κουτί 4× 5090 ή 4× Pro 6000 SE στον προβλεπόμενο όγκο χρησιμοποιώντας T01.
  6. Εάν το cloud υπερβαίνει το on-prem κατά λιγότερο από 1.5×, παραμείνετε στο cloud. Οι λειτουργίες, ο χρόνος διακοπής λειτουργίας, ο κίνδυνος κεφαλαιουχικών δαπανών καταστρέφουν το μικρό κέρδος.
  7. Εάν το cloud υπερβαίνει το on-prem κατά 2× ή περισσότερο, η περίπτωση on-prem είναι πραγματική. Η κυριαρχία, η καθυστέρηση, η προσαρμογή γίνονται κρίσιμα σημεία — σχεδόν πάντα ενισχύονται από την τοπική εφαρμογή σε αυτή την κλίμακα.
  8. Εάν ρυθμίζεται ή περιορίζεται από την καθυστέρηση, παραλείψτε τα μαθηματικά. Αγοράζετε στο κατάστημα ανεξάρτητα από το μέγεθος. Μέγεθος με T01 και W07.

Η επακόλουθη μελέτη T03 λειτουργεί με sustained-vs-burst — όταν το υβριδικό έχει νόημα, πώς να διαστασιολογήσετε την αρχική τιμή με υπερχείλιση cloud. Διασταυρούμενες παραπομπές: T01 (TCO ανά GPU και tok/s), W07 (επιλογή GPU), I04 (τα ηλεκτρικά μαθηματικά στην πλευρά του τοίχου πίσω από την υπόθεση €/kWh).

Μία μόνο πρόταση που πρέπει να θυμάστε: η ερώτηση για το κόστος ανά εκατομμύριο tokens δεν έχει γενική απάντηση — έχει μια συγκεκριμένη απάντηση για το φόρτο εργασίας σας, τον όγκο εργασιών σας, το επίπεδο μοντέλου σας και την τιμή ηλεκτρικής ενέργειας της χώρας σας. Υπολογίστε τους αριθμούς πριν υπογράψετε οτιδήποτε.