Modeļu serveri
Modeļu serveris ir dators ar GPU jūsu serveru telpā, kas darbina atvērtos modeļus visiem uzņēmuma darbiniekiem. Par tokenu skaitu nav atsevišķas maksas, un uzdevuma saturs paliek jūsu tīklā. Piedāvājam četras konfigurācijas — no viena GPU servera desmit cilvēku komandai līdz serverim ar astoņiem GPU.
Modeļu serverisNo viena līdz astoņiem GPU vienā korpusā
Vispirms par to
Harness licence un modeļu serveris ir divi dažādi pirkumi, un lielākā daļa uzņēmumu sāk tikai ar pirmo. Licence darbina AI darbinieku uz jūsu datora ar jebkuru modeli — arī ar mākoņa modeli. Modeļu serveri pērk tad, kad grib, lai pats modelis stāv ēkā. Harness licences cenas.
Kāpēc savs
Maksājot par modeļa lietojumu, izmaksas aug līdz ar darba apjomu. Rutīna, kas apstrādā divsimt rēķinu, parasti patērē vairāk resursu nekā tā, kas apstrādā vienu. Kad automatizētā darba kļūst vairāk, pieaug arī rēķins. Savam serverim nav atsevišķas maksas par katru uzdevumu.
Modelis apstrādā rutīnai vajadzīgo saturu — līgumus, algu datus, klientu informāciju vai pirmkodu. Ja modelis darbojas jūsu serverī, šis saturs paliek jūsu tīklā, un jūs kontrolējat datu plūsmu.
Mākoņa pakalpojumu sniedzēji var mainīt vai izņemt modeļus pēc sava grafika. Ja modeļa svari glabājas jūsu serverī, tos atjaunināt varat tad, kad esat pārbaudījuši jauno versiju un gatavi to ieviest.
Par mākoņa pakalpojuma abonementu maksājat tik ilgi, kamēr to lietojat. Iegādājoties savu modeļu serveri, jums pieder aprīkojums un tajā izvietotie modeļu svari; aprīkojumu vēlāk var izmantot citiem darbiem vai pārdot.
Rēķins
Šie ir aptuveni skaitļi, nevis piedāvājums. Izmaksas ir atkarīgas no tā, cik intensīvi serveri lietosiet.
25 €
uz cilvēku mēnesī
Piemērā viena mākoņa AI abonementa vieta maksā 25 € mēnesī. Desmit cilvēkiem tie ir 3000 € gadā, neskaitot iespējamu papildu maksu par API lietojumu.
10–12 tūkst. €
vienreiz, līdz desmit cilvēkiem
Studio konfigurācija ar uzstādītiem un palaistiem modeļiem. Elektrības izmaksas aptuveni lēšam 400 € gadā; faktiskā summa būs atkarīga no servera slodzes.
4–5 gadi
līdz servera izmaksas var izlīdzināties
Salīdzinot ar desmit mākoņa AI abonementa vietām un pieskaitot aptuvenās elektrības izmaksas, servera izmaksas var izlīdzināties aptuveni 4–5 gados. Ja intensīvi lietojat arī maksas API, tas var notikt agrāk.
Ja paredzamā slodze ir neliela, mākoņa modelis var izmaksāt mazāk nekā savs serveris. Piedāvājumā to pateiksim atklāti.
Četras konfigurācijas
Tālāk norādītās konfigurācijas un cenas ir aptuvenas. Precīzu piedāvājumu sagatavojam pēc sarunas par vajadzīgajiem modeļiem, lietotāju skaitu un paredzamo slodzi.
Sāciet šeit
1× RTX PRO 6000 Blackwell Max-Q — 96 GB videoatmiņas
≈ 10–12 tūkst. €
Platforma
Torņa korpuss, 16 kodolu Ryzen vai Threadripper, 128 GB RAM, 2 TB NVMe, 10 GbE
Modeļi
gpt-oss-120b MXFP4, Qwen3-32B FP8 ar pilnu kontekstu vai Llama 3.3 70B INT4 — un blakus iegulumu modelis meklēšanai.
Šai konfigurācijai pietiek ar parastu kontaktligzdu un vietu ar pietiekamu gaisa plūsmu; serveru statnis vai atsevišķa serveru telpa nav vajadzīga. Tā ir sākuma izvēle komandai ar aptuveni desmit cilvēkiem.
4× RTX PRO 6000 Max-Q — 384 GB videoatmiņas
≈ 45–60 tūkst. €
Platforma
2U/4U korpuss, EPYC ar 32 kodoliem, 512 GB RAM, 4 TB NVMe, 25 GbE
Modeļi
Qwen3-235B-A22B FP8, Llama 3.3 70B ar pilnu kontekstu vai vairāki mazāki modeļi paralēli — saruna, iegulumi un koda modelis vienlaikus.
Vēl der parastā serveru telpā: nav vajadzīgs ne datu centrs, ne īpaša dzesēšana.
8× RTX PRO 6000 Server Edition — 768 GB videoatmiņas
≈ 100–130 tūkst. €
Platforma
4U astoņu GPU platforma (Supermicro, Gigabyte), 2× EPYC, 1 TB RAM, 8 TB NVMe, 100 GbE
Modeļi
DeepSeek V3.x un R1 INT4, GLM-4.6 FP8, Qwen3-Coder-480B FP8.
Vajadzīgs serveru statnis ar atbilstošu dzesēšanu. Tā kā NVLink nav, modeļa paralēlai darbināšanai izmanto PCIe 5; inferencē tas var būt pieņemami, bet modeļa pielāgošana būs lēnāka.
8× H200 141 GB HGX — 1128 GB videoatmiņas ar NVLink
≈ 300–400 tūkst. €
Platforma
2× Xeon vai EPYC, 2 TB RAM, 400 GbE vai InfiniBand; alternatīva ir 8× B200
Modeļi
DeepSeek V3.x FP8, Kimi K2 INT4 (vai FP8 ar ierobežotu KV kešu) un pilns fine-tuning 70B klases modeļiem.
Jāizvieto datu centrā vai pie datu centra pakalpojuma sniedzēja; piegāde var aizņemt vairākus mēnešus.
Ko sedz cena
Kā tas notiek
Cik cilvēku, ko rutīnas tiešām dara un vai kaut kam jāpaliek atdalītā tīklā. Tas ir viss uzdevums — nav nekādas izpētes fāzes, par ko maksāt.
GPU izvēlamies pēc jums vajadzīgajiem modeļiem un slodzes. Piedāvājumā norādām vienu cenu, kas ietver arī montāžu. Ja pietiek ar mazāku serveri, piedāvājam to.
Serveri samontējam, uzstādām modeļus un pirms piegādes pārbaudām ar jūsu paredzēto slodzi. Mērām izvēlēto modeļu darbības ātrumu uzdevumos, kuros tos lietosiet.
Tā nonāk jūsu telpā, Harness tiek pieslēgts, un jūsu rutīnas iziet no gala līdz galam, pirms darbu saucam par padarītu.
Atpakaļ saņemat konfigurāciju un vienu skaitli. Nekādas izpētes darbnīcas, nekāda kalkulatora uz vietu un nekādas sarunas, kas jāizsēž, pirms redzat cenu.
