Dienvidkorejas uzņēmums Upstage 23. jūlijā publicēja Solar Open 2, atvērtu valodas modeli ar 250 miljardiem parametru, kas ar kvantizāciju darbojas uz diviem NVIDIA H200 grafikas procesoriem. Līdzīga apjoma modeļiem parasti vajag 16 B200 procesorus. Modeļa svari jau ir platformā Hugging Face ar komerciāli izmantojamu licenci.
Modelis ir veidots aģentu darbam, kur programma atkārtoti spriež un izsauc ārējos rīkus. Upstage to dēvē par Korejas suverēno pamatmodeli. Tas ir daļa no valsts atbalstītas programmas, kuras mērķis ir vietējais modelis vietējiem serveriem.
Kā modelis uzbūvēts
Solar Open 2 izmanto Mixture-of-Experts arhitektūru. No 250 miljardiem parametru katram žetonam aktivizējas tikai 15 miljardi, tāpēc rēķināšana ir ātrāka un atmiņas patēriņš mazāks nekā blīvam tāda paša izmēra modelim. Konteksta logs sniedzas līdz vienam miljonam žetonu.
Modelī ir 48 slāņi. Uzmanības daļā trīs lineārās uzmanības slāņi mijas ar vienu softmax slāni un šis raksts atkārtojas divpadsmit reizes. Lineārā uzmanība neaug kvadrātiski līdz ar teksta garumu, tāpēc garā kontekstā tā patērē mazāk atmiņas. Rotācijas pozīcijas kodējuma modelī nav vispār.
MoE daļā strādā 320 maršrutēti eksperti plus viens koplietots. Katram žetonam aktivizējas astoņi maršrutētie kopā ar koplietoto. Treniņš aizņēma aptuveni 12 triljonus žetonu un divus miljonus GPU stundu uz NVIDIA B200 procesoriem. Treniņa dati bija angļu, korejiešu un japāņu valodā.
Rezultāti aģentu testos
Aģentu uzdevumos Solar Open 2 pārspēja DeepSeek V4 Flash un Mistral Medium 3.5. IFBench testā par instrukciju izpildi un MCP-Atlas testā par rīku izsaukšanu modelis ieguva augstākos rezultātus savā kategorijā. Korejas rūpniecības uzdevumu testā Ko-GDPval tas saņēma 86,75 punktus, tuvu DeepSeek V4 Pro rezultātam, lai gan ir sešas reizes mazāks.
Aģentu testi mēra ko citu nekā parastie zināšanu testi. IFBench pārbauda, vai modelis precīzi izpilda dotās instrukcijas. MCP-Atlas mēra, cik labi tas izsauc ārējos rīkus caur Model Context Protocol. Šīs prasmes ir svarīgas, kad modelis pats veic daudzsoļu uzdevumus bez cilvēka. Skaitļi nāk no Upstage tehniskā apraksta, kas publicēts arXiv. Modeli var lejupielādēt un darbināt pats, tāpēc rezultātus var pārbaudīt neatkarīgi.
Ko dod atvērti svari
Atvērti svari nozīmē, ka ikviens var lejupielādēt modeli, palaist to savā aparatūrā un pielāgot saviem datiem. Slēgtiem modeļiem, tādiem kā GPT vai Gemini, tas nav iespējams, jo tie strādā tikai caur pakalpojuma API. Upstage Solar licence atļauj arī komerciālu lietošanu, tāpēc modeli drīkst iebūvēt maksas produktos.
Vieta atvērto modeļu sacensībā
Pēdējā gadā atvērto svaru modeļu galā dominējuši Ķīnas laidieni DeepSeek un Qwen, kuriem seko Eiropas Mistral. Solar Open 2 ir viens no retajiem lielajiem modeļiem, kas nāk no Korejas ar valsts atbalstu. Salīdzinājums ar DeepSeek nav nejaušs, jo Upstage mēra sevi tieši pret pašreizējiem līderiem.
Treniņa apjoms rāda, cik dārga ir šāda sacensība. Divi miljoni B200 GPU stundu nozīmē tūkstošiem procesoru, kas strādā nedēļām. Šo ieguldījumu modelis atsver ar zemo darbināšanas prasību, jo aktivizē tikai 15 no 250 miljardiem parametru. Tādēļ ikdienas rēķini paliek zemi arī tad, kad modeli izmanto daudz.
Divi procesori sešpadsmit vietā
Galvenais praktiskais ieguvums ir zemā aparatūras prasība. Upstage vadītājs Kim Sung-huns to formulēja tieši:
Kamēr nesen izlaistiem modeļiem vajag 16 NVIDIA B200 procesorus, Solar Open 2 darbojas ar tikai diviem.
Kvantizācija saspiež modeļa skaitļus mazākā precizitātē, tāpēc tas prasa mazāk atmiņas. Uzņēmums Nota AI jau publicējis Solar Open 2 variantu NVFP4 formātā, kas atmiņas prasību samazina vēl vairāk. Tieši šī saspiešana ļauj 250 miljardu parametru modelim ietilpt divos H200 procesoros.
Zemāka prasība nozīmē, ka modeli savā serverī var darbināt uzņēmumi bez lielas GPU fermas. Tas ir svarīgi regulētās nozarēs, kur dati nedrīkst pamest iekšējo tīklu. Divu H200 pāris mūsdienās ietilpst vienā serverī, ko var noīrēt vai nopirkt bez atsevišķa datu centra.
Korejas suverēnā AI programma
Solar Open 2 tapa Dienvidkorejas valdības atbalstītajā suverēnā AI pamatmodeļu programmā, kurā Upstage ir vadošā organizācija. Programma vēlas Korejai savu modeli, kas saprot korejiešu valodu un darbojas vietējos serveros bez atkarības no ārvalstu pakalpojumiem. Treniņš korejiešu un japāņu valodā dod modelim priekšrocību vietējā tekstā, ko globālie modeļi bieži apstrādā vājāk. Iepriekšējais Solar Open iznāca šā gada janvārī.
Uzņēmums plāno modeli pieslēgt meklētājam Daum, kuram ir vairāk nekā 10 miljoni lietotāju nedēļā, kā arī pašvaldību pakalpojumiem. Pēc Korea Times ziņām plānoti arī lietojumi finanšu, juridiskajā un veselības nozarē. Pilnu paziņojumu un licenci Upstage publicēja savā emuārā.
Komentāri
Šim rakstam vēl nav komentāru. Esi pirmais, kurš dalās ar savu viedokli.