Rīks, ar kuru izstrādātāji palaiž atvērtā svara valodas modeļus uz sava datora, tikko piesaistīja 65 miljonus dolāru. Ollama, kas komandrindā ielādē un darbina modeļus lokāli, paziņoja par B raunda finansējumu, ko vadīja Theory Ventures. Ar to kopējais piesaistītais kapitāls sasniedz 88 miljonus dolāru, bet komandā joprojām strādā tikai 14 cilvēku.
Skaitlis, kas šeit svarīgāks par naudu, ir lietotāji. Ollama mēnesī izmanto 8,9 miljoni izstrādātāju, un šis skaits kopš janvāra ir dubultojies. Katru nedēļu pievienojas gandrīz miljons jaunu instalāciju. Uzņēmums saka, ka rīks darbojas 85% Fortune 500 kompāniju, tostarp valsts pārvaldē, veselības aprūpē un finansēs — nozarēs, kur dati reti kad drīkst pamest iekšējo tīklu.
Kāpēc lokāli, nevis mākonī
Lielo modeļu API — OpenAI, Anthropic un citi — sūta pieprasījumu uz svešu serveri. Tas nozīmē, ka teksts, kods vai klienta dati aizceļo kādam citam. Ollama pieeja ir pretēja: modelis dzīvo uz tavas mašīnas, un neviens baits neaiziet ārā. Regulētās nozarēs to bieži prasa likums.
Otrs iemesls ir izmaksas. Par API tu maksā par katru žetonu, un aktīvai lietošanai rēķins aug ātri. Lokāls modelis pēc lejupielādes ir bez maksas — maksā tikai elektrība un tava dzelzs. Trešais iemesls ir kontrole: modeli var pieslēgt savam kodam bez interneta, versiju var iesaldēt, un neviens to nevar nomainīt vai izslēgt bez tavas ziņas.
Vēl pirms diviem gadiem šī izvēle prasīja upuri kvalitātē. Atvērtā svara modeļi bija manāmi vājāki par slēgtajiem. 2026. gadā šī plaisa lielākajai daļai ikdienas uzdevumu ir sarukusi, un tieši tas maina aprēķinu.
Robeža ir dzelzs. Mazākie modeļi ar dažiem miljardiem parametru iekļaujas parasta klēpjdatora atmiņā un atbild pieņemamā ātrumā. Lielākie, ar desmitiem vai simtiem miljardu parametru, prasa jaudīgu grafisko karti ar daudz videoatmiņas — vai arī tie vienkārši nepalaižas. Tieši šeit lokālā pieeja atduras pret griestiem, un tieši šo plaisu Ollama mēģina aizpildīt ar mākoni: viegli modeļi paliek uz galda, smagie aiziet uz servera pusi ar to pašu komandu.
No Docker uz atvērtajiem modeļiem
Ollama izveidoja Džefs Morgans un Maikls Čjans. Pāris jau reiz bija uztaisījis rīku, ko iemīlēja izstrādātāji: viņu Kitematic 2015. gadā nopirka Docker, un no tā izauga Docker Desktop, kuru šodien lieto vairāk nekā desmit miljoni cilvēku. Tagad viņi atkārto to pašu ideju — sarežģītu tehnoloģiju iesaiņot vienā komandā — bet ar valodas modeļiem.
Morgans skaidro, kāpēc rīks vispār radās:
Atvērtie modeļi sāka parādīties 2023. gadā, bet tos bija patiešām grūti lietot — patiešām grūti palaist.
Ollama uzdevums ir noņemt to sāpi. Viena komanda lejupielādē modeli un palaiž to; par kvantizāciju, atmiņas pārvaldību un formātiem izstrādātājam nav jādomā. GitHub tas ir pelnījis 176 000 zvaigžņu un aptuveni 17 000 dakšu, un ap projektu izveidojušās vairāk nekā 67 000 integrāciju.
Kur šeit ir bizness
Bezmaksas rīks pats par sevi naudu nepelna, tāpēc rodas jautājums, ko investori nopirka. Atbilde ir mākoņa pakalpojums. Lokāli var darbināt mazākus modeļus, bet lielākie prasa vairāk atmiņas un jaudas, nekā ir parastā klēpjdatorā. Šos smagos modeļus Ollama piedāvā palaist savā mākonī ar abonementu no 0 līdz 100 dolāriem mēnesī.
Norēķini atšķiras no ierastā. Vairums API skaita žetonus; Ollama skaita GPU laiku. Izstrādātājs maksā par to, cik ilgi grafiskais procesors strādāja, nevis par teksta apjomu. Ideja ir vienkārša — sāc bez maksas lokāli, un, kad vajag vairāk jaudas, tas pats rīks aizved uz mākoni bez koda pārrakstīšanas.
Theory Ventures partneris Tomašs Tungušs savu likmi pamato ar to, ka platforma, uz kuras darbojas AI, kļūst par vienu no vērtīgākajām pozīcijām programmatūrā, kad atvērtie modeļi panāk slēgtos. Citiem vārdiem — ja modeļi kļūst līdzvērtīgi, svarīgi ir tas, kurš tur rokā palaišanas slāni.
Ko tas nozīmē izstrādātājam
Praktiski Ollama nozīmē, ka atvērtā modeļa izmēģināšana vairs nav projekts uz nedēļu. Instalē rīku, ieraksti ollama run ar modeļa nosaukumu, un pēc dažām minūtēm tas atbild. To pašu galapunktu var pieslēgt redaktoram, savam serverim vai skriptam.
Izvēle vairs nav tikai starp diviem vai trim slēgtajiem API. Uz galda ir desmitiem atvērtā svara modeļu no dažādiem izstrādātājiem, un tos var mainīt bez piesaistes vienam pārdevējam. Uzņēmumam, kas nedrīkst sūtīt datus ārā, tas ir vienīgais veids, kā AI vispār ievest ražošanā.
Atklāts jautājums paliek naudas plūsma. Miljoni bezmaksas lietotāju ir spēcīga pozīcija, bet tikai daļa no tiem maksās par mākoni. Benchmark partneris Pīters Fentons, kurš vadīja iepriekšējo 15 miljonu raundu, uzsver retumu: prasme uztaisīt produktu, kas kļūst par ikdienas standartu izstrādātājiem, ir liela vērtība. Vai no šī standarta izdosies uztaisīt rentablu biznesu, rādīs nākamie mākoņa abonentu skaitļi.
Komentāri
Šim rakstam vēl nav komentāru. Esi pirmais, kurš dalās ar savu viedokli.