Anthropic ir izpētes sarunās ar Samsung Electronics par sava pirmā speciālā AI inference čipa izgatavošanu Samsung 2nm tehnoloģijā — to 2. jūlijā ziņoja The Information. Čipa dizains, veiktspēja un mērķa slodze vēl nav definēti; sarunas pagaidām tikai izpētes stadijā.
Bet viens solis jau noticis: jūnija sākumā Anthropic no OpenAI piesaistīja Klaivu Čenu (Clive Chan) — otro inženieri, kas strādāja pie OpenAI pielāgotā inference čipa projekta. Čens divarpus gadus bija OpenAI komandā, kas projektēja “Jalapeño” — inference akseleratoru, ko OpenAI kopā ar Broadcom atklāja 24. jūnijā, tad Čens pārgāja pie Anthropic.
Kāpēc inference čips
Nvidia GPU nav projektēti tikai AI secinājumiem — tajos ielikta loģika grafikas, zinātnisko aprēķinu un trenēšanas slodzēm. Speciāls inference čips veic tieši tās matricu darbības, kas vajadzīgas transformera modelim, un neveic neko citu. Rezultāts — zemākas izmaksas uz vaicājumu un mazāks latentums.
OpenAI, kā ziņo TechCrunch, pirmajos testos ar “Jalapeño” sasniedza aptuveni 50% izmaksu samazinājumu salīdzinājumā ar GPU inference. Šis skaitlis izskaidro, kāpēc tūlīt pēc OpenAI paziņojuma sekoja ziņas, ka Anthropic apsver to pašu ceļu.
Anthropic šobrīd darbojas uz Nvidia aparatūras, galvenokārt Amazon Web Services mākonī. Claude Sonnet 5 izmaksā $2 par miljonu ievades tokenu. Inference čips ar 50% efektivitātes pieaugumu — ja OpenAI piemērs pārceļas uz Anthropic gadījumu — nozīmētu, ka uzņēmums var samazināt API cenas vai ar tādu pašu izmaksu apkalpot divreiz vairāk vaicājumu.
Samsung SF2P 2nm
Anthropic vērtē Samsung SF2P procesu — 2nm tehnoloģiju, kas optimizēta datu centru čipiem un ieiet sērijveida ražošanā 2026. gada otrajā pusē. Samsung maijā piedalījās Anthropic $65 miljardu Series H finansēšanas kārtā kā stratēģisks infrastruktūras partneris; tāpēc ražošanas sarunas ir loģisks nākamais solis abiem.
TSMC N2 masveida ražošanā nonāca šā gada sākumā. Samsung SF2P ir otrais 2nm piedāvājums tirgū, un Anthropic kā klients demonstrētu tā iespējas — tas Samsung interesē.
TSMC joprojām ražo Nvidia, AMD, Apple un Google Tensor čipus. Ja Anthropic izvēlas Samsung, tas kļūtu par nozīmīgāko TSMC alternatīvas uzvarētāju AI čipu segmentā kopš Google izvēlējās abus ražotājus.
Ko zina, ko vēl nezina
Pagaidām nav publiski zināms, vai čips paredzēts tikai Claude modeļu apkalpošanai vai arī citiem mērķiem. Nav zināms, vai Anthropic plāno to izmantot tikai savā infrastruktūrā vai pārdot kā ārēju pakalpojumu — tāpat kā Google TPU pieejams caur Google Cloud. Nav zināms, vai Samsung sarunas beigsies ar vienošanos vai Anthropic galu galā izvēlēsies TSMC.
Čena nolīgšana no OpenAI čipa komandas ir konkrēts solis, kas liecina, ka projekts nav tikai teorētisks. OpenAI savu pirmo silicon komandu veidoja no 2023. gada — trīs gados radās Jalapeño. Anthropic šo procesu sāka vismaz divus gadus vēlāk.
Ietekme uz izstrādātājiem
Ja custom čips samazina Anthropic inference izmaksas, uzņēmums var piedāvāt zemāku API tarifu, lielāku konteksta logu vai mazāku latentumu. AI Weekly norāda, ka Google šo precedentu jau ir radījis ar TPU integrāciju: pēc tam, kad TPU kļuva par Gemini galveno inference aparatūru, Gemini API cenas laika gaitā kritās. Claude gadījumā efekts varētu būt līdzīgs.
Pirmie Anthropic custom čipi, ja vienošanās notiks, ražošanā nonāktu ne ātrāk kā 2028. gadā. Šobrīd Anthropic tērē simtiem miljonu dolāru gadā Nvidia GPU inference izmaksās — custom silicon ir vienīgā zināmā svira, ar ko šo atkarību samazināt.
Avoti
- The Information: Anthropic in Talks With Samsung to Manufacture Custom AI Chip
- TechCrunch: Anthropic is discussing a new custom chip with Samsung
- TechTimes: Anthropic in Talks With Samsung to Build Custom AI Chip, Aiming at 2nm Process
- Bloomberg: Anthropic in Talks With Samsung for Custom AI Chip
- AI Weekly: Anthropic in Early Talks With Samsung to Make Custom AI Chip
Komentāri
Šim rakstam vēl nav komentāru. Esi pirmais, kurš dalās ar savu viedokli.