Google 14. augustā atvēra HEIR: kompilatoru, kas paņem jau apmācītu AI modeli un pārtaisa to par programmu, kura rēķina ar šifrētiem datiem. Serveris saņem šifrogrammu, izpilda modeli un atdod šifrētu atbildi. Atšifrēšanas atslēga nekad neaiziet no lietotāja ierīces, tāpēc serveris neredz ne ievaddatus, ne rezultātu.
Paziņojumu Google drošības blogā parakstījis Džeremijs Kuns, HEIR komandas inženieris. Līdzi nāk četras demonstrācijas: satura ieteikumu modelis, kredītkaršu krāpniecību detektors, tīkla uzbrukumu atpazinējs un balss komandu klausītājs. Visas nomērītas uz viena procesora pavediena, bez atsevišķiem paātrinātājiem.
Kāpēc šifrētai inferencei vajadzīgs kompilators
Homomorfā šifrēšana ļauj saskaitīt un sareizināt skaitļus, neatverot šifru. No tā izriet visa pārējā sarežģītība. Šifrogrammā ir troksnis, kas ar katru reizinājumu aug. Pēc noteikta darbību skaita rezultāts kļūst nelasāms, ja vien starplaikā nav veikta dārgā bootstrapping operācija. Salīdzināšanas nav vispār, tāpēc ReLU un citas aktivācijas jāaizstāj ar polinomu tuvinājumiem. Viena šifrogramma satur tūkstošiem skaitļu vienlaikus, tāpēc ātrumu izšķir tas, kā dati sakārtoti pa slotiem un cik reižu tie jāpagriež. Izkārtojuma izvēlei HEIR ir atsevišķa caurlaižu grupa, jo tā nosaka, cik daudz rotāciju vispār būs jāizpilda.
Cilvēks to var sarēķināt ar roku. Google apraksta, ko tas maksā: lai esošu programmu efektīvi pārliktu uz homomorfo šifrēšanu, vajadzīga kriptogrāfu komanda. HEIR mērķis ir šo darbu nolikt kompilatorā, kur trokšņa budžets, parametru izvēle un datu izkārtojums ir optimizācijas caurlaides, nevis manuāls uzdevums.
Homomorfās šifrēšanas izmaksas strauji krītas. (Google drošības blogs, 14.08.2026.)
Ceļš no PyTorch līdz šifrogrammai
HEIR ir uzbūvēts uz MLIR, tā paša LLVM ietvara, uz kura balstās daudzi mašīnmācīšanās kompilatori. Modeļi no PyTorch, TensorFlow un ONNX ienāk caur torch-mlir, onnx-mlir un StableHLO. Visi trīs ceļi saplūst vienā ieejas līmenī ar linalg operācijām. Izstrādātājs atzīmē, kuri ievaddati ir slepeni, uzdod vērtību robežas un izvēlas šifrēšanas shēmu, pārējo izkārto caurlaižu virkne: modeļa pārveidojumi, aritmetizācija, vektorizācija, izkārtojums, trokšņa pārvaldība un parametru izvēle.
Projekta rakstā uzskaitītas 88 pašu caurlaides, kurām klāt nāk 237 iemantotās MLIR caurlaides. Repozitorijā lib/Dialect mapē ir 30 dialekti. Daļa apraksta šifrēšanas shēmas (BGV, CKKS, CGGI, LWE), daļa ir izejas punkti uz bibliotēkām (OpenFHE, Lattigo, tfhe-rs, Jaxite). Vēl viena daļa ir pētniecības darbi, ko akadēmiskās grupas ieliek iekšā pašas: Orion, Rotom, Cheddar, Poulpy. Kriptogrāfs, kurš izdomājis jaunu optimizāciju, to var pierakstīt kā caurlaidi un salīdzināt ar pārējām uz vienas infrastruktūras. Google to sauc par pētniecības platformu un skaita četras recenzētas publikācijas, kas uz HEIR uzbūvētas līdz šim.
Izeja ir divējāda. Vienā gadījumā kompilators ģenerē kodu pret gatavu FHE bibliotēku, otrā izlaiž zemāka līmeņa IR ar polinomu un moduļu aritmētiku, ko var vest tālāk uz aparatūru. Repozitorijā līdzās MLIR un C++ kodam ir arī Verilog.
Četras demonstrācijas
- Dziļās mācīšanās ieteikumu modelis (DLRM), kas satura ieteikumus izrēķina, neredzot lietotāja pazīmes. Kopdarbs ar Belfort Labs, LG un Ņujorkas Universitāti.
- Kredītkaršu krāpniecības detektors, ko Google kompilēja kopā ar Niobium un hardshell.ai.
- Kitsune anomāliju atpazīšanas sistēma tīkla plūsmai. Pakalpojuma sniedzējs redz brīdinājumu par novirzi, bet paku saturu ne.
- Atslēgvārda detektors, kas ļauj balss aģentam gaidīt komandu, neizpaužot ierakstu. Kopdarbs ar Belfort Labs.
Pirmkods visiem četriem piemēriem ir projekta repozitorijā. Aparatūras pusē Google sadarbojas ar četriem paātrinātāju izstrādātājiem: Belfort, Niobium, Cornami un Optalysys.
Skaitļi, kuru paziņojumā nav
Bloga ierakstā nogaides laiki ir attēlos pie katras demonstrācijas, bet tekstā neviena sekunde nav nosaukta. Google raksta tikai to, ka mērījumi veikti uz viena procesora pavediena. Paātrinātāju rezultātus tas sola parādīt vēlāk. Tas ir godīgs formulējums, tomēr tieši šie skaitļi izšķir, vai šifrētā inference der ražošanai. Homomorfai šifrēšanai ir izmaksu uzcenojums, ko Google pats sauc par netriviālu.
Arī projekta zinātniskais raksts, kas publicēts pērnā gada augustā, ir par arhitektūru. Tajā ir dialektu shēmas, AES-128 transšifrēšanas piemērs un matricas reizināšanas caurlaides, bet nav sadaļas ar etaloniem pret roku rakstītām implementācijām. Salīdzinājumu ar konkurējošiem FHE kompilatoriem tur meklēt nav vērts.
Kods un kopiena
Repozitorijs google/heir ir atvērts kopš 2023. gada aprīļa ar Apache 2.0 licenci. Tajā ir 817 zvaigznes, 155 atzarojumi un 366 atvērtas problēmas. Lielākā koda daļa ir MLIR (aptuveni 6 MB) un C++ (aptuveni 5,1 MB), klāt Python, Go, Rust un jau minētais Verilog. Rakstam ir vienpadsmit autori no Google un universitātēm.
Google uzskaita sadarbību ar Džordžijas Tehnoloģiju institūtu, Kārnegija Melona universitāti, UC Santa Barbara, Ilinoisas Tehnoloģiju institūtu, Pērdjū, Edinburgas universitāti un Cinhua universitāti. Ideju par vienotu FHE kompilatoru Google pieteica 2023. gadā, kad publicēja savu pirmo šīs jomas rīku.
Pēdējās izmaiņas repozitorijā ieliktas 15. augusta naktī, dienu pēc paziņojuma.
Komentāri
Šim rakstam vēl nav komentāru. Esi pirmais, kurš dalās ar savu viedokli.