1. jūlijā Anthropic atjaunoja piekļuvi Claude Fable 5 visā pasaulē pēc 19 dienu dīkstāves. ASV Tirdzniecības departaments 12. jūnijā uzlika eksporta kontroli uz Fable 5 un Mythos 5 pēc tam, kad Amazon pētnieki dokumentēja prompt-framing paņēmienu, kas ļāva modelim identificēt programmatūras ievainojamības un uzrakstīt kodu, kas parādīja, kā tās var izmantot. Kontrole tika atcelta 30. jūnijā.
Rīkojums prasīja Anthropic pārtraukt piekļuvi abiem modeļiem jebkuram ārvalstu pilsonim. Uzņēmumam nebija uzticamas metodes, kā pārbaudīt katra lietotāja pilsonību reāllaikā, tāpēc Anthropic slēdza Fable 5 un Mythos 5 pilnīgi — arī ASV lietotājiem.
Jailbreak tehnika
Amazon pētnieki izmantoja specifisku prompt-framing paņēmienu, kas apgāja Fable 5 drošības klasifikatorus. Tas lika modelim analizēt kodu ievainojamību skatījumā un vienā dokumentētā gadījumā uzrakstīt kodu, kas demonstrēja, kā konkrētu ievainojamību izmantot. Šādas iespējas parasti ir ierobežotas specializētos drošības rīkos; vispārpieejams modelis tādai izvadei parasti izvairās.
Tā ir pirmā reize, kad ASV valdība ar eksporta kontroles rīkojumu lika AI uzņēmumam nekavējoties noņemt modeli no tirgus drošības apsvērumu dēļ. Iepriekšēja eksporta kontrole uz AI sektoru attiecās uz GPU mikroshēmām un HBM atmiņu, ne uz programmatūras modeļiem.
Jaunā klasifikatoru arhitektūra
Pirms atjaunošanas Anthropic apmācīja specializētu klasifikatoru, kas mērķēts uz Amazon ziņojumā apraksto prompt-framing paņēmienu. Tas bloķē konkrēto metodi vairāk nekā 99% gadījumu; CAISI pētnieki to pārbaudīja neatkarīgi. Fable 5 bloķētus pieprasījumus novirza uz Claude Opus 4.8, kas atbild uz drošu satura daļu, un lietotājs saņem paziņojumu par novirzīšanu.
Fable 5 kiberdrošības klasifikatori pieprasījumus iedala četrās kategorijās, nevis bloķē visu drošības saistīto aktivitāti. Aizliegtajā kategorijā ietilpst: ransomware, wiper un malware izstrāde, C2 infrastruktūras būvniecība un aizsardzības apieišanas tehnikas. Augsta riska kategorijā — penetrācijas testēšana, exploit izstrāde un privilēģiju eskalācija. Standarta koda analīze un atkļūdošana klasifikatoriem nepakļaujas.
Kompromiss ir augstāks viltus pozitīvu rādītājs uz rutīnas kodēšanas pieprasījumiem — daļa no tiem tagad biežāk tiek novirzīti uz Opus 4.8, liecina Digital Applied analīze.
Saistības pret valdību un nozari
“We’ve received notice that the Department of Commerce has lifted export controls on Claude Fable 5 and Mythos 5. We’ll begin restoring access tomorrow.” — Anthropic, X, 30. jūnijs
Komercijas sekretārs Hovards Latniks paziņoja, ka Anthropic vairs neprasa eksporta licenci pēc vienošanās par trim punktiem: proaktīvi atklāt un novērst drošības riskus; strādāt ar valdību pie protokoliem turpmākajiem modeļiem pirms to izlaišanas; ziņot par ļaunprātīgu izmantošanu. Anthropic arī piešķīra ASV valdībai iepriekšēju testēšanas piekļuvi robežmodeļiem pirms to publiskās izlaišanas.
Reizē Anthropic atvēra HackerOne bug bounty programmu drošības pētniekiem Fable 5 jailbreak ziņošanai. Kopā ar Amazon, Microsoft un Google uzņēmums veido nozares mēroga jailbreak smaguma novērtēšanas sistēmu — strukturālu ietvaru, kas ļautu klasificēt AI jailbreak pēc smaguma, līdzīgi kā CVSS CVE brīdinājumiem.
Mythos 5
Eksporta kontrole skāra arī Mythos 5 — Anthropic otru robežmodeli, ko Tirdzniecības departaments minēja blakus Fable 5. Tas atgriezās 1. jūlijā ar identiskiem drošības uzlabojumiem. Fable 5 un Mythos 5 1. jūlijā atgriezās ar 50% nedēļas limits ierobežojumu Pro, Max, Team un atlasītajiem Enterprise kontiem; 7. jūlijā ierobežojumi tika noņemti.
Avoti
- The Hacker News — Anthropic Restores Claude Fable 5 After U.S. Lifts Jailbreak-Linked Export Controls
- MarkTechPost — Anthropic Redeploys Claude Fable 5, Adds New Cybersecurity Classifier
- Anthropic — Fable 5 cyber safeguards and jailbreak framework
- CNBC — Anthropic says Trump admin has lifted export controls on Claude Fable 5
- TechTimes — Claude Fable 5 Returns Globally: New Classifier Blocks Jailbreak
Komentāri
Šim rakstam vēl nav komentāru. Esi pirmais, kurš dalās ar savu viedokli.