Anthropic kaltina Alibaba didžiausia „distiliavimo“ ataka prieš Claude

Anthropic, vienos pažangiausių pasaulyje dirbtinio intelekto sistemos Claude kūrėja, JAV Senatui pranešė apie didžiausią iki šiol fiksuotą bandymą nelegaliai perimti jos modelio gebėjimus. Bendrovės teigimu, su Kinijos technologijų milžine Alibaba susiję operatoriai per kelias savaites surengė masinę „distiliavimo“ kampaniją, kurios mastas viršija visus ankstesnius žinomus tokius atvejus kartu sudėjus.

Kas įvyko

Birželio 10 d. laiške JAV Senato Bankininkystės komiteto vadovaujantiems nariams Anthropic teigia, kad su Alibaba ir jos dirbtinio intelekto laboratorija „Alibaba Qwen“ susiję operatoriai naudojo apie 25 000 netikrų paskyrų ir per jas atliko 28,8 mln. užklausų (pokalbių mainų) su Claude modeliais. Veikla truko nuo balandžio 22 d. iki birželio 5 d. Anthropic tai įvardija kaip „didžiausią žinomą distiliavimo ataką prieš bendrovę iki šiol“.

Pasak Anthropic, užklausos buvo nukreiptos ne į atsitiktinius gebėjimus, o į pačius vertingiausius komerciniu požiūriu: programinės įrangos inžineriją (programavimą), agentinį mąstymą ir ilgų, daugiapakopių užduočių vykdymą. Būtent šie gebėjimai šiandien laikomi svarbiausiu pažangiųjų AI modelių konkurenciniu pranašumu.

Kas yra „distiliavimas“

Distiliavimas — tai dirbtinio intelekto mokymo metodas, kai silpnesnis ir pigesnis modelis treniruojamas remiantis stipresnio, pažangesnio modelio atsakymais. Praktiškai tai reiškia, kad atakuotojas sugalvoja kruopščiai parinktų užklausų, surenka frontier modelio atsakymus ir tais atsakymais apmoko savo pigesnę sistemą, kad ši perimtų brangiai sukurtus gebėjimus.

Teisėtai naudojamas distiliavimas yra įprasta technika, kai kompanija tobulina savo pačios modelius. Problema kyla tada, kai tokiu būdu kopijuojami konkurento modelio rezultatai — tai prilygsta intelektinės nuosavybės vagystei, nes leidžia už menką kainą atkartoti tai, į ką pirmtakas investavo šimtus milijonų.

Mastas, viršijantis viską iki šiol

Kad būtų aiškus naujosios kampanijos dydis, Anthropic primena ankstesnius atvejus. Vasarį bendrovė atskleidė panašias kampanijas, kurias vykdė trys Kinijos AI laboratorijos — DeepSeek, Moonshot AI ir MiniMax. Visos jos kartu sudėjus naudojo apie 24 000 netikrų paskyrų ir surengė maždaug 16 mln. užklausų.

Vien tariama Alibaba operacija — 25 000 paskyrų ir 28,8 mln. užklausų — viena pranoksta visų trijų ankstesnių laboratorijų bandymus kartu paėmus. Tai rodo, kad bandymai nelegaliai perimti pažangiausius AI gebėjimus ne tik kartojasi, bet ir sparčiai didėja.

Kodėl kreiptasi į politikus

Anthropic apie kampaniją informavo ne tik Senato narius, bet ir Baltųjų rūmų pareigūnus. Bendrovė pabrėžė, kad veikla vyko jau po vyriausybės įspėjimų dėl tokios praktikos, ir paragino administraciją imtis kelių žingsnių: aiškiau apibrėžti antimonopolines taisykles, kad įmonės galėtų laisviau dalintis informacija apie distiliavimo bandymus, išlaikyti AI lustų eksporto kontrolę ir numatyti sankcijas bendrovėms, kurios griebiasi tokių metodų.

Alibaba atstovai į žiniasklaidos prašymus pakomentuoti iškart neatsakė. Svarbu pažymėti, kad kol kas tai yra Anthropic pateikti kaltinimai, o ne teismo ar nepriklausomos institucijos nustatyti faktai.

Ką tai reiškia Lietuvos ir Europos verslui

Šis atvejis konkrečiai parodo, kodėl JAV ir Kinijos AI lenktynės vis labiau virsta saugumo, o ne vien technologijų klausimu. Pažangiausių modelių gebėjimai tampa strategine verte, kurią siekiama perimti pramoniniu mastu.

Europos ir Lietuvos įmonėms iš to kyla kelios praktinės pamokos. Pirma, jei jūsų verslas remiasi savo sukurtu AI modeliu ar duomenimis, verta įvertinti, kaip apsaugomi jūsų API ir kaip stebimas neįprastas naudojimas — masinės netikros paskyros ir anomalus užklausų srautas yra aiškūs perspėjimo ženklai. Antra, renkantis AI tiekėją svarbu suprasti, iš kur kilę modelio gebėjimai ir ar tiekėjas pajėgus apsiginti nuo tokių atakų. Trečia, geopolitinė įtampa gali greitai virsti naujomis eksporto ir naudojimo taisyklėmis, kurios paveiks ir Europos rinką.

DUK

Kas yra distiliavimo ataka?

Tai bandymas pigesnį dirbtinio intelekto modelį apmokyti remiantis brangaus konkurento modelio atsakymais. Atakuotojas siunčia daug parinktų užklausų, surenka atsakymus ir jais treniruoja savo sistemą, taip perimdamas svetimus gebėjimus.

Kiek užklausų buvo atlikta?

Anthropic teigimu, per maždaug 25 000 netikrų paskyrų nuo balandžio 22 d. iki birželio 5 d. atlikta 28,8 mln. užklausų su Claude modeliais.

Ar Alibaba pripažino kaltę?

Ne. Tai kol kas tik Anthropic pateikti kaltinimai; Alibaba atstovai iškart nepakomentavo, o nepriklausomo patvirtinimo dar nėra.

Kuo šis atvejis svarbus?

Tai didžiausia žinoma tokio pobūdžio ataka prieš Anthropic, viršijanti tris ankstesnes Kinijos laboratorijų kampanijas kartu sudėjus. Jis parodo, kad pažangiausių AI gebėjimų apsauga tampa rimtu saugumo klausimu visam pasauliui.