„Palantir“ ir „NVIDIA“ sujungia jėgas: atviri AI modeliai uždarose, saugiose aplinkose

Birželio 29 d. ryte duomenų analizės milžinė „Palantir“ ir lustų gamintoja „NVIDIA“ paskelbė bendrą sprendimą, kuris atsako į vieną opiausių dirbtinio intelekto diegimo klausimų: kaip pasinaudoti galingais kalbos modeliais ten, kur duomenys negali palikti pastato? Atsakymas — atvirus modelius leisti uždarose, izoliuotose aplinkose, o ne svetimame debesyje.

Bendrovės sukūrė standartinę architektūrą (NVIDIA ją pavadino formule „atviri modeliai, uždaros aplinkos“), pagal kurią JAV valdžios įstaigos ir kritinės infrastruktūros operatoriai gali diegti AI taip, kad išlaikytų visišką savo duomenų ir intelektinės nuosavybės kontrolę. Anot „NVIDIA“, dalis JAV kritinę infrastruktūrą aptarnaujančių klientų šiuos modelius jau naudoja.

Kas tiksliai pristatyta

Sprendimas sujungia dvi puses. Iš „NVIDIA“ pusės — jos AI platforma ir „Nemotron“ atviro kodo modeliai. Iš „Palantir“ pusės — jau gerai žinomas produktų rinkinys: AIP (dirbtinio intelekto platforma), Ontology (organizacijos duomenų ir procesų žemėlapis), Foundry ir Apollo (diegimo bei valdymo sluoksnis).

Esmė — saugumo kontrolė, pritaikyta net slaptoms, nuo interneto atjungtoms (angl. air-gapped) aplinkoms. Architektūra apima:

• Duomenų prieigos kontrolę — kas ir prie ko gali prisiliesti;
• Saugaus perimetro užtikrinimą — modelis veikia uždarame kontūre;
• Kliento izoliaciją — vieno kliento duomenys atskirti nuo kitų;
• Duomenų perkeliamumą — be priklausomybės nuo vieno tiekėjo;
• Pilną audituojamumą — kiekvienas modelio veiksmas paliekamas pėdsakas.

Praktinį darbą bendrovės suskirstė į tris inžinerines kryptis: diegimo inžineriją (kaip „Nemotron“ modelius paleisti jautrioje aplinkoje), konteksto inžineriją (kaip optimizuoti užklausas ir darbo eigas) ir modelio inžineriją (kaip modelį pritaikyti pagal nuosavus duomenis ir konkrečią užduotį).

Du vadovai, viena žinutė

„Palantir“ vadovas Alexas Karpas sprendimą apibūdino tiesmukai: „Sujungę „Palantir“ infrastruktūrą su „NVIDIA“ dirbtiniu intelektu ir „Nemotron“ modeliais leisime JAV vyriausybei panaudoti visą didžiųjų kalbos modelių galią, pašalinus su jais susijusią saugumo riziką.“

„NVIDIA“ vadovas Jensenas Huangas pridūrė, kad partnerystė „parodo, kaip atviri modeliai gali sustiprinti Amerikos lyderystę dirbtiniame intelekte“. Žinutė nuosekli: atviri svoriai — ne saugumo silpnybė, o priešingai, sąlyga juos paleisti savo perimetre ir patiems atsakyti už tai, kas vyksta viduje.

Kas yra „suverenus AI“ ir kodėl uždaros aplinkos

Pastaruosius dvejus metus įmonės AI dažniausiai naudojo per debesį: užklausa keliauja į tiekėjo serverius, ten apdorojama, atsakymas grįžta. Patogu, bet didelei daliai organizacijų — nepriimtina. Bankas, ligoninė, energetikos operatorius ar valstybės įstaiga negali siųsti jautrių duomenų į svetimą infrastruktūrą, kurios nekontroliuoja.

Čia gimsta „suverenaus AI“ sąvoka: modeliai veikia ten, kur duomenys, o ne atvirkščiai. Būtent todėl svarbu, kad modeliai būtų atviri — turintys viešai prieinamus svorius. Uždarą, komercinį modelį galima naudoti tik per tiekėjo API; atvirą gali parsisiųsti, patalpinti savo serveryje ir paleisti net be interneto. „NVIDIA Nemotron“ būtent tokie: bendrovė juos platina atviru kodu per „Hugging Face“ ir „GitHub“.

Pernai gruodį pristatyta „Nemotron 3“ šeima turi tris dydžius: Nano (apie 30 mlrd. parametrų, iki 3 mlrd. aktyvių, milijono leksemų konteksto langas), Super (apie 100 mlrd.) ir didžiausią Ultra (apie 500 mlrd.). Modeliai sukurti agentinėms užduotims — tokioms, kur AI ne tik atsako, bet ir atlieka kelių žingsnių darbą. Lygiai tokio profilio modelių ir reikia įstaigai, norinčiai automatizuoti procesus už savo ugniasienės.

Ką tai reiškia Europai ir Lietuvai

Nors pranešimas skirtas JAV valdžiai, jo logika tiesiogiai liečia ir Europą. ES jau seniai kalba apie skaitmeninį suverenitetą, o pastarosios savaitės tik paaštrino temą — nuo atskiro europinio atviro modelio iniciatyvų iki diskusijų, kur fiziškai turi gyventi pažangiausi modeliai. Reguliuojami sektoriai (bankininkystė, sveikatos apsauga, viešasis sektorius, gynyba) Europoje varžomi BDAR, NIS2 ir griežtų duomenų laikymo reikalavimų — debesyje veikiantis svetimas modelis daugeliu atvejų tiesiog netinka.

Lietuvos kontekste tai aktualu kiekvienai organizacijai, kuri norėtų panaudoti AI, bet negali rizikuoti duomenų išėjimu į išorę: valstybės registrams, „Sodrai“ ar VMI lygio įstaigoms, gynybos ir kritinės infrastruktūros operatoriams, didesniems bankams ar klinikoms. „Palantir“ ir „NVIDIA“ modelis — ne vienintelis būdas tai daryti, bet jis parodo aiškią rinkos kryptį: pažangus AI keliasi iš svetimo debesies į kontroliuojamą, audituojamą savo aplinką.

Mažesnėms įmonėms žinutė paprastesnė. Atvirų modelių kokybė pasiekė lygį, kai juos verta svarstyti rimtai — o tai reiškia, kad „paleisti AI savo serveryje“ nebėra tik didžiųjų korporacijų prabanga. Tas pats principas, kurį „Palantir“ ir „NVIDIA“ pakuoja valdžios įstaigoms, mažesniu mastu galioja ir vidutinei Lietuvos įmonei, nenorinčiai savo komercinių paslapčių patikėti svetimam API.

Kur link

Šis sandoris — dar vienas ženklas, kad AI rinkoje vyksta poslinkis nuo klausimo „koks modelis galingiausias“ prie klausimo „kur ir kaip jį saugu paleisti“. Atviri svoriai, izoliuotos aplinkos ir auditas tampa tokia pat svarbia konkurencine ašimi kaip ir grynas modelio pajėgumas. Europai, kuri nori ir naudotis pažangiu AI, ir išlaikyti duomenų kontrolę, tai — kryptis, kurią verta stebėti atidžiai.