„OpenAI“ saugumo vadovas Heidecke traukiasi — saugumo komandą įlieja į tyrimų padalinį

„OpenAI“ vėl kalbama apie saugumą — ir vėl ne dėl naujo modelio, o dėl išeinančio žmogaus. Pagal „Wired“, o vėliau ir „Bloomberg“ liepos 11 d. pateiktą informaciją, bendrovės saugumo sistemų vadovas Johannesas Heidecke palieka „OpenAI“ netrukus po vidinės pertvarkos, kuri patį saugumo padalinį įlieja į tyrimų organizaciją.

Žinia atrodo kaip eilinis personalijų judesys, bet už jos slypi principinis klausimas, aktualus kiekvienai įmonei, kuri savo produktus stato ant „OpenAI“ modelių: kiek nepriklausomo svorio saugumas turi organizacijoje, kuri lekia į priekį rinkos greičiu?

Kas įvyko

Johannesas Heidecke prie „OpenAI“ prisijungė 2021 m. kaip saugumo analitikas, o 2024 m. tapo saugumo sistemų vadovu — perėmė postą iš bendrovės pasitraukusios Lilian Weng. Viršūnėje jis išbuvo apie dvejus metus. Jo komandos atsakomybėje buvo modelių derinimas prie žmogaus tikslų (alignment), taisyklėmis grįstų atlygio sistemų kūrimas ir vadinamosios „pasirengimo“ (preparedness) rizikos vertinimai — tai yra procesai, kurie turi sulaikyti bendrovę nuo pavojingų modelių paleidimo.

Kartu su jo išėjimu keičiasi ir pati struktūra. Vyriausiasis tyrimų vadovas Markas Chenas darbuotojams pranešė, kad saugumo komandos nuo šiol atsiskaitys Miai Glaese, kuri pakeliama į naujai sukurtą tyrimų ir saugumo viceprezidentės (VP of Research and Safety) postą. Vietoje to, kad saugumas veiktų kaip atskiras ramstis, jis tampa tyrimų organizacijos dalimi. Laikinąja saugumo sistemų vadove paskirta Saachi Jain, kol bendrovė ras nuolatinį žmogų.

Kodėl tai svarbu — du galimi skaitymai

Tokią pertvarką galima perskaityti dviem visiškai priešingais būdais, ir abu yra teisėti.

Optimistinis: saugumas nustoja būti izoliuotu „stabdžių“ padaliniu ir įsilieja tiesiai į tyrimų darbo eigą. Teoriškai tai reiškia, kad apie riziką galvojama nuo pirmos modelio kūrimo dienos, o ne tik prieš pat paleidimą, kai jau vėlu ką nors keisti.

Pesimistinis: praradęs atskirą liniją iki vadovybės, saugumas praranda ir nepriklausomą galią pasakyti „ne“. Kai ta pati vadovybė atsakinga ir už greitį į rinką, ir už saugumą, interesų konfliktas tampa struktūrinis — o istorija rodo, kuris polius įprastai laimi.

„Sukamosios durys“, kurios sukasi jau ne pirmus metus

Heidecke — toli gražu ne pirmas. Per pastaruosius porą metų „OpenAI“ neteko kone visos savo saugumo tematikos vardinės viršūnės:

• Ilya Sutskeveris ir Janas Leike (2024 m. gegužė) — abu vadovavo „superalignment“ komandai, kuri turėjo išmokti valdyti už žmogų protingesnius modelius. Jiems išėjus, komanda buvo išformuota. Sutskeveris įkūrė atskirą bendrovę „Safe Superintelligence“, o Leike viešai rašė, kad, jo nuomone, kur kas didesnė bendrovės dalis turėtų būti skiriama saugumui, stebėsenai ir pasirengimui.
• Lilian Weng (2024 m. lapkritis) — būtent ją pakeitė Heidecke; vėliau ji prisijungė prie Miros Murati įkurtos „Thinking Machines Labs“.
• Andrea Vallone (2025 m. pabaiga) — dar vienas aukšto lygio saugumo tematikos išėjimas.

Kai kurie iš išėjusiųjų atvirai kaltino „OpenAI“, kad ši komercinius produktus kelia aukščiau saugos. Nesvarbu, ar sutinkame su tokia interpretacija, pats modelis kartojasi pakankamai dažnai, kad nustotų atrodyti kaip atsitiktinumas.

Ką tai reiškia Lietuvos verslui

Skamba kaip Silicio slėnio vidaus politika, bet praktinės pasekmės pasiekia ir Lietuvos įmones, kurios „OpenAI“ modelius jau įdiegę į savo produktus, klientų aptarnavimą ar vidaus procesus.

Pirma, patikimumas ir prognozuojamumas. Saugumo procesai — tai ne tik apsauga nuo „blogo“ turinio; tai ir modelių elgesio stabilumas, atsparumas manipuliacijoms (prompt injection), duomenų nutekėjimo rizikos. Kai už šiuos procesus atsakinga komanda nuolat keičia vadovus ir struktūrą, tiekėjo brandos klausimas tampa realus, o ne akademinis.

Antra, atitiktis. Europos „AI Act“ reikalauja iš didelės rizikos AI sistemų diegėjų dokumentuotos rizikos valdymo praktikos. Jei jūsų sprendimas remiasi išoriniu modeliu, jo tiekėjo saugumo valdysenos branda tampa dalimi jūsų pačių atitikties istorijos. Tiekėjo „pasirengimo“ vertinimų kokybė — jau ne tik jų reikalas.

Trečia, diversifikacijos argumentas. Kiekvienas toks epizodas stiprina praktinę logiką neprisirišti prie vieno tiekėjo. Atviro kodo modeliai, keli lygiagretūs API ar galimybė greitai persijungti tampa ne ideologiniu, o rizikos valdymo klausimu — tiksliai tokiu, kokį verslas įpratęs spręsti bet kurioje kitoje tiekimo grandinės vietoje.

Kur link

„OpenAI“ pozicija bus paprasta: saugumas ne silpninamas, o integruojamas giliau į tyrimus, ir naujoji viceprezidentės rolė tai patvirtina. Kritikai atkirs, kad integracija be atskiros galios pasakyti „ne“ dažnai reiškia tiesiog ištirpimą. Tikrasis atsakymas paaiškės ne iš pranešimų darbuotojams, o iš to, ką „OpenAI“ darys prie kito didelio modelio paleidimo — kiek laiko ir svorio realiai skirs rizikos vertinimams, kai spaudimas paskelbti bus didžiausias. Kol kas fiksuojame faktą: dar vienas saugumo vadovas išeina, o saugumas kaip atskiras ramstis „OpenAI“ struktūroje nyksta.