Saugus dirbtinio intelekto naudojimas įmonėje su CrowdStrike Falcon AIDR

Viena iš dažniausiai pasitaikančių prielaidų yra nuomonė, kad modelis, veikiantis organizacijos infrastruktūroje, savaime yra saugus. Praktiškai net vietinis modelis gali būti panaudotas kurti kodą, kuris prieštarauja įmonės saugumo politikai. Debesų sprendimų atveju iššūkių yra dar daugiau – duomenys gali palikti organizaciją, o kontrolė, kokia informacija patenka į modelį ir kokie atsakymai grąžinami vartotojams, tampa žymiai sudėtingesnė.

Todėl AI saugumas neturėtų apsiriboti tik modelio veikimo vieta, bet visų pirma susikoncentruoti į kontrolę, kaip jis naudojamas.

Šiuolaikiniai kalbiniai modeliai gali generuoti aukštos kokybės kodą per kelias sekundes. Tai didžiulė vertė programuotojams ir IT komandai, tačiau vienu metu potenciali rizika. Darbuotojas – sąmoningai ar nesąmoningai – gali suformuluoti užklausą, kuri sukurs skriptą, pavyzdžiui, duomenų ekfiltracijai, neautorizuotų veiksmų automatizavimui ar pasiruošiant elementams, naudojamiems atakos metu.

Jei modelis neturi kontrolės mechanizmų ir vadinamųjų AI Guardrails, atsakymas gali turėti organizacijos saugumui nepriimtinų turinių.

Case study – tas pats modelis, du visiškai skirtingi rezultatai

Atliekant Proof of Concept tipo testus buvo analizuojamas tas pats LLM modelis dviejose scenarijuose.

Scenarijus 1 – be apsauginių mechanizmų

Parašius užklausą dėl skripto kūrimo, siekiant gauti jautrius sisteminius duomenis, modelis sukūrė pilną kodą, atliekančią nurodytą užduotį.

Iš saugumo perspektyvos tai reiškia, kad vartotojas gavo paruoštą įrankį, kuris gali būti naudojamas taisykles pažeidžiančiam veiksmui.

Scenarijus 1: modelio LLM naudojimas be apsauginių mechanizmų

Scenarijus 2 – su CrowdStrike Falcon AIDR

Tas pats modelis buvo naudojamas su aktyvia politika CrowdStrike Falcon AIDR.

Rezultatas buvo visiškai kitoks – užklausa buvo analizuota pagal intenciją, o atsakymas blokuotas pagal galiojančią saugumo politiką. Guardrails mechanizmas uždraudė potencialiai pavojingų turinių generavimą dar prieš jums pasiekiant vartotoją.

Tai įrodo, kad veiksminga AI apsauga nėra modelių prieigos blokavimas, o išmani jų saugaus naudojimo taisyklių vykdymas.

Scenarijus 2: modelio LLM naudojimas su CrowdStrike AIDR

Daugelis organizacijų vis dar mano, kad kontrolę užtikrins ugniasienės, tarpiniame serveryje ar DLP sistemos. Nors jos išlieka itin svarbūs saugumo architektūros elementai, jos nėra sukurtos analizuoti užklausų, siunčiamų AI modeliams, reikšmės. Šiuolaikinės AI aplinkos reikalauja mechanizmų, kurie gali:

• analizuoti vartotojo intenciją,
• identifikuoti rizikingus užklausimus,
• blokuoti pavojingų atsakymų generavimą,
• vykdyti saugumo politiką AI modeliams,
• užtikrinti visapusį AI naudojimo matomumą organizacijoje,
• užkirsti kelią pateikti AI modeliams paslaptis, API raktus ir kitus slaptus autentifikavimo duomenis,
• nustatyti ir blokuoti į AI modelius perduodamus jautrius duomenis.

Daugelis AI įdiegimų reiškia, kad kalbinių modelių saugumas tampa visaverte kibernetinio saugumo strategijos dalimi.

Organizacijoms reikia sprendimų, kurie leistų darbuotojams panaudoti dirbtinio intelekto potencialą, tuo pačiu mažiausiai sumažinant duomenų nutekėjimo, pavojingo kodo generavimo ar vidinių saugumo politikų pažeidimo riziką.

Dinamiškas dirbtinio intelekto augimas reiškia, kad klausimas nebėra ar organizacija naudos AI, o ar ji tai darys saugiai ir kontroliuojamai.

Tokie sprendimai kaip CrowdStrike Falcon AIDR įrodo, kad galima suderinti aukštą vartotojų produktyvumą ir veiksmingą organizacijos apsaugą.