DI agentų saugumas ir BDAR: klausimai, kuriuos užduoti diegėjui

Saugumo klausimas DI diegimuose dažnai arba ignoruojamas („visi taip daro“), arba paralyžiuoja („nieko nesiunčiam į jokį DI“). Abu kraštutinumai brangūs.

Kur realiai keliauja duomenys?

• Apie šį straipsnį. Kaip apie DI agentų saugumą ir BDAR galvoti praktiškai: kur realiai keliauja duomenys, ko reikalauja reglamentas ir kokius klausimus užduoti diegėjui, kad vėliau nebūtų skaudu.
• Atsakomybės riba. Tai praktinės diegėjų įžvalgos, ne teisinė konsultacija - dėl specifinių situacijų kreipkitės į duomenų apsaugos specialistus, o oficiali priežiūros institucija Lietuvoje yra VDAI (vdai.lrv.lt).
• Jūsų sistemos. CRM, apskaita, e-parduotuvė - duomenys čia gyvena kaip gyvenę; agentas prie jų jungiasi su ribotomis teisėmis.
• DI tiekėjo API. Modeliui siunčiami tik apdorojimui reikalingi fragmentai (pvz., laiško tekstas), pagal verslo sąlygas su duomenų tvarkymo sutartimi (DPA).
• Agento „atmintis“. Žurnalai ir tarpiniai duomenys; gerai suprojektuota sistema jų saugo minimaliai ir apibrėžtą laiką.
• Duomenų minimizavimas. Svarbiausias principas: agentas turi matyti tik tai, ko reikia jo užduočiai. Klientų aptarnavimo agentui nereikia prieigos prie darbo užmokesčio lentelių, o sąskaitas skaitmenizuojančiam - prie susirašinėjimo su klientais.

Ko reikalauja BDAR?

• Teisinis pagrindas. Užklausų apdorojimui dažniausiai tinka sutarties vykdymas ar teisėtas interesas; rinkodarai - sutikimas. Tai turi būti apgalvota, ne „kaip nors“.
• Duomenų tvarkymo sutartys (DPA). Su kiekvienu tiekėju, kuris tvarko duomenis jūsų vardu - įskaitant DI paslaugų teikėją ir diegėją.
• Informavimas. Privatumo politika turi atspindėti realybę: kokie duomenys, kam, kokiu tikslu. Jei klientas kalbasi su robotu - jis turi tai žinoti.
• Duomenų subjektų teisės. Turite mokėti rasti, pateikti ir ištrinti konkretaus žmogaus duomenis - įskaitant agento žurnalus.
• Saugumo priemonės. Prieigų ribojimas, šifravimas, žurnalai, atsarginės kopijos - proporcingos duomenų jautrumui.
• Gera žinia. Jei jūsų svetainė ir procesai jau tvarkingi BDAR požiūriu, DI agentas - tik dar vienas tvarkytojas tame pačiame žemėlapyje, o ne naujas pasaulis.

10 klausimų diegėjui prieš pasirašant

• Siunčiami duomenys. Kokie konkrečiai duomenys bus siunčiami DI tiekėjui ir ar galima juos sumažinti?
• DI tiekėjas ir sąlygos. Koks DI tiekėjas ir pagal kokias sąlygas - ar duomenys nenaudojami modelių apmokymui, ar pasirašoma DPA?
• Regionas. Kur (kokiame regione) apdorojami ir saugomi duomenys?
• Prieigos teisės. Kokias prieigos teises agentas gauna prie mūsų sistemų - ar jos minimalios ir atšaukiamos?
• Žmogaus patvirtinimas. Kurie veiksmai vyksta automatiškai, o kurie reikalauja žmogaus patvirtinimo?
• Apsauga nuo manipuliacijų. Kaip agentas apsaugotas nuo bandymų juo manipuliuoti (pvz., per kenksmingas užklausas išgauti duomenis)?
• Žurnalai. Kokie žurnalai vedami ir kiek laiko saugomi - ar galėsime atsekti, ką agentas darė?
• Pamirškite mane. Kaip įgyvendinsime kliento „pamirškite mane“ prašymą agento duomenyse?
• Klaidų stebėjimas. Kas ir kaip stebi agento klaidas po paleidimo - ar priežiūra įtraukta?
• Kas lieka mums. Kas priklauso mums pasibaigus sutarčiai - konfigūracijos, žurnalai, žinių bazė?
• Geras ženklas. Atsakymai į šiuos klausimus greitai parodo, ar diegėjas saugumą supranta rimtai: jei atsako konkrečiai ir be „nesijaudinkite, viskas saugu“ - geras ženklas. Beje, tie patys klausimai tinka ir vertinant chatbotų sprendimus.

Praktinės saugumo taisyklės, kurias taikome patys

• Mažiausios prieigos principas. Agentas gauna tik tas teises, be kurių užduotis neįmanoma; skaitymo teisės vietoj rašymo visur, kur galima.
• Žmogaus patvirtinimas svarbiems veiksmams. Mokėjimai, sutartys, masiniai laiškai - tik su patvirtinimu. Ką agentas gali daryti pats, apibrėžta raštu.
• Atsekamumas. Kiekvienas agento veiksmas paliekamas žurnale - kas, kada, kokiu pagrindu.
• Ribos atsakymuose. Klientų aptarnavimo agentas atsako tik iš patvirtintos informacijos ir turi aiškų „nežinau - perduodu žmogui“ kelią.
• Jokių asmeninių DI paskyrų darbe. Tik verslo API su sutartimis. Darbuotojo asmeninis pokalbių langas su įmonės duomenimis - dažniausias realus nutekėjimo kelias (ką galima kelti į ChatGPT, o ko ne, ir kuo skiriasi verslo planas - atskirame straipsnyje).
• Taisyklės komandai. Jei komanda DI asistentais vis dėlto naudojasi kasdien, būtina bent susitarti dėl taisyklių - ką galima rašyti, ko niekada ir kaip nuasmeninti duomenis; šiuos įpročius aptariame kurse „Claude naudojimas darbe“.
• Švari architektūra. Saugumas yra ir mūsų pozicionavimo pagrindas ne be priežasties - apie tai, kodėl švari architektūra be dešimčių įskiepių yra saugesnė, rašome ir pagrindiniame gide.

Santrauka

1. Minimalūs duomenys - Agentas mato tik tai, ko reikia jo užduočiai.
2. Minimalios prieigos - Tik tos teisės, be kurių užduotis neįmanoma.
3. Aiškios ribos - Agentas atsako tik iš patvirtintos informacijos.
4. Žmogaus patvirtinimas - Mokėjimai, sutartys, masiniai laiškai - tik su patvirtinimu.
5. Tvarkingos sutartys - DPA su kiekvienu tiekėju, kuris tvarko duomenis jūsų vardu.

DI agentų saugumas - ne technologijos, o diegimo kokybės klausimas. BDAR to paties reikalauja iš bet kurio įrankio - DI čia ne išimtis, tik naujas tvarkytojas jūsų duomenų žemėlapyje. Planuojate diegimą ir norite, kad saugumas būtų apgalvotas nuo pirmos dienos? Aptarkime jūsų procesus - kartu su pasiūlymu gausite ir duomenų srautų planą.