← Grįžti į blogą

Ar saugu, kai įsilaužimų testavime dirba DI? – mūsų procesas, duomenys ir ribos

Kai sakome klientui, kad testavime naudojame dirbtinio intelekto (DI) agentus, pirmas klausimas beveik visada tas pats: „O kur keliauja mūsų duomenys?“ Teisingas klausimas. Įsilaužimų testavimo metu matome spragas, konfigūracijas, kartais išeities kodą ir prisijungimo duomenis, kurių niekas kitas neturėtų matyti.

Šiame straipsnyje atvirai aprašome darbo specifiką: nuo pirmo pokalbio iki pakartotinio patikrinimo, kur DI agentai mums padeda, kur sprendžia tik žmogus ir kokiomis sąlygomis naudojame DI, kad jūsų duomenys netaptų niekieno mokymo medžiaga.

1. Kaip atrodo mūsų darbas nuo pradžios iki galo?

DI nepakeičia proceso, jis veikia jo viduje. Todėl pirmiausia pats procesas:

1. Konsultacija ir apimtis. Nemokamas 15 min. pokalbis, tada techninės informacijos užklausa: kokios sistemos, aplinkos, naudotojų rolės, API, integracijos. Apimtį (domenai, IP adresai, rolės, ko netestuojame) patvirtiname raštu.
2. Sutartis, NDA ir leidimas testuoti. Be pasirašyto raštiško leidimo (angl. authorization to test) nepradedame. Jame nurodomos sistemos, testavimo langai, kontaktai incidento atveju ir draudžiami veiksmai (pvz., DoS testai, jei nesuderinta).
3. Planas. Metodika pagal OWASP WSTG, testavimo laikas suderinamas taip, kad netrukdytų jūsų verslui.
4. Testavimas. Automatinis ir rankinis DAST, komerciniai įrankiai („Burp Suite Professional“, „Acunetix“, „Tenable Nessus“) ir atvirojo kodo įrankiai. Šie įrankiai veikia mūsų įrangoje, ne debesyje, o rezultatai saugomi lokaliai.
5. Radinių patikra. Kiekvieną radinį atkartojame rankiniu būdu. Ataskaitoje lieka tik tai, ką patvirtinome.
6. Ataskaita. Lietuvių arba anglų kalba: vadovybės santrauka, techninės detalės su įrodymais (PoC), rizika pagal CVSS, konkrečios rekomendacijos.
7. Pagalba taisant. Paaiškiname radinius programuotojams, jei reikia, padedame laikinai pridengti spragą WAF taisykle, kol ji ištaisoma.
8. Pakartotinis patikrinimas (retest). Patikriname, ar spragos ištaisytos, ir išduodame atnaujintą ataskaitą.
9. Duomenų ištrynimas. Ataskaitą perduodame užšifruotą, o pasibaigus projektui testavimo duomenis ir ataskaitų kopijas ištriname.

2. Kur šiame procese dirba DI agentai?

DI agentas – tai ne pokalbių langas, į kurį įklijuojame tekstą. Tai programa (mes naudojame „Claude Code“), kuri gali paleisti įrankius, skaityti jų rezultatus ir siūlyti kitą žingsnį. Būtent todėl jai reikia aiškių ribų.

Kaip užtikriname, kad agentas neišeitų už apimties ribų?

Apimtis užrakinta techniškai, ne tik sutartyje. Visas HTTP(S) testavimo srautas eina per proxy (pvz., „Burp Suite“), kuriame leidžiama tik iš anksto suderinta apimtis, todėl kiekvieną užklausą matome ir kontroliuojame. Užklausos už apimties ribų atmetamos dar prieš jas išsiunčiant, todėl agentas negali pats nukreipti darbo kitur.

Tikslas yra įrodyti prieigą, o ne pasiekti klientų duomenis. Pakanka parodyti, kad serveryje galima įvykdyti komandą arba pasiekti kitą suderintą resursą: tai jau įrodo riziką, nes tolesnis žingsnis vestų prie duomenų. Todėl patikros parenkamos taip, kad patvirtintų prieigą ir neliestų klientų duomenų ar jų turinio. Jei pati programa atsakyme parodo klientų duomenis, darbą iškart stabdome pagal iš anksto aprašytas taisykles.

Griežtą patvirtinimą taikome ir savo tyrimuose: atvirojo kodo projektų saugumo tyrime agentai dirba skirtingais vaidmenimis (vienas ieško spragų, kitas bando jas paneigti, trečias gina), o radinys laikomas patvirtintu tik tada, kai veikiantis įrodymas (PoC) suveikia izoliuotoje aplinkoje ir atlaiko oponento peržiūrą. DI greitai sugeneruoja daug hipotezių, todėl griežtas patvirtinimas yra būtinas.

3. Ar jūsų duomenys bus naudojami DI modeliams mokyti?

Ne. Klientų projektams naudojame „Claude Team“ planą ir „Claude API“. Abiem galioja „Anthropic“ komercinės sąlygos (Commercial Terms of Service). Jose aiškiai parašyta: „Anthropic may not train models on Customer Content from Services“ – „Anthropic“ negali mokyti modelių kliento turiniu, t. y. užklausomis ir atsakymais [1]. Tas pats taikoma „Claude Code“: pagal komercines sąlygas „Anthropic“ nemoko modelių kodu ar užklausomis, siunčiamais per „Claude Code“ [3].

Kodėl tai svarbu pabrėžti? Nes vartotojų planams („Claude Free“, „Pro“, „Max“) galioja kitos sąlygos: nuo 2025 m. rugsėjo vartotojas pats renkasi, ar leidžia naudoti savo pokalbius ir „Claude Code“ sesijas modeliams mokyti, o leidus duomenys saugomi iki 5 metų [2]. Todėl klientų darbui asmeninių planų nenaudojame.

Ką tai reiškia jums praktiškai:

• Jūsų radiniai, konfigūracijos ir išeities kodas netampa mokymo medžiaga.
• Duomenų saugojimas ribotas. Pagal komercines sąlygas „Claude Code“ ir API duomenys „Anthropic“ serveriuose saugomi 30 dienų [3][4]. Išimtis: jei automatinės „Anthropic“ saugumo sistemos pažymi turinį kaip pažeidžiantį naudojimo politiką, jis gali būti saugomas iki 2 metų [4].
• Atsiliepimų nesiunčiame. Komercinėse sąlygose numatyta, kad aiškiai pateiktas atsiliepimas (pvz., „patinka / nepatinka“ mygtukas) gali būti naudojamas [5]. Todėl atsiliepimų siuntimą esame išjungę ir nedalyvaujame „Development Partner Program“.
• Duomenų minimizavimas. DI agentui perduodame tik tai, ko reikia užduočiai.
• Galite atsisakyti. Jei jūsų politika neleidžia naudoti DI, projektą atliekame be DI agentų. Tokiu atveju darbas užtrunka ilgiau, todėl ir kainuoja daugiau.

4. Ar DI leidžiama naudoti įsilaužimų testavimui?

Taip, kai testuojama su sistemos savininko leidimu. „Anthropic“ naudojimo politika (Usage Policy) draudžia „ieškoti ar išnaudoti pažeidžiamumus sistemose, tinkluose ar aplikacijose be sistemos savininko leidimo“, kurti kenkėjišką kodą, DoS įrankius ar įrankius, skirtus masiškai pažeisti sistemas [6]. Nuo 2026 m. lapkričio 12 d. įsigaliojanti politikos redakcija tai įvardija aiškiai: saugumo tyrimai ir testavimas leidžiami sistemose, kurias valdote, su sistemos savininko leidimu arba pagal oficialią „bug bounty“ ar pažeidžiamumų atskleidimo programą, jei veikla atitinka įstatymus [7].

Mūsų darbas atitinka būtent šį modelį: kiekvienas projektas turi raštišką leidimą ir aiškią apimtį (1 skyrius), o agentas su sistemomis už apimties ribų nedirba (2 skyrius).

„Anthropic“ taip pat turi „Cyber Verification Program“ (CVP) – programą patvirtintiems saugumo specialistams [8][9]. Ji nepanaikina apsaugos priemonių: programos nariams tik sumažinami blokuojantys klasifikatoriai, kurie kitaip galėtų nutraukti teisėtą darbą, pvz., pažeidžiamumo išnaudojimo patikrą. Naudojimo politika galioja visa apimtimi, o „Anthropic“ gali suteiktą prieigą peržiūrėti, susiaurinti ar atšaukti [8]. Įsilaužimų testavimo įmonėms skirta prieiga leidžia testuoti tik tas sistemas, kurias testuoti turima leidimą [9].

Dalyvavimas programoje savaime nesuteikia teisės ją naudoti klientų darbui: kiekvienai paslaugai reikia atskiro „Anthropic“ patvirtinimo, o iki jo klientų aptarnauti negalima [8]. Mūsų įsilaužimų testavimo paslaugai toks patvirtinimas suteiktas. Programos dalyvių duomenis „Anthropic“ saugo piktnaudžiavimo stebėjimui [8].

5. Kodėl naudojame tik „Anthropic“ modelius?

Visiems klientų projektams naudojame tik „Anthropic“ sukurtus „Claude“ modelius. Kinijoje sukurtų ar kitų trečiųjų šalių DI modelių nenaudojame, o klientų duomenų nesiunčiame jokiam kitam DI tiekėjui.

Priežastys:

• Aiški teisinė grandinė. EEE klientams „Anthropic“ sutarties šalis yra „Anthropic Ireland, Limited“ [1], o duomenų tvarkymo sutartis (DPA) su ES standartinėmis sutarčių sąlygomis (SCC) yra komercinių sąlygų dalis [10]. Jūsų BDAR dokumentacijai aišku, kas ir kokiu pagrindu tvarko duomenis.
• Patikrinamas saugumas. „Anthropic“ turi ISO 27001:2022, ISO/IEC 42001:2023 (DI valdymo sistemų) ir SOC 2 Type II sertifikatus [11], subtiekėjų sąrašas viešas [12].
• Tiekimo grandinės rizika. NIS2 reikalauja valdyti tiekėjų ir tiekimo grandinės riziką. Kiekvienas papildomas DI tiekėjas, ypač iš jurisdikcijos, kurioje valdžios institucijos gali reikalauti prieigos prie duomenų, yra papildoma rizika, kurią turėtumėte įvertinti. Vienas tiekėjas su aiškiomis sąlygomis šią riziką sumažina ir supaprastina jūsų tiekėjų vertinimą.

Ką reikia žinoti apie duomenų vietą? Šiuo metu „Anthropic“ tiesiogiai neteikia apdorojimo tik ES regione: galimos vietos yra „us“ ir „global“ [13]. Duomenys į JAV perduodami pagal DPA ir SCC [10]. Jei jūsų politika reikalauja, kad duomenys būtų apdorojami tik ES, projektą atliekame be DI agentų.

6. Ką tai duoda jums?

• Greitis. Rutininis darbas (konfigūracija, rūšiavimas, juodraščiai) užtrunka trumpiau, todėl ataskaitą gaunate greičiau.
• Platesnė aprėptis. Per tą patį laiką patikriname daugiau galinių taškų, rolių ir parametrų derinių.
• Nuoseklumas. Kiekvienas projektas eina tuo pačiu patikrų sąrašu, ataskaitos vienodos struktūros.
• Mažesnė kaina. Mažiau valandų rutinai – mažiau valandų sąskaitoje. Kainos skelbiamos viešai įsilaužimų testavimo puslapyje.
• Kokybė nekrenta. Kiekvieną radinį tikrina žmogus, o DI sutaupytas laikas skiriamas rankiniam testavimui: verslo logikai, autorizacijai, sudėtingoms atakų grandinėms, kurių nemato nei skeneriai, nei DI.

Dažni klausimai

Ar mano duomenys bus naudojami DI modeliams mokyti?

Ne. Naudojame „Claude Team“ ir „Claude API“ pagal „Anthropic“ komercines sąlygas, kuriose nurodyta, kad „Anthropic“ negali mokyti modelių kliento turiniu [1]. Atsiliepimų su kliento duomenimis „Anthropic“ nesiunčiame.

Ar DI pats atakuoja mano sistemą?

Ne savarankiškai. Agentas paruošia ir vykdo veiksmus tik suderintoje apimtyje, o aktyvius veiksmus tvirtina testuotojas. Kiekvieną radinį rankiniu būdu patikrina ir ataskaitą tvirtina žmogus.

Kur apdorojami mano duomenys?

„Anthropic“ infrastruktūroje, šiuo metu ne tik ES (galimos vietos „us“ ir „global“) [13]. Perdavimą reglamentuoja DPA su ES standartinėmis sutarčių sąlygomis [10]. Jei reikia apdorojimo tik ES, projektą atliekame be DI agentų.

Ar galiu atsisakyti DI naudojimo savo projekte?

Taip. Projektą atliksime be DI agentų, tačiau darbas užtruks ilgiau, todėl ir kainuos daugiau.

Šaltiniai

1. Anthropic — Commercial Terms of Service (B dalis; sutarties šalis EEE)
2. Anthropic — Updates to Consumer Terms and Privacy Policy (2025-08-28)
3. Claude Code Docs — Data usage
4. Anthropic Privacy Center — How long do you store my organization's data?
5. Anthropic Privacy Center — Is my data used for model training?
6. Anthropic — Usage Policy (galioja nuo 2025-09-15)
7. Anthropic — Usage Policy (įsigalioja 2026-11-12)
8. Claude Help Center — Cyber Verification Program
9. Anthropic — Expanding the Cyber Verification Program (2026-10-06)
10. Anthropic — Data Processing Addendum
11. Anthropic Privacy Center — What certifications has Anthropic obtained?
12. Anthropic — Subprocessors
13. Claude Platform Docs — Data residency