Kam odcházejí vaše data při AI asistovaném testování?
Když se do testování zapojí jazykový model, musíte vědět, jaké údaje mu zpřístupníte, kam se odesílají a jak dlouho se uchovávají. Odpověď závisí na zvoleném modelu, smlouvě s poskytovatelem i způsobu nasazení. Tento článek ukazuje, jak AI asistované testování nastavit tak, aby model dostal pouze údaje potřebné pro konkrétní úkol.
V čem je problém
Obava má reálný základ. U cloudového modelu se požadavky zpracovávají v infrastruktuře poskytovatele. Při lokálním nebo privátním nasazení může být tok údajů jiný, ale i tam je nutné prověřit protokolování, telemetrii a přístupy.
Model může při práci s prohlížečem vidět texty, názvy prvků, adresy stránek i údaje vyplněné ve formulářích. Bez přístupu k relevantní části aplikace by selektory a kroky pouze odhadoval. Rizikem proto není jen databáze. Citlivá informace může být také na obrazovce, v protokolu, chybové zprávě nebo testovacím souboru.
Jak to řešíme
Bezpečné nastavení začíná ještě před prvním vygenerovaným testem:
- Určíme povolené údaje a prostředí. Přednost má oddělené testovací prostředí s vygenerovanými nebo řádně anonymizovanými daty. Produkční údaje ani tajné informace, jako jsou API klíče a hesla, se do zadání nekopírují.
- Omezíme přístup. Model a nástroje dostanou přístup pouze ke stránkám, účtům a oprávněním potřebným pro daný scénář. Playwright MCP je pracovní nástroj, nikoli bezpečnostní hranice, proto jeho přístup nastavujeme stejně opatrně jako přístup člověka.
- Prověříme podmínky poskytovatele. Zkontrolujeme místo zpracování, uchovávání údajů, používání vstupů ke zlepšování modelu, smluvní podmínky a dostupná nastavení ochrany údajů. Tyto podmínky se liší podle služby a programu.
- Zachováme kontrolu nad výstupem. Vygenerovaný kód projde kontrolou člověka a uloží se do vašeho repozitáře. Pokud potřebujete auditní stopu, je nutné předem nastavit, které činnosti nástrojů a které typy údajů se budou zaznamenávat.
Samotná dohoda o mlčenlivosti (NDA) je užitečná, ale nenahrazuje technická opatření. Ochranu je třeba postavit na minimalizaci údajů, odděleném prostředí, řízení přístupů a ověřených podmínkách poskytovatele.
Na co si dát pozor
Anonymizace není totéž jako nahrazení jména náhodným údajem. Pokud lze člověka zpětně určit podle objednávky, adresy nebo kombinace dalších údajů, mohou data zůstat osobními údaji. U regulovaných nebo citlivých systémů je proto nutné nastavení posoudit společně s vaším bezpečnostním a právním týmem.
Co tím získáte
- Jasný přehled o tom, které údaje model zpracovává a za jakým účelem.
- Menší riziko nechtěného zpřístupnění zákaznických údajů, hesel nebo interních informací.
- Testy ve vašem repozitáři, které můžete dále spouštět a upravovat i bez AI nástroje.
Další krok
Před zapojením AI si sepište, která prostředí, účty a typy údajů smí nástroj používat. Pokud chcete nastavení prověřit na konkrétním scénáři, dalším krokem může být nezávazná konzultace.