Testování AI Act čl. 15

AI Red Teaming

Adversariální kampaň proti nasazenému AI systému. Nezkoumá jen jednotlivé zranitelnosti, ale také to, jak se systém chová pod cíleným útokem a zda jej obrana zachytí. U vysoce rizikového systému může být report jedním z podkladů k doložení testování odolnosti podle článku 15 AI Actu.

Nezávazná konzultace Sken zdarma
Red team připravuje adversariální kampaň proti AI systému

Komu AI Red Team doporučujeme

AI Red Team dává smysl tam, kde AI systém dělá rozhodnutí nebo akce s reálným dopadem a kde selhání není jen chyba, ale riziko.

  • Provozovatelé vysoce rizikových AI systémů podle AI Actu s povinností testovat odolnost.

  • Banky a pojišťovny nasazující AI do rozhodovacích a klientských procesů.

  • Firmy s AI agenty, kteří mají přístup k systémům, penězům nebo citlivým datům.

  • Organizace, které už zvládly pentest AI a chtějí změřit odolnost celého systému v reálném scénáři.

  • Provozovatelé kritické infrastruktury s AI v provozních rozhodnutích.

  • Firmy vystavené riziku deepfake a AI podvodů na vedení.
Tým v denním bezpečnostním operačním centru sleduje živý provoz sítě

Co dostanete

  • Scénářový report pro vedení: co se podařilo, kde to skončilo a co to znamená pro provoz.

  • Technický report s každou technikou, mapou na MITRE ATLAS a časovou osou útoku.

  • Měřitelné ukazatele odolnosti: co model odmítl, co propustil a kde selhaly kontroly.

  • Doklad testování odolnosti pro požadavek AI Actu čl. 15.

  • Doporučení ke guardrailům, monitoringu a řízení oprávnění AI systému.

  • Volitelně společný workshop s vaším týmem nad nálezy.

Vzorový report penetračního testu GBH Cyber

Co AI Red Team obsahuje

Kombinujeme útoky na samotný model s útoky na jeho okolí. Pokud to dává smysl pro schválený scénář, zapojíme s GBH Defence také sociální nebo fyzickou vrstvu.

Nástroje pro fyzický průnik rozložené na stole

Adversariální útoky na model

  • Cílené kampaně prompt injection a jailbreaků napříč vstupy.

  • Pokusy o extrakci modelu a jeho trénovacích nebo kontextových dat.

  • Otrávení dat, takzvané data poisoning, v RAG a učicích smyčkách.

Zneužití agentů a integrací

  • Zneužití AI agentů k neoprávněným akcím napříč propojenými systémy.

  • Řetězení oprávnění a eskalace přes nástroje a API modelu.

  • Obcházení kontrol typu člověk ve smyčce, takzvaného human-in-the-loop.

Sociální a fyzická vrstva

AI podvod může začít u člověka nebo v okolní infrastruktuře, ne jen u modelu. Fyzickou a sociální část připravujeme s týmem GBH Defence.

  • Deepfake hlasu a videa proti vedení a schvalovacím procesům.

  • Sociální inženýrství cílené na správce a operátory AI systému.

  • Napojení na fyzické vniknutí k infrastruktuře, na které model běží.

Měření odolnosti a detekce

Hlavní hodnota není najít jednu zranitelnost, ale objektivně změřit, jak systém a obrana obstojí.

  • Kolik útoků model a guardraily odmítly a kolik propustily.

  • Zda a jak rychle si monitoring útoku všiml.

  • Kde se dal útok zastavit dřív a jak.

Red team připravuje adversariální kampaň proti AI systému

Adversariální útoky na model

Cílené kampaně prompt injection, extrakce modelu a otrávení dat v RAG a učicích smyčkách.

Nástroje pro fyzický průnik rozložené na stole

Zneužití agentů

Neoprávněné akce agentů napříč systémy, eskalace oprávnění a obcházení kontrol člověk ve smyčce.

Tým GBH Cyber při plánování útoku na skleněné tabuli

Deepfake a sociální vrstva

Deepfake hlasu a videa proti vedení a sociální inženýrství cílené na správce AI systému.

Jak AI Red Team probíhá

Red team připravuje adversariální kampaň proti AI systému

  1. Úvodní konzultace a cíle

    Stanovíme cíl kampaně, rozsah AI systémů a povolené scénáře. Definujeme, co znamená úspěch útoku.

  2. Pravidla zapojení a autorizace

    Mlčenlivost, autorizace statutárního orgánu, eskalační kontakty a hranice. Bez podepsané autorizace nezačínáme.

  3. Zpravodajská příprava

    Zmapujeme architekturu, integrace a lidi kolem AI systému a připravíme scénáře podle MITRE ATLAS.

  4. Provedení kampaně

    Vedeme adversariální útoky napříč modelem, agenty i lidmi, s řízeným tempem a snahou zůstat nedetekováni. Kritické nálezy hlásíme průběžně.

  5. Vyhodnocení a workshop

    Scénářový report pro vedení, technický report s časovou osou a měřitelné ukazatele odolnosti. Volitelně workshop s vaším týmem.

Pravidla zapojení

  • Bez podepsané autorizace statutárního orgánu nezačínáme.
  • Řízené tempo, aby útok nenarušil produkční provoz.
  • Kritické nálezy hlásíme okamžitě mimo report.
  • Citlivá data po zakázce prokazatelně skartujeme.

Naše kvalifikace

AI red team propojuje technické testování modelu a integrací se schválenými sociálními nebo fyzickými scénáři. Fyzickou část připravujeme s GBH Defence; konkrétní složení týmu a doložitelnou zkušenost uvedeme v nabídce.

MITRE ATLAS
taktiky a techniky útoků na AI systémy
OWASP LLM Top 10
katalog rizik jazykových modelů
MITRE ATT&CK
pro navazující technickou vrstvu
AI Act čl. 15
testování odolnosti vysoce rizikových systémů
MITRE ATT&CK
návaznost na širší cestu útoku
MITRE ATLAS
znalost útoků na AI systémy
GBH Defence
fyzický průnik a sociální inženýrství
AI Act čl. 15
testování odolnosti

Více v přehledu Metodiky testování.

Z čeho aktuální informace vycházejí

Právní a regulatorní informace jsme naposledy zkontrolovali 4. srpna 2026. Jde o praktický přehled, nikoli právní stanovisko.

Cena a délka realizace

AI Red Team je projektová zakázka, cena vychází z rozsahu scénáře a zapojených vrstev. Po úvodní konzultaci připravíme nabídku na míru.

Ceník služby
Varianta Rozsah
Zaměřená AI kampaň 3 až 5 týdnů podle rozsahu
Kampaň se sociální vrstvou 5 až 8 týdnů podle rozsahu
Komplexní scénář s fyzickým vniknutím individuálně podle scénáře podle rozsahu

Cena vychází z rozsahu a integrací. Po úvodní konzultaci připravíme nezávaznou nabídku na míru. Ceny jsou bez DPH.

Reálný útočník nejde po modelu. Jde po nejsnazší cestě k cíli.

Časté dotazy

Stručné odpovědi na to, na co se nás u této služby ptáte nejčastěji.

Jaký je rozdíl mezi AI Red Teamem a pentestem AI?

Pentest AI hledá zranitelnosti v modelu a jeho okolí. AI Red Team měří odolnost celého systému v reálném scénáři — jestli útok uspěje, jak daleko se dostane a jestli si toho obrana všimne. Pentest je levnější první krok, Red Team je hlubší měření.

Pokryje to požadavek AI Actu?

U systému, na který se článek 15 vztahuje, lze report použít jako jeden z podkladů k doložení testování odolnosti proti zneužití. Sám o sobě ale neprokazuje celkový soulad. Rizikovou kategorii, roli organizace a další povinnosti je potřeba posoudit zvlášť.

Proč zapojujete fyzické vniknutí do útoku na AI?

Protože cesta k AI systému může vést přes model, operátora i okolní infrastrukturu. Fyzický scénář zapojujeme jen tehdy, když odpovídá cíli, riziku a předem schváleným pravidlům testu; tuto část připravujeme s GBH Defence.

Nenaruší kampaň náš provoz?

Kampaň vedeme řízeným tempem a v hranicích dohodnutých v pravidlech zapojení. Kritické nálezy hlásíme okamžitě mimo report, abyste mohli zareagovat.

Testování

Pojďme upřesnit rozsah a cenu pro vás

Úvodní konzultace je nezávazná. Po ní dostanete přesnou fixní cenu a doporučený další krok.

Nezávazná konzultace Sken zdarma

Související služby

Tyto služby na sebe často navazují. Vyberte, co řešíte dál.

Testování

Penetrační testy AI a LLM aplikací

Levnější první krok: najít zranitelnosti AI systému před hlubším Red Teamem.

Zobrazit službu Testování

Red Teaming

Klasický Red Team napříč sítí, lidmi a budovou, když cílem není jen AI.

Zobrazit službu Audity

Audit souladu s AI Act

Zařazení systému do rizikové kategorie a doložení souladu s AI Actem.

Zobrazit službu

Ozveme se do 1 pracovního dne

Napište nám, co řešíte. Doporučíme další krok a navrhneme nezávaznou konzultaci.