Chraňte používání AI i vlastní AI aplikace v celém jejich životním cyklu.
Generativní AI se rychle stává součástí každodenní práce i firemních aplikací. Zaměstnanci pracují s veřejnými AI službami, vývojáři využívají komerční i open-source modely a AI agenti získávají přístup k podnikovým datům, systémům a nástrojům.
S tím ale přicházejí nová bezpečnostní rizika, která tradiční ochrana infrastruktury, identity nebo sítě sama nedokáže pokrýt. Škodlivé prompty, manipulace modelu, nebezpečné odpovědi nebo neoprávněné akce AI agentů vyžadují nový přístup k zabezpečení.
Cisco AI Defense poskytuje jednotnou ochranu napříč celým životním cyklem AI. Pomáhá organizacím získat přehled o používaných AI modelech a aplikacích, posoudit jejich rizika, prověřit bezpečnost AI dodavatelského řetězce a chránit komunikaci s AI v reálném čase.
Typické scénáře použití
Bezpečné povolení veřejné GenAI:
Zjistěte používané služby, definujte povolené aplikace, chraňte citlivá data a nabídněte uživatelům bezpečnou cestu místo nereálného plošného zákazu.
Výběr modelu pro firemní aplikaci:
Porovnejte kandidátní modely z hlediska relevantních safety a security testů a výsledky spojte s náklady, kvalitou, lokalitou dat a provozními požadavky.
Bezpečnost RAG aplikace:
Ověřte model i způsob práce s firemními dokumenty, oddělení tenantů, citace, přístupová práva a riziko nepřímého prompt injection z načteného obsahu.
Ochrana AI agenta a MCP serverů:
Prověřte původ a integritu MCP serverů a nástrojů před nasazením a v runtime kontrolujte prompty, odpovědi, tool calls a MCP provoz. Kritické akce podmiňte politikou, minimálními právy a případně schválením člověkem.
Continuous validation:
Testujte aplikaci před vydáním a znovu po změně modelu, systémového promptu, datových zdrojů nebo nástrojů. AI riziko se mění rychleji než klasický roční penetrační test.
Dvě různé oblasti, které je nutné chránit
Zaměstnanci používají cizí AI služby
Organizace potřebuje vědět, které GenAI aplikace se používají, zda jsou schválené a jaká data do nich uživatelé vkládají. Úplný zákaz často přesune používání do stínu. Lepší přístup kombinuje discovery, řízení přístupu, DLP a pravidla pro bezpečné prompty.
Organizace vyvíjí vlastní AI aplikace a agenty
Vývojový tým musí řídit riziko modelu, aplikační logiky, RAG dat, pluginů, MCP serverů, agentních nástrojů a runtime interakcí. Jednorázový bezpečnostní test nestačí, protože modely, datasety, prompty i útoky se mění.
Cisco AI Defense tyto oblasti propojuje, ale používá pro ně odlišné schopnosti a enforcement body.
Čtyři hlavní technické komponenty a AI Access Cisco v aktuálním datasheetu vymezuje čtyři hlavní technické komponenty AI Defense. Pokrývají životní cyklus AI od objevení až po runtime ochranu:
AI Cloud Visibility
Zajišťuje přehled o AI modelech, aplikacích a datových zdrojích napříč cloudovým prostředím. Pomáhá organizacím zjistit, kde a jak se AI využívá, odhalit neautorizované nástroje a získat kontrolu nad potenciálními bezpečnostními riziky.
AI Model and Application Validation
Prověřuje bezpečnost AI modelů a aplikací ještě před jejich nasazením. Pomocí algoritmického red teamingu identifikuje slabá místa, testuje možné scénáře zneužití a umožňuje nastavit vhodné bezpečnostní guardrails.
AI Supply Chain Risk Management
Kontroluje komponenty, ze kterých AI řešení vznikají – modelové soubory, repozitáře, knihovny nebo MCP servery. Pomáhá odhalit rizikové či kompromitované prvky ještě před jejich začleněním do vývoje nebo produkčního prostředí.
AI Runtime Protection
Chrání AI aplikace přímo během jejich provozu. V reálném čase vyhodnocuje prompty, odpovědi modelů i akce AI agentů a pomáhá blokovat nebezpečné nebo nežádoucí chování dříve, než může způsobit bezpečnostní incident.
Kdy řešení dává smysl
Nasazení dává smysl, když organizace potřebuje zjistit skutečný rozsah používaného AI, ověřit model nebo aplikaci před nasazením, nebo runtime ochranu promptů, odpovědí a agentních akcí. Rozsah nasazených komponent závisí na tom, zda jde primárně o řízení přístupu k veřejným AI službám, o zabezpečení vlastního vývoje, nebo o obojí.
Produkt nenahrazuje AI governance, secure SDLC ani lidský red teaming; doplňuje je o technické guardrails a průběžnou viditelnost.
Kdy začít jiným opatřením
Pokud je jediným problémem používání veřejných GenAI služeb zaměstnanci, může jako první krok stačit AI Access v Cisco Secure Access s řízením aplikací a dat. Organizace, která teprve zavádí AI governance, klasifikaci dat a vlastnictví aplikací, musí nejprve vytvořit tato pravidla; AI Defense je sám nenahradí. Pro klasické zranitelnosti kódu, API nebo cloudové infrastruktury zůstávají nutné nástroje aplikační a cloudové bezpečnosti.