Köszönjük, hogy elküldte érdeklődését! Csapatunk egyik tagja hamarosan felveszi Önnel a kapcsolatot.
Köszönjük, hogy elküldte foglalását! Csapatunk egyik tagja hamarosan felveszi Önnel a kapcsolatot.
Kurzusleírás
Alapok: Az ágensalapú MI fenyegetési modelljei
- Az ágensalapú fenyegetések típusai: visszaélés, jogosultság-kiterjesztés, adatszivárgás és ellátási lánc kockázatok
- Az autonóm ágensekre jellemző ellenséges profilok és támadói képességek
- Eszközök, bizalmi határok és kritikus ellenőrzési pontok feltérképezése az ágensek számára
Irányítás, szabályzat és kockázatkezelés
- Irányítási keretrendszerek ágensalapú rendszerekhez (szerepek, felelősségek, jóváhagyási kapuk)
- Szabályzattervezés: elfogadható használat, eszkalációs szabályok, adatkezelés és auditálhatóság
- Megfelelőségi szempontok és bizonyítékgyűjtés az auditokhoz
Nem emberi identitás és hitelesítés az ágensek számára
- Identitások tervezése ágensekhez: szolgáltatásfiókok, JWT-k és rövid élettartamú hitelesítő adatok
- A legkisebb jogosultság elvén alapuló hozzáférési minták és just-in-time hitelesítés
- Az identitás életciklusa, rotációja, delegálása és visszavonási stratégiái
Hozzáférés-vezérlés, titkok és adatvédelem
- Finoman hangolt hozzáférés-vezérlési modellek és képességalapú minták az ágensek számára
- Titokkezelés, titkosítás átvitel közben és nyugalmi állapotban, valamint adatminimalizálás
- Érzékeny tudásforrások és személyes adatok védelme az ágensek jogosulatlan hozzáférésétől
Megfigyelhetőség, auditálás és incidenskezelés
- Telemetria tervezése az ágensek viselkedéséhez: szándékkövetés, parancsnaplók és származás
- SIEM-integráció, riasztási küszöbértékek és kriminalisztikai felkészültség
- Runbookok és playbookok az ágensekkel kapcsolatos incidensekhez és elszigeteléshez
Ágensalapú rendszerek red-teamingje
- Red-team gyakorlatok tervezése: hatókör, elkötelezettségi szabályok és biztonságos átállás
- Ellen séges technikák: prompt-injekció, eszközvisszaélés, gondolatmenet-manipuláció és API-visszaélés
- Ellenőrzött támadások végrehajtása, valamint a kitettség és a hatás mérése
Megerősítés és kockázatcsökkentések
- Mérnöki kontrollok: válaszfojtás, képességkapuzás és homokozóba zárás
- Szabályzat- és vezénylési kontrollok: jóváhagyási folyamatok, emberi beavatkozás a hurokban és irányítási horgok
- Modell- és promptszintű védelem: bemenet-validálás, kanonizálás és kimeneti szűrők
Biztonságos ágensek telepítésének üzemeltetése
- Telepítési minták: staging, canary és fokozatos bevezetés az ágensek számára
- Változáskezelés, tesztelési folyamatok és telepítés előtti biztonsági ellenőrzések
- Keresztfunkcionális irányítás: biztonsági, jogi, termék- és üzemeltetési playbookok
Záróprojekt: Red-team / Blue-team gyakorlat
- Szimulált red-team támadás végrehajtása egy homokozóba zárt ágens környezet ellen
- Védekezés, észlelés és helyreállítás blue-teamként kontrollok és telemetria segítségével
- Eredmények, helyreállítási terv és szabályzatfrissítések bemutatása
Összefoglalás és következő lépések
Követelmények
- Szilárd háttér a biztonságtechnikában, rendszeradminisztrációban vagy felhőüzemeltetésben
- AI/ML fogalmak és a nagy nyelvi modellek (LLM) viselkedésének ismerete
- Tapasztalat az identitás- és hozzáférés-kezelés (IAM) és a biztonságos rendszertervezés terén
Célközönség
- Biztonsági mérnökök és red-teamerek
- AI-üzemeltetési és platformmérnökök
- Megfelelőségi tisztviselők és kockázatkezelők
- Ágens-telepítésekért felelős mérnöki vezetők
21 Órák
Vélemények (1)
leltár és a különböző kockázati kitettségek azonosítása a mesterséges intelligencián belül
Gary Cook - Cybersecurity and Information Technology Risk Division
Kurzus - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Gépi fordítás
