Köszönjük, hogy elküldte érdeklődését! Csapatunk egyik tagja hamarosan felveszi Önnel a kapcsolatot.
Köszönjük, hogy elküldte foglalását! Csapatunk egyik tagja hamarosan felveszi Önnel a kapcsolatot.
Kurzusleírás
Az AI fenyegetési táj
- Miért más az AI biztonsága: nem determinisztikus viselkedés, átláthatatlan érvelés, a prompt mint sebezhetőségi felület.
- Támadás rendszerezése: tanítási időbeli vs következtetési időbeli vs szállítási lánc támadások
- Az MI adverszárius modellje: ki és miért támadja az AI rendszereket
OWASP Top 10 LLM alkalmazásokra vonatkozóan
- Prompt injektálás: közvetlen és közvetett támadási útvonalak
- Biztonságos kimenet kezelése és kereszt-plugin kérelemhamisítás
- Tanádat mérgezés és szállítási lánc sebezhetőségek
- Modell szolgáltatásmegtagadási támadás, érzékeny információk kiszivárogtatása, túlzott ügynökség
- Gyakorlati labor: minden OWASP kategória kihasználása egy teszt alkalmazás ellen
Prompt injektálás és jailbreak piros sapkás tesztek
- Injektálási technikák rendszerezése: közvetlen, közvetett, többszakaszos és többmodális
- Automatikus piros sapkás tesztek a Giskard, Garak és egyedi fuzzing eszközökkel
- Jailbreak klaszterezés és védelem értékelése
- Piros sapkás keretrendszer létrehozása folyamatos LLM biztonsági teszteléshez
Modellszintű támadások és védelmek
- Modellkivonás: modell súlyok és funkciók ellopása API-lekérdezések révén
- Tagszármazás ellenőrzése: megtudni, hogy az adat része volt-e a tanítási készletnek
- Adverszárius példák: perturbációk, amelyek becsapják a klasszifikátorokat és embeddingeket
- Adatmérgezés: a tanítási adatok megrongálása backdoorok induciójára vagy teljesítményromlás okozására
Bemeneti és kimeneti biztonsági vezérlések
- Bemeneti tisztítás a hagyományos webvédelemeken túl
- Kimeneti szűrés: toxicitás, PII kiszivárgás, hallucinált kódfuttatás
- Védőkeretek biztonsági infrastruktúraként: NeMo, Guardrails AI és egyedi szabályzatok
- Szerkezett kimenet enforced védelmi határként
AI szállítási lánc biztonsága
- Modell eredet: a modell hitelességének és integritásának ellenőrzése
- Függőségfelmérés ML keretrendszerekhez és modellsformátumokhoz
- Biztonságos modell kiszolgálás: sandboxing, hálózati elkülönítés és legkisebb jogosultság elv szerinti hozzáférés
- Fine-tuned és közösségi modellek szűrése rejtett kártevőkért
Az AI rendszerek működésbiztonsága
- Hozzáféréskezelés modellvégi pontokhoz, vektoros tárolókhoz és ügynök eszközökhöz
- Ellenőrzési naplózás minden modell interakció és döntés esetén
- Fenyegetettségválasztási reakció az AI-specifikus megsértésekhez: amikor maga a modell kompromittálódott
- Folyamatos biztonsági tesztelés CI/CD-ben ML folyamatokhoz
AI biztonsági program építése
- AI biztonsági érettségi modell és útvonaltérkép
- AI biztonság integrálása meglévő AppSec- és felhőbiztonsági programokba
- Gazdasági keretrendszerek és új AI-rendszer szabályozások
- Szervezeti AI biztonsági kézikönyv létrehozása és karbantartása
Követelmények
- Gyakorlat tapasztalat ML modellek vagy LLM alkalmazások éles környezetbe helyezését illetően.
- Ismeret a biztonsági fogalmakban, beleértve az autentikációt, az engedélyezést és a fenyegetések feltérképezését.
- Python készség adverszárius tesztelő gyakorlatokhoz.
Célcsoport
- Biztonsági mérnökök, akik az AI/ML fenyegetési felületek felé terjeszkednek.
- MI mérnökök, felelősek a modell biztonságáért és robusztusságáért.
- Piros sapkás tesztek végzői, akik AI rendszereket vesznek bele tesztelési körükbe.
14 Órák