Lépjen kapcsolatba velünk

Kurzusleírás

Az AI fenyegetési táj

  • Miért más az AI biztonsága: nem determinisztikus viselkedés, átláthatatlan érvelés, a prompt mint sebezhetőségi felület.
  • Támadás rendszerezése: tanítási időbeli vs következtetési időbeli vs szállítási lánc támadások
  • Az MI adverszárius modellje: ki és miért támadja az AI rendszereket

OWASP Top 10 LLM alkalmazásokra vonatkozóan

  • Prompt injektálás: közvetlen és közvetett támadási útvonalak
  • Biztonságos kimenet kezelése és kereszt-plugin kérelemhamisítás
  • Tanádat mérgezés és szállítási lánc sebezhetőségek
  • Modell szolgáltatásmegtagadási támadás, érzékeny információk kiszivárogtatása, túlzott ügynökség
  • Gyakorlati labor: minden OWASP kategória kihasználása egy teszt alkalmazás ellen

Prompt injektálás és jailbreak piros sapkás tesztek

  • Injektálási technikák rendszerezése: közvetlen, közvetett, többszakaszos és többmodális
  • Automatikus piros sapkás tesztek a Giskard, Garak és egyedi fuzzing eszközökkel
  • Jailbreak klaszterezés és védelem értékelése
  • Piros sapkás keretrendszer létrehozása folyamatos LLM biztonsági teszteléshez

Modellszintű támadások és védelmek

  • Modellkivonás: modell súlyok és funkciók ellopása API-lekérdezések révén
  • Tagszármazás ellenőrzése: megtudni, hogy az adat része volt-e a tanítási készletnek
  • Adverszárius példák: perturbációk, amelyek becsapják a klasszifikátorokat és embeddingeket
  • Adatmérgezés: a tanítási adatok megrongálása backdoorok induciójára vagy teljesítményromlás okozására

Bemeneti és kimeneti biztonsági vezérlések

  • Bemeneti tisztítás a hagyományos webvédelemeken túl
  • Kimeneti szűrés: toxicitás, PII kiszivárgás, hallucinált kódfuttatás
  • Védőkeretek biztonsági infrastruktúraként: NeMo, Guardrails AI és egyedi szabályzatok
  • Szerkezett kimenet enforced védelmi határként

AI szállítási lánc biztonsága

  • Modell eredet: a modell hitelességének és integritásának ellenőrzése
  • Függőségfelmérés ML keretrendszerekhez és modellsformátumokhoz
  • Biztonságos modell kiszolgálás: sandboxing, hálózati elkülönítés és legkisebb jogosultság elv szerinti hozzáférés
  • Fine-tuned és közösségi modellek szűrése rejtett kártevőkért

Az AI rendszerek működésbiztonsága

  • Hozzáféréskezelés modellvégi pontokhoz, vektoros tárolókhoz és ügynök eszközökhöz
  • Ellenőrzési naplózás minden modell interakció és döntés esetén
  • Fenyegetettségválasztási reakció az AI-specifikus megsértésekhez: amikor maga a modell kompromittálódott
  • Folyamatos biztonsági tesztelés CI/CD-ben ML folyamatokhoz

AI biztonsági program építése

  • AI biztonsági érettségi modell és útvonaltérkép
  • AI biztonság integrálása meglévő AppSec- és felhőbiztonsági programokba
  • Gazdasági keretrendszerek és új AI-rendszer szabályozások
  • Szervezeti AI biztonsági kézikönyv létrehozása és karbantartása

Követelmények

  • Gyakorlat tapasztalat ML modellek vagy LLM alkalmazások éles környezetbe helyezését illetően.
  • Ismeret a biztonsági fogalmakban, beleértve az autentikációt, az engedélyezést és a fenyegetések feltérképezését.
  • Python készség adverszárius tesztelő gyakorlatokhoz.

Célcsoport

  • Biztonsági mérnökök, akik az AI/ML fenyegetési felületek felé terjeszkednek.
  • MI mérnökök, felelősek a modell biztonságáért és robusztusságáért.
  • Piros sapkás tesztek végzői, akik AI rendszereket vesznek bele tesztelési körükbe.
 14 Órák

Résztvevők száma


Ár per résztvevő

Közelgő kurzusok

Rokon kategóriák