Introduction to AI Security and Risk Management Képzés

Ez a tanfolyamoktatói, élő képzés Magyarország (online vagy helyszínen) középszintű és előkelő szintű AI-fejlesztők, architektusok és termékmenedzserek számára szolgál, akik szeretnének azonosítani és csökkenteni az LLM-meghajtott alkalmazásokkal kapcsolatos kockázatokat, beleértve a prompt-becsapás, adatszivárgás és szűretlen kimenet problémáit, beépítve biztonsági ellenőrzéseket, mint például bemeneti validáció, emberi felügyelet és kimeneti korlátok.

Ez a képzés végére a résztvevők képesek lesznek:

• Értsék meg az LLM alapú rendszerek alapvető gyengeségeit.
• Alkalmazzák a biztonságos tervezési elveket az LLM alkalmazás architektúrában.
• Használjanak eszközöket, mint Guardrails AI és LangChain validálásra, szűrésekre és biztonságra.
• Beépítsenek technikákat, mint a sandboxing, red teaming és emberi felügyeleti áttekintés gyártási szintű folyamatokba.

Azt tanítja, hogy oktatóvezetett élő képzés Magyarország (online vagy helyszínen), és célcsoportja a közép szintű gépi tanulás és kiberbiztonsági szakemberek, akik meg akarnak érteni és csökkenteni a kutatási modelljeik ellen érvényesülő fenyegetéseket, koncepcionális keretek és gyakorlati védelmi stratégiák, például robust tréning és differenciális bizalmaság alkalmazásával.

A képzés végén a résztvevők képesek lesznek:

• Gépi tanuláshoz tartozó fenyegetéseket azonosítani és osztályozni, például ellenőrző támadások, inverszió és mérgezés.
• Használni a Adversarial Robustness Toolbox (ART) eszközöket támadások szimulálására és modellek tesztelésére.
• Alkalmazni gyakorlati védelmi stratégiákat, például ellenőrző tréninget, zajbevitel és bizalmaságvédő technikákat.
• Kezelni fenyegetésekre érzékeny modellértékelési stratégiákat termelési környezetekben.