Kurzusleírás
1. Nap
A Modern AI Agent Anatómiája
Túl a chatbotokon: agentek mint önálló érvelő és cselekvő rendszerek
Reaktív, proaktív, hibrid és célirányos agent paradigmák
Alapvető komponensek: érzékelés, tervezés, memória, eszközhasználat, cselekvés
Egyszerű és többagentes tervezési kompromisszumok
Agent Keretrendszerek és a Modern Stack
LangChain, LlamaIndex, AutoGen, CrewAI és azok kompromisszumai
Összehasonlítás klasszikus keretrendszerekkel, mint a JADE és a SPADE
Keretrendszer választás a termelési követelmények alapján
Eszközhívás, függvényhívás és strukturált kimenetek
Gyakorlat: egy Python agent felépítése eszközhívásokkal
Többagentes Rendszer Architektúrák
Központosított, decentralizált, hibrid és rétegzett MAS tervek
FIPA ACL, üzenetküldés és modern megfelelőik
Koordinációs minták: tervezés, tárgyalás, szinkronizáció
Emergens viselkedés és önszerveződés agent populációkban
Döntéshozatal és Tanulás Agentekben
Játékelmélet együttműködő és versengő agent interakciókhoz
Erősítésalapú tanulás többagentes környezetekben
Továbbadásos tanulás és tudáscsere agentek között
Konfliktusfeloldás és bizalom koordináló agentek között
2. Nap
Többmodális Alapok Agentekhez
Többmodális AI mint egységes munkafolyamat szöveg, kép, beszéd és videó között
Vezető többmodális modellek: GPT-4 Vision, Gemini, Claude, Whisper
Fúziós technikák a módusok kombinálásához egy agent érvelési ciklusában
Késleltetés, költség és pontosság kompromisszumok többmodális folyamatokban
Az Érzékelési Réteg Felépítése
Képfeldolgozás agenteknek: osztályozás, képaláírás, objektumdetektálás
Beszédfelismerés Whisper ASR és streaming transzkripcióval
Szöveg-beszéd szintézis és természetes hanginterakció
Érzékelési kimenetek összekapcsolása LLM vezérelt érveléssel és eszköz kiválasztással
Gyakorlat - Többmodális Agent Felépítése Pythonban
Az agent feladatának, kontextus ablakának és eszköz készletének meghatározása
GPT-4 Vision és Whisper API-k végponttól végpontig történő összekapcsolása
Memória, állapot és beszélgetés kezelés implementálása
Biztonságos eszközhívások hozzáadása, amelyek valós világbeli hatásokat váltanak ki
Gyakorlat - Többagentes Rendszer Szervezése
Specializált agentek összeállítása AutoGen vagy CrewAI segítségével
Szerepek, felelősségek és agentek közötti kommunikációs protokollok meghatározása
Erőforrás lefoglalás és koordináció szimulált környezetben
Agent érvelés, eszközhívások és döntések naplózása ellenőrzés és audit céljából
3. Nap
Termelési AI Agentek Fenyegetettségi Felülete
Mi teszi az agentes AI-t egyedien sebezhetővé a hagyományos szoftverekhez képest
Fenyegetettségi felület: adat, modell, prompt, eszköz, kimenet és interfész rétegek
Fenyegetettségi modellezés önálló eszközhasználatú agent alapú rendszerekhez
AI kiberbiztonsági gyakorlatok összehasonlítása a hagyományos kiberbiztonsággal
Ellenséges Támadások Gyakorlatban
Ellenséges példák és perturbációs módszerek: FGSM, PGD, DeepFool
Fehér doboz versus fekete doboz támadási forgatókönyvek
Modell inverzió és tagsági következtetéses támadások
Adatmérgezés és hátsó ajtó injekciók a képzés során
Prompt injekció, jailbreaking és eszköz visszaélés LLM alapú agentekben
Védelmi Technikák és Modell Keményítés
Ellenséges képzés és adatbővítési stratégiák
Védelmi desztilláció és egyéb robusztussági technikák
Bemenet előfeldolgozás, gradiencselés és regularizáció
Differenciális adatvédelem, zaj injekció és adatvédelmi keretek
Elosztott képzéshez szükséges federált tanulás és biztonságos aggregáció
Gyakorlat az Adversarial Robustness Toolbox-szal
Támadások szimulálása a 2. napon felépített többmodális agent ellen
Robusztusság mérése perturbáció alatt és degradáció kvantifikálása
Védelmek iteratív alkalmazása és támadási sikerességi arányok újraértékelése
Eszközhívási útvonalak és prompt injekció vektorok stressz tesztelése
4. Nap
Kockázatkezelési Keretrendszerek AI-hoz
NIST AI Kockázatkezelési Keretrendszer: irányítás, leképezés, mérés, kezelés
ISO/IEC 42001 és az új AI-specifikus szabványok
AI kockázatok leképezése meglévő vállalati GRC keretrendszerekre
AI felelősség, auditálhatóság és dokumentációs követelmények
Szabályozási Megfelelőség Agentes Rendszerekhez
EU AI Act: kockázati szintek, tiltott felhasználások és kötelezettségek magas kockázatú rendszerekhez
GDPR és CCPA következményei agent adatfolyamokra
Az Egyesült Államok Elnöki Rendellete a Biztonságos, Biztonságos és Megbízható AI-ról
Ágazatspecifikus útmutatások pénzügy, egészségügy és közszolgáltatások számára
Harmadik féltől származó kockázatok és beszállítói AI eszközhasználat
Etika, Elfogultság és Magyarázhatóság
Elfogultság észlelése és enyhítése agent érzékelés és érvelés során
Magyarázhatóság és átláthatóság mint biztonsági szempontok
Igazságosság, leáramló károk és felelős üzembe helyezés
Befogadó, auditálható agent viselkedés tervezése
Termelési Üzembehelyezés, Monitorozás és Incidenskezelés
Biztonságos üzembehelyezési minták egyszerű és többagentes rendszerekhez
Folyamatos monitorozás eltolódás, anomáliák és visszaélés esetén
Naplózás, audit nyomvonalak és forenzikai készültség agent cselekményekhez
AI biztonsági incidenskezelési forgatókönyvek és helyreállítás
Valós AI incidensek esettanulmányai és tanulságok
Záróprojekt és Összegzés
A kurzus során felépített többmodális többagentes rendszer áttekintése
Végponttól végpontig tartó folyamat áttekintése: tervezés, felépítés, biztonság, irányítás, üzembehelyezés
A rendszer önértékelése a NIST AI RMF funkciók alapján
Kilátás az agentes AI és AI biztonság új trendjeire
Összefoglalás és Következő Lépések
Követelmények
Célközönség
AI mérnökök és architektusok, akik agentes rendszereket építenek termelési használatra. Kiberbiztonsági, kockázat- és megfelelőségi szakemberek, akik felelősek az AI biztosításáért szabályozott iparágakban, például pénzügy, egészségügy és tanácsadás. Senior fejlesztők és megoldásvezetők, akik többmodális és többagentes képességeket integrálnak vállalati platformokba.
Vélemények (3)
Az oktató türelmes és nagyon segítőkész. Jól ismeri a témát.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Kurzus - Agentic AI for Business Automation: Use Cases & Integration
Gépi fordítás
Jó ismeret- és gyakorlati keverék
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurzus - Agentic AI for Enterprise Applications
Gépi fordítás
A számítástudomány elméleti és gyakorlati, valamint magasabb és alacsonyabb szintű perspektívák keverékének bemutatása
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurzus - Autonomous Decision-Making with Agentic AI
Gépi fordítás
