Kurzusleírás
Agens alapú rendszerek alapjai a termelésben
- Agens architektúrák: ciklusok, eszközök, memória és orchestralizációs rétegek
- Az agensek élettartama: fejlesztés, üzembe helyezés és folyamatos működés
- A termelési méretű agens kezelés kihívásai
Infrastruktúra és üzembe helyezési modellek
- Agensek üzembe helyezése kontainerizált és felhő környezetben
- Méretezési minták: vízszintes vs. függőleges méretezés, párhuzamosítás és áramláscsökkentés
- Több-agens orchestralizáció és terheléselosztás
Monitorozás és megfigyelhetőség
- Fontos metrikák: késleltetés, sikertársám, memóriahasználat és agens hívásmélység
- Agensek tevékenységének nyomon követése és hívási gráfok készítése
- Megfigyelhetőség eszköztár implementálása Prometheus, OpenTelemetry és Grafana segítségével
Naplózás, ellenőrzés és megfelelés
- Központi naplózás és strukturált eseménygyűjtés
- Megfelelés és ellenőrizhetőség az agens munkafolyamatokban
- Hibaeltávolításra alkalmas naplózási sorok és visszajátszható mechanizmusok tervezése
Teljesítményleadás és erőforrás optimalizálás
- Inferencia költségek csökkentése és agens orchestralizációs ciklusok optimalizálása
- Modell gyorsítótár és könnyűsúlyú beágyazások a gyorsabb lekérdezéshez
- Terhelés tesztelése és stresszes forgatókönyvek az AI folyamatai számára
Költségek kontrollja és szabályozás
- Az agensek költségvetési tényezőinek megértése: API hívások, memória, számítási teljesítmény és külső integrációk
- Agens szintű költségek nyomon követése és chargeback modell implementálása
- Automatizált házirendek az agensek átterhelésének megelőzéséhez és üres erőforrások fogyasztásának elkerüléséhez
CI/CD és telepítési stratégiák az agensek számára
- Az agens folyamatok integrálása a CI/CD rendszerekbe
- Tesztelés, verziókezelés és visszavonási stratégiák az iteratív agens frissítésekhez
- Fokozatos telepítések és biztonságos üzembe helyezési mechanizmusok
Hibaüzemeltetés és megbízhatósági mérnökség
- Megbízhatóság és mélyen gondolkozó elhanyaglás tervezése
- Újrapróbálkozási, időtúllépési és folyamatáram-bontó minták az agensek megbízhatóságához
- Incidenskezelési és post-mortem keretrendszerek az AI műveletek számára
Záró projekt
- Agens alapú mesterséges intelligencia rendszer létrehozása és üzembe helyezése teljes monitorozással és költségkövetéssel
- Terhelés szimulálása, teljesítmény mérés és erőforrások optimalizálása
- Végleges architektúra és monitorozási irányítópult bemutatása szakkollégakörben
Összefoglalás és következő lépések
Követelmények
- Erős ismeretek MLOps-ről és a termelési gépi tanulási rendszerekről
- Tapasztalat kontainerizált üzembe helyezésekkel (Docker/Kubernetes)
- Ismeretek felhő költségoptimalizálásáról és megfigyelhetőségi eszközökről
Célcsoport
- MLOps mérnökök
- Helytiszta rendszerüzemeltetők (SRE-k)
- Az AI infrastruktúra felett felügyeleti mérnökök
Vélemények (3)
Jó ismeret- és gyakorlati keverék
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurzus - Agentic AI for Enterprise Applications
Gépi fordítás
A számítástudomány elméleti és gyakorlati, valamint magasabb és alacsonyabb szintű perspektívák keverékének bemutatása
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurzus - Autonomous Decision-Making with Agentic AI
Gépi fordítás
gyakorló feladatok
Daniel - Facultatea S.A.I.A.P.M.
Kurzus - Agentic AI in Multi-Agent Systems
Gépi fordítás