AI következtetés és üzembe helyezés CloudMatrix-szel Képzés
A CloudMatrix a Huawei egységesített AI fejlesztési és üzembe helyezési platformja, amely skálázható, éles környezetben használható következtetési folyamatokat támogat.
Ez az oktató által vezetett, élő képzés (online vagy helyszíni) kezdő és középhaladó szintű AI szakembereknek szól, akik a CloudMatrix platformot szeretnék használni AI modellek üzembe helyezésére és monitorozására, CANN és MindSpore integrációval.
A képzés végére a résztvevők képesek lesznek:
- A CloudMatrix használata modellek csomagolására, üzembe helyezésére és kiszolgálására.
- Modellek konvertálása és optimalizálása Ascend chipkészletekre.
- Folyamatok beállítása valós idejű és kötegelt következtetési feladatokhoz.
- Üzembe helyezések monitorozása és teljesítmény finomhangolása éles környezetben.
A képzés formátuma
- Interaktív előadás és vita.
- Gyakorlati feladatok a CloudMatrix használatával valós üzembe helyezési forgatókönyvekben.
- Irányított gyakorlatok a konverzióra, optimalizálásra és skálázásra fókuszálva.
Képzés testreszabási lehetőségek
- Ha testreszabott képzést szeretne kérni az Ön AI infrastruktúrája vagy felhő környezete alapján, kérjük, lépjen kapcsolatba velünk a megbeszélés érdekében.
Kurzusleírás
Bevezetés a Huawei CloudMatrix-be
- A CloudMatrix ökoszisztéma és üzembe helyezési folyamata
- Támogatott modellek, formátumok és üzembe helyezési módok
- Tipikus használati esetek és támogatott chipkészletek
Modellek előkészítése üzembe helyezésre
- Modellek exportálása képzési eszközökről (MindSpore, TensorFlow, PyTorch)
- Az ATC (Ascend Tensor Compiler) használata formátum konverzióhoz
- Statikus vs dinamikus alakú modellek
Üzembe helyezés a CloudMatrix-ben
- Szolgáltatás létrehozása és modell regisztráció
- Következtetési szolgáltatások üzembe helyezése felhasználói felületen vagy parancssorból
- Útválasztás, hitelesítés és hozzáférés-vezérlés
Következtetési kérések kiszolgálása
- Kötegelt vs valós idejű következtetési folyamatok
- Adat előfeldolgozási és utófeldolgozási folyamatok
- CloudMatrix szolgáltatások hívása külső alkalmazásokból
Monitorozás és teljesítmény finomhangolás
- Üzembe helyezési naplók és kérések nyomon követése
- Erőforrás skálázás és terheléselosztás
- Késleltetés finomhangolása és átviteli sebesség optimalizálása
Integráció vállalati eszközökkel
- A CloudMatrix összekötése OBS és ModelArts-szal
- Munkafolyamatok és modell verziókezelés használata
- CI/CD modell üzembe helyezéshez és visszaállításhoz
Teljes körű következtetési folyamat
- Egy teljes képbesorolási folyamat üzembe helyezése
- Teljesítmény mérése és pontosság ellenőrzése
- Hibaelhárítási és rendszerriasztások szimulálása
Összefoglalás és következő lépések
Követelmények
- Ismeret az AI modellek képzési folyamatairól
- Tapasztalat Python alapú ML keretrendszerekben
- Alapfokú ismeret a felhő üzembe helyezés fogalmairól
Közönség
- AI üzemeltető csapatok
- Gépi tanulási mérnökök
- Felhő üzembe helyezési szakemberek, akik Huawei infrastruktúrával dolgoznak
A nyílt képzésekhez 5+ résztvevő szükséges.
AI következtetés és üzembe helyezés CloudMatrix-szel Képzés - Foglalás
AI következtetés és üzembe helyezés CloudMatrix-szel Képzés - Érdeklődés
AI következtetés és üzembe helyezés CloudMatrix-szel - Érdeklődjön a vezetői tanácsadásról!
Vélemények (1)
Lépésről lépésre haladó képzés sok gyakorlással. Olyan volt, mint egy műhely, és nagyon örülök ennek.
Ireneusz - Inter Cars S.A.
Kurzus - Intelligent Applications Fundamentals
Gépi fordítás
Közelgő kurzusok
Rokon tanfolyam
Mesterséges Intelligencia Alkalmazások Fejlesztése a Huawei Ascend és CANN segítségével
21 ÓrákA Huawei Ascend egy nagy teljesítményű mesterséges intelligencia processzorokból álló család, amelyet következtetésre és tanításra terveztek.
Ez az oktató által vezetett, élő képzés (online vagy helyszíni) középszintű mesterséges intelligencia mérnököknek és adattudósoknak szól, akik a Huawei Ascend platformját és a CANN eszközkészletét használva szeretnének neurális hálózati modelleket fejleszteni és optimalizálni.
A képzés végére a résztvevők képesek lesznek:
- Beállítani és konfigurálni a CANN fejlesztői környezetet.
- Mesterséges intelligencia alkalmazásokat fejleszteni a MindSpore és CloudMatrix munkafolyamatok segítségével.
- Teljesítményt optimalizálni az Ascend NPU-kon egyéni operátorok és tiling használatával.
- Modellek üzembe helyezése peremhálózati vagy felhő környezetekben.
A kurzus formátuma
- Interaktív előadás és megbeszélés.
- Gyakorlati alkalmazások a Huawei Ascend és CANN eszközkészletével.
- Irányított gyakorlatok a modellépítés, tanítás és üzembe helyezés fókuszálásával.
Kurzus Testreszabási Lehetőségek
- Ha testreszabott képzést szeretne kérni az Ön infrastruktúrája vagy adathalmaza alapján, kérjük, lépjen kapcsolatba velünk.
AI modellek üzembe helyezése CANN és Ascend AI processzorokkal
14 ÓrákA CANN (Compute Architecture for Neural Networks) a Huawei AI számítási vereme, amely az AI modellek üzembe helyezését és optimalizálását segíti az Ascend AI processzorokon.
Ez az oktató által vezetett, élő képzés (online vagy helyszíni) középhaladó szintű AI fejlesztőknek és mérnököknek szól, akik hatékonyan szeretnék üzembe helyezni a betanított AI modelleket a Huawei Ascend hardveren, a CANN eszközkészlet és olyan eszközök, mint a MindSpore, TensorFlow vagy PyTorch segítségével.
A képzés végére a résztvevők képesek lesznek:
- Megérteni a CANN architektúrát és annak szerepét az AI üzembe helyezési folyamatban.
- Modellek konvertálása és adaptálása népszerű keretrendszerekből Ascend-kompatibilis formátumokba.
- Eszközök használata, mint az ATC, OM modellkonverzió és MindSpore a peremhálózati és felhőalapú következtetésekhez.
- Üzembe helyezési problémák diagnosztizálása és teljesítmény optimalizálása az Ascend hardveren.
A képzés formátuma
- Interaktív előadás és bemutató.
- Gyakorlati labormunka a CANN eszközök és Ascend szimulátorok vagy eszközök használatával.
- Gyakorlati üzembe helyezési forgatókönyvek valós AI modellek alapján.
Kurzus testreszabási lehetőségek
- Egyedi képzés igényléséhez kérjük, lépjen kapcsolatba velünk.
AI Mérnöki Alapismeretek
14 ÓrákEz az oktató által vezetett, élő képzés Magyarország-ben (online vagy helyszíni) kezdő és középhaladó szintű AI mérnökök és szoftverfejlesztők számára készült, akik alapvető ismereteket szeretnének szerezni az AI mérnökség elveiről és gyakorlatáról.
A képzés végére a résztvevők képesek lesznek:
- Megérteni az AI és a gépi tanulás mögött álló alapfogalmakat és technológiákat.
- Alapvető gépi tanulási modelleket implementálni a TensorFlow és a PyTorch segítségével.
- AI technikákat alkalmazni gyakorlati problémák megoldására a szoftverfejlesztésben.
- AI projektek kezelésére és karbantartására az AI mérnökség legjobb gyakorlatai alapján.
- Felismerni az etikai következményeket és felelősségeket az AI rendszerek fejlesztése során.
GPU Programozás Biren AI Gyorsítókön
21 ÓrákA Biren AI Gyorsítók nagy teljesítményű GPU-k, amelyeket AI és HPC számítási feladatokhoz terveztek, nagy léptékű tanítási és következtetési támogatással.
Ez az oktató által vezetett, élő képzés (online vagy helyszíni) középhaladó és haladó szintű fejlesztőknek szól, akik szeretnének alkalmazásokat programozni és optimalizálni a Biren saját GPU stackjével, gyakorlati összehasonlításokkal a CUDA-alapú környezetekkel.
A képzés végére a résztvevők képesek lesznek:
- Megérteni a Biren GPU architektúráját és memória-hierarchiáját.
- Beállítani a fejlesztői környezetet és használni a Biren programozási modelljét.
- CUDA-stílusú kódokat lefordítani és optimalizálni Biren platformokra.
- Teljesítményhangolási és hibakeresési technikákat alkalmazni.
A képzés formátuma
- Interaktív előadás és vita.
- Gyakorlati feladatok a Biren SDK használatával minta GPU feladatokon.
- Irányított gyakorlatok a portolásra és teljesítményhangolásra fókuszálva.
Képzés Testreszabási Lehetőségek
- Ha testreszabott képzést szeretne kérni az Ön alkalmazási stackje vagy integrációs igényei alapján, kérjük, lépjen kapcsolatba velünk a megbeszéléshez.
Intelligens Alkalmazások Fejlesztése AI és ML segítségével
28 ÓrákEz az oktató által vezetett, élő képzés Magyarország (online vagy helyszíni) középhaladó és haladó szintű AI szakemberek és szoftverfejlesztők számára készült, akik AI és ML segítségével szeretnének intelligens alkalmazásokat fejleszteni.
A képzés végére a résztvevők képesek lesznek:
- Megérteni az AI és ML mögött álló haladó koncepciókat és technológiákat.
- Adatok elemzése és vizualizálása az AI/ML modellfejlesztés tájékoztatására.
- AI/ML modellek hatékony építése, betanítása és üzembe helyezése.
- Intelligens alkalmazások létrehozása, amelyek valós problémákat képesek megoldani.
- Az AI alkalmazások etikai következményeinek értékelése különböző iparágakban.
Bevezetés a CANN-be AI keretrendszer fejlesztők számára
7 ÓrákA CANN (Compute Architecture for Neural Networks) a Huawei AI számítási eszközkészlete, amely az AI modellek fordítására, optimalizálására és üzembe helyezésére szolgál az Ascend AI processzorokon.
Ez az oktató által vezetett, élő képzés (online vagy helyszíni) kezdő szintű AI fejlesztőknek szól, akik szeretnék megérteni, hogyan illeszkedik a CANN a modell életciklusába a képzéstől az üzembe helyezésig, és hogyan működik együtt olyan keretrendszerekkel, mint a MindSpore, a TensorFlow és a PyTorch.
A képzés végén a résztvevők képesek lesznek:
- Megérteni a CANN eszközkészlet célját és architektúráját.
- CANN és MindSpore fejlesztői környezet beállítása.
- Egyszerű AI modell konvertálása és üzembe helyezése Ascend hardveren.
- Alapvető ismeretek szerezése a jövőbeli CANN optimalizálási vagy integrációs projektekhez.
A kurzus formátuma
- Interaktív előadás és megbeszélés.
- Gyakorlati laborok egyszerű modell üzembe helyezéssel.
- Lépésről lépésre bemutatás a CANN eszközláncról és integrációs pontjairól.
Kurzus testreszabási lehetőségek
- Egyéni képzés igényléséhez kérjük, lépjen kapcsolatba velünk.
CANN az Edge AI telepítéséhez
14 ÓrákA Huawei Ascend CANN eszközkészlete hatékony AI következtetést tesz lehetővé peremhálózati eszközökön, mint például az Ascend 310. A CANN alapvető eszközöket biztosít a modellek fordításához, optimalizálásához és telepítéséhez olyan környezetekben, ahol a számítási kapacitás és a memória korlátozott.
Ez az oktató által vezetett, élő képzés (online vagy helyszíni) középszintű AI fejlesztők és integrátorok számára készült, akik az Ascend peremhálózati eszközökön szeretnék modelleket telepíteni és optimalizálni a CANN eszközlánc segítségével.
A képzés végére a résztvevők képesek lesznek:
- AI modellek előkészítése és konvertálása az Ascend 310 számára a CANN eszközök segítségével.
- Könnyű súlyú következtetési folyamatok építése a MindSpore Lite és az AscendCL segítségével.
- Modellek teljesítményének optimalizálása korlátozott számítási és memóriás környezetekben.
- AI alkalmazások telepítése és monitorozása valós peremhálózati használati esetekben.
A képzés formátuma
- Interaktív előadás és bemutató.
- Gyakorlati labormunka peremhálózati modellekkel és forgatókönyvekkel.
- Élő telepítési példák virtuális vagy fizikai peremhálózati hardveren.
Képzés testreszabási lehetőségek
- Ha testreszabott képzést szeretne kérni ehhez a kurzushoz, kérjük, lépjen kapcsolatba velünk a megbeszélés érdekében.
A Huawei AI számítási stackének megértése: a CANN-től a MindSpore-ig
14 ÓrákA Huawei AI stackje – az alacsony szintű CANN SDK-től a magas szintű MindSpore keretrendszerig – egy szorosan integrált AI fejlesztési és üzembe helyezési környezetet kínál, amely az Ascend hardverre van optimalizálva.
Ez az oktató által vezetett, élő képzés (online vagy helyszíni) kezdő és középhaladó szintű szakembereknek szól, akik szeretnék megérteni, hogyan működnek együtt a CANN és a MindSpore komponensek az AI életciklus-kezelés és infrastruktúra döntések támogatásában.
A képzés végén a résztvevők képesek lesznek:
- Megérteni a Huawei AI számítási stack rétegzett architektúráját.
- Azonosítani, hogyan támogatja a CANN a modelloptimalizálást és a hardver szintű üzembe helyezést.
- A MindSpore keretrendszer és eszközlánc értékelése az iparági alternatívákkal összehasonlítva.
- A Huawei AI stack elhelyezése vállalati vagy felhő/helyszíni környezetekben.
A képzés formátuma
- Interaktív előadás és vita.
- Élő rendszerbemutatók és esetalapú bemutatók.
- Opcionális irányított laborok a modelláramlásról a MindSpore-től a CANN-ig.
Képzés testreszabási lehetőségek
- Egyedi képzés igényléséhez kérjük, lépjen kapcsolatba velünk.
Neurális hálózatok teljesítményének optimalizálása a CANN SDK-val
14 ÓrákA CANN SDK (Compute Architecture for Neural Networks) a Huawei AI számítási alapja, amely lehetővé teszi a fejlesztők számára, hogy finomhangolják és optimalizálják a telepített neurális hálózatok teljesítményét az Ascend AI processzorokon.
Ez az oktató által vezetett, élő képzés (online vagy helyszíni) haladó szintű AI fejlesztők és rendszermérnökök számára készült, akik a CANN fejlett eszközkészletének, beleértve a Graph Engine, TIK és egyéni operátor fejlesztését, használatával szeretnék optimalizálni az inferencia teljesítményt.
A képzés végére a résztvevők képesek lesznek:
- Megérteni a CANN futási architektúráját és a teljesítmény életciklusát.
- Profilozó eszközök és Graph Engine használata a teljesítményelemzéshez és optimalizáláshoz.
- Egyéni operátorok létrehozása és optimalizálása a TIK és TVM segítségével.
- Memória szűk keresztmetszetek feloldása és a modell átviteli sebességének javítása.
A kurzus formátuma
- Interaktív előadás és vita.
- Gyakorlati laborok valós idejű profilozással és operátor hangolással.
- Optimalizálási gyakorlatok peremhelyzeti telepítési példákkal.
Kurzus testreszabási lehetőségek
- Ha testreszabott képzést szeretne kérni ehhez a kurzushoz, kérjük, lépjen kapcsolatba velünk a megbeszélés érdekében.
CANN SDK a Számítógépes Látás és NLP Folyamatokhoz
14 ÓrákA CANN SDK (Compute Architecture for Neural Networks) hatékony telepítési és optimalizálási eszközöket kínál valós idejű AI alkalmazásokhoz a számítógépes látás és NLP területén, különösen a Huawei Ascend hardvereken.
Ez az oktató által vezetett, élő képzés (online vagy helyszínen) középszintű AI szakembereknek szól, akik a CANN SDK segítségével szeretnének látási és nyelvi modelleket építeni, telepíteni és optimalizálni üzemi használati esetekhez.
A képzés végén a résztvevők képesek lesznek:
- CV és NLP modellek telepítése és optimalizálása a CANN és AscendCL segítségével.
- CANN eszközök használata modellek átalakításához és integrálásához élő folyamatokba.
- Inferencia teljesítmény optimalizálása feladatokhoz, mint az észlelés, osztályozás és érzelmek elemzése.
- Valós idejű CV/NLP folyamatok építése peremhálózati vagy felhőalapú telepítési forgatókönyvekhez.
A képzés formátuma
- Interaktív előadás és bemutató.
- Gyakorlati labor modell telepítéssel és teljesítményprofilozással.
- Élő folyamat tervezés valós CV és NLP használati esetekkel.
Kurzus Testreszabási Lehetőségek
- Ha testreszabott képzést szeretne kérni ehhez a kurzushoz, kérjük, lépjen kapcsolatba velünk a megbeszélés érdekében.
Egyedi AI Operátorok Készítése CANN TIK és TVM Segítségével
14 ÓrákA CANN TIK (Tensor Instruction Kernel) és az Apache TVM lehetővé teszi a Huawei Ascend hardverre szánt AI modell operátorok fejlett optimalizálását és testreszabását.
Ez az oktató által vezetett, élő képzés (online vagy helyszíni) haladó szintű rendszerfejlesztőknek szól, akik egyedi operátorokat szeretnének építeni, üzembe helyezni és finomhangolni AI modellekhez a CANN TIK programozási modellje és a TVM fordító integrációja segítségével.
A képzés végére a résztvevők képesek lesznek:
- Egyedi AI operátorokat írni és tesztelni a TIK DSL segítségével Ascend processzorokon.
- Egyedi operátorokat integrálni a CANN futási környezetbe és végrehajtási gráfba.
- A TVM használata operátorok ütemezésére, automatikus finomhangolására és teljesítménytesztelésére.
- Egyedi számítási minták utasításszintű teljesítményének hibakeresése és optimalizálása.
A képzés formátuma
- Interaktív előadás és bemutató.
- Gyakorlati operátorprogramozás TIK és TVM folyamatok segítségével.
- Tesztelés és finomhangolás Ascend hardveren vagy szimulátorokon.
Képzés Testreszabási Lehetőségek
- Egyedi képzés igényléséhez kérjük, lépjen kapcsolatba velünk.
CUDA alkalmazások migrálása kínai GPU architektúrákra
21 ÓrákA kínai GPU architektúrák, mint például a Huawei Ascend, a Biren és a Cambricon MLU, a helyi AI és HPC piacokra szabott CUDA alternatívákat kínálnak.
Ez az oktató által vezetett, élő képzés (online vagy helyszíni) haladó szintű GPU programozóknak és infrastruktúra szakembereknek szól, akik a meglévő CUDA alkalmazásaikat szeretnék migrálni és optimalizálni kínai hardver platformokra.
A képzés végére a résztvevők képesek lesznek:
- Értékelni a meglévő CUDA munkaterhelések kompatibilitását a kínai chip alternatívákkal.
- Migrálni CUDA kódokat a Huawei CANN, Biren SDK és Cambricon BANGPy környezetekre.
- Összehasonlítani a teljesítményt és azonosítani az optimalizálási pontokat a platformok között.
- Megbirkózni a gyakorlati kihívásokkal a keresztezett architektúrák támogatása és üzembe helyezése terén.
A képzés formátuma
- Interaktív előadás és vita.
- Gyakorlati kódfordítás és teljesítmény-összehasonlítási laborok.
- Irányított gyakorlatok, amelyek a több-GPU adaptációs stratégiákra összpontosítanak.
Képzés testreszabási lehetőségei
- Ha egyedi képzést szeretne kérni ezen a kurzuson a platformja vagy CUDA projektje alapján, kérjük, lépjen kapcsolatba velünk a megbeszélés érdekében.
Intelligent Applications Alapok
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) kezdő szintű informatikai szakembereknek szól, akik szeretnének alapos ismereteket szerezni az intelligens alkalmazásokról és azok alkalmazásáról a különböző iparágakban.
A képzés végére a résztvevők képesek lesznek:
- Ismerje meg a mesterséges intelligencia történetét, alapelveit és hatását.
- Különböző gépi tanulási algoritmusok azonosítása és alkalmazása.
- Az AI-alkalmazások adatainak hatékony kezelése és elemzése.
- Ismerje fel a mesterséges intelligencia gyakorlati alkalmazásait és korlátait a különböző szektorokban.
- Beszéljétek meg az AI-technológia etikai szempontjait és társadalmi vonatkozásait.
Intelligens Alkalmazások Haladó
21 ÓrákEz az oktató által vezetett, élő képzés Magyarország (online vagy helyszíni) középhaladó és haladó szintű adattudósok, mérnökök és AI-szakemberek számára készült, akik szeretnék elsajátítani az intelligens alkalmazások bonyolultságát és ezek felhasználásával összetett, valós problémákat megoldani.
A képzés végére a résztvevők képesek lesznek:
- Mélytanulási architektúrák implementálására és elemzésére.
- Gépi tanulás alkalmazására nagy léptékben, elosztott számítástechnikai környezetben.
- Döntéshozatali folyamatokhoz szükséges megerősítő tanulási modellek tervezésére és végrehajtására.
- Kifinomult NLP rendszerek fejlesztésére a nyelv megértéséhez.
- Számítógépes látástechnikák alkalmazására kép- és videóelemzéshez.
- Etikai szempontok figyelembevételére az AI rendszerek fejlesztése és üzembe helyezése során.
Teljesítményoptimalizálás az Ascend, Biren és Cambricon platformokon
21 ÓrákAz Ascend, Biren és Cambricon Kína vezető AI hardverplatformjai, mindegyik egyedi gyorsítási és profilozó eszközöket kínál a termelési méretű AI munkaterhelésekhez.
Ez az oktató által vezetett, élő képzés (online vagy helyszíni) haladó szintű AI infrastruktúra- és teljesítménymérnököknek szól, akik optimalizálni szeretnék a modell következtetési és betanítási munkafolyamatokat több kínai AI chip platformon.
A képzés végén a résztvevők képesek lesznek:
- Modellmérések végrehajtása az Ascend, Biren és Cambricon platformokon.
- Rendszer szűk keresztmetszetek és memória/számítási hatékonyság hiányosságok azonosítása.
- Grafikon-szintű, mag-szintű és operátor-szintű optimalizációk alkalmazása.
- Telepítési folyamatok finomhangolása az átviteli sebesség és késleltetés javítása érdekében.
A képzés formátuma
- Interaktív előadás és vita.
- Profilozó és optimalizáló eszközök gyakorlati használata minden platformon.
- Gyakorlati hangolási forgatókönyvekre összpontosított vezetett gyakorlatok.
Képzés testreszabási lehetőségek
- Ha egyedi képzést szeretne kérni ezen a kurzuson a teljesítménykörnyezet vagy modelltípus alapján, kérjük, lépjen kapcsolatba velünk a megbeszélés érdekében.