AI Inferencia és Telepítés a CloudMatrix-on Képzés
A Huawei CloudMatrix egységes AI-fejlesztési és telepítési platform, amely skalálható, termelési minőségű inferenciapipelinék támogatására készült.
Ez az oktatóvezetett, élő (online vagy helyszíni) képzés kezdő szintűtől középfokú szintű AI szakemberek számára szánt, akik a CloudMatrix platformon szeretnék AI-modelleket telepíteni és monitorozni, CANN-kal és MindSpore integrációval.
A képzés végén a résztvevők képesek lesznek:
- A CloudMatrix-t használni modelcsomagolásra, telepítésre és szolgáltatásra.
- Modelkonvertálásra és optimalizálásra Ascend chipsetekhez.
- Valós idejű és csomagolt inferenciatételekhez pipeline-ok beállítására.
- Telepítések monitorozására és teljesítményhangolásra termelési környezetben.
A képzés formája
- Interaktív előadás és beszélgetés.
- CloudMatrix gyakorlati használata valós telepítési helyzetekkel.
- Konvertálásra, optimalizálásra és skalálásra összpontosító vezetett gyakorlatok.
A képzés testreszabási lehetőségei
- Kérjük, lépjen kapcsolatba velünk az AI infrastruktúrája vagy felhő környezete alapján testreszabott képzés megrendeléséhez.
Kurzusleírás
Bevezetés a Huawei CloudMatrixba
- CloudMatrix ökoszisztéma és telepítési folyamat
- Támogatott modellek, formátumok és telepítési módok
- Tipikus használati esetek és támogatott csipkészletek
Modellek telepítésre való előkészítése
- Modell exportálás tréningeszközökből (MindSpore, TensorFlow, PyTorch)
- ATC (Ascend Tensor Compiler) használata formátumváltáshoz
- Statikus vs dinamikus alakú modellek
Telepítés a CloudMatrix-ra
- Szolgáltatás létrehozása és modellregisztráció
- Inference szolgáltatások telepítése UI vagy CLI segítségével
- Útvonalak, hitelesítés és hozzáférésvezérlés
Inference kérések szolgáltatása
- Csomagolt és valós idejű inference folyamatok
- Adat előfeldolgozási és utófeldolgozási folyamatok
- CloudMatrix szolgáltatások hívása külső alkalmazásokból
Monitorozás és teljesítményoptimalizálás
- Telepítési naplók és kéréskövetés
- Forráskiterjesztés és terheléskiegyenlítés
- Késleltetési optimalizálás és áthallási optimalizálás
Integráció vállalati eszközökkel
- CloudMatrix csatlakoztatása az OBS-hoz és a ModelArtshoz
- Folyamatok és modellverziókezelés használata
- CI/CD a modelltelepítéshez és visszairányításhoz
Teljesítmény optimalizálás és teljesítményoptimalizálás
- Teljes képleltesítési pipeline telepítése
- Teljesítményoptimalizálás és pontosítás
- Hibaátvétel és rendszerfigyelő szimuláció
Összegzés és következő lépések
Követelmények
- AI modellkiképzési folyamatok megértése
- Tapasztalat Python-alapú ML keretekkel
- Alapvető ismeretek a felhőbe telepítés koncepcióiról
Célközönség
- AI műveleti csapatok
- Gépes tanulás mérnökök
- Huawei infrastruktúra használatával dolgozó felhőbe telepítés szakemberek
A nyílt képzésekhez 5+ résztvevő szükséges.
AI Inferencia és Telepítés a CloudMatrix-on Képzés - Booking
AI Inferencia és Telepítés a CloudMatrix-on Képzés - Enquiry
AI Inferencia és Telepítés a CloudMatrix-on - Érdeklődjön a vezetői tanácsadásról!
Érdeklődjön a vezetői tanácsadásról!
Vélemények (1)
Lépésről-lépésre tanulás sok gyakorlattal. Mint egy munkahelyi workshop volt és nagyon örülök annak.
Ireneusz - Inter Cars S.A.
Kurzus - Intelligent Applications Fundamentals
Gépi fordítás
Közelgő kurzusok
Rokon tanfolyam
Developing AI Applications with Huawei Ascend and CANN
21 ÓrákHuawei Ascend egy olyan AI-processzor-család, amely magas teljesítményű inferenciához és tréninghez készült.
Ez az oktató által vezetett, élő képzés (online vagy helyszínen) középszerű szintű AI mérnököknek és adat tudósoknak szól, akik azt szeretnék, hogy neural hálózati modelleket fejlesszenek ki és optimalizáljanak Huawei Ascend platformjával és a CANN eszközkészlettel.
E képzés végére a résztvevők képesek lesznek:
- Beállítani és konfigurálni a CANN fejlesztői környezetet.
- Fejleszteni AI alkalmazásokat MindSpore és CloudMatrix munkafolyamatokkal.
- Optimalizálni a teljesítményt Ascend NPU-kon saját operátorokkal és cserélési stratégiákkal.
- Modellokat telepíteni élénk vagy felhő környezetbe.
A képzés formátuma
- Interaktív előadás és beszélgetés.
- Huawei Ascend és CANN eszközkészlet használata minta alkalmazásokban.
- Modellépítésre, tréningre és telepítésre összpontosító gyakorlatok.
A képzés testreszabási lehetőségei
- Ha az infrastruktúrához vagy adatbázisokhoz igazított testreszabott képzést szeretne, kérjük, lépjen kapcsolatba velünk, hogy megbeszéljük.
AI Modellek telepítése CANN és Ascend AI Processzorokkal
14 ÓrákCANN (Compute Architecture for Neural Networks) a Huawei AI számítási veremrendszere, amely lehetővé teszi az AI-modellek telepítését és optimalizálását Ascend AI-processzorokon.
Ez az oktató által vezetett, élő (online vagy helyszínen tartandó) képzés középszintű AI-fejlesztők és mérnökök számára szolgál, akik hatékonyan szeretnék telepíteni kiképzett AI-modelleket Huawei Ascend hardverre, használva a CANN eszköztárat és olyan eszközöket, mint a MindSpore, TensorFlow, vagy PyTorch.
Ezen képzés végén a résztvevők képesek lesznek:
- Megérteni a CANN architekturát és szerepét az AI-telepítési folyamatban.
- Átalakítani és adaptálni modelleket népszerű keretrendszerekből Ascend-hoz kompatibilis formátumokba.
- Használni az ATC, OM modellek konvertálásának és a MindSpore eszközeit perifériális és felhő-inferencia céljaira.
- Diagnosztizálni a telepítési problémákat és optimalizálni a teljesítményt Ascend hardveren.
A képzés formája
- Interaktív előadás és demonstráció.
- Gyakorlati labormunka CANN eszközökkel és Ascend szimulátorokkal vagy eszközökkel.
- Valós világbeli AI-modellek alapú praktikus telepítési jelenetek.
A képzés testreszabási lehetőségei
- Egy testreszabott képzés kérésére, kérjük, lépjen kapcsolatba velünk a megbeszéléshez.
AI Engineering Alapok
14 ÓrákEz oktatóvezetett, élő tréning Magyarország (online vagy előadási formában) kezdő és középfokú AI mérnökök és szoftverfejlesztők számára készült, akik szeretnék alapvető ismereteket szerezni az AI mérnöki elvek és gyakorlatok terén.
E tréning végén a résztvevők képesek lesznek:
- Megérteni az AI és a gépi tanulás mögött álló alapvető fogalmakat és technológiákat.
- Alapvető gépi tanulási modelleket valósítsanak meg TensorFlow és PyTorch használatával.
- Alkalmazzanak AI technikákat a gyakorlati szoftverfejlesztési problémák megoldására.
- AI projekteket irányítsanak és karbantartsanak az AI mérnöki legjobb gyakorlatok alapján.
- Felismerjék az etikai következményeket és felelősségeket, amelyek az AI rendszerek fejlesztésében érintettek.
GPU Programming Biren AI Accelerátorokról
21 ÓrákA Biren AI gyorsítók magas teljesítményű GPUk, amelyeket az AI és HPC munkafolyamatok támogatására terveztek, nagy méretű tanulási és előrejelzési folyamatokat támogatva.
Ez az oktatóvezetett, élő (online vagy helyszíni) képzés középfokú és előhaladott szintű fejlesztőknek szánva, akik a Biren saját GPU stack segítségével akarnak programozni és optimalizálni alkalmazásokat, gyakorlati összehasonlításokkal a CUDA-alapú környezetekkel.
E képzés végén a résztvevők képesek lesznek:
- A Biren GPU architektúráját és memóriahierarchiáját megérteni.
- A fejlesztői környezet beállítására és a Biren programozási modell használatára.
- CUDA stílusú kódot Biren platformokra fordítani és optimalizálni.
- Teljesítmény finomítási és hibakeresési technikákat alkalmazni.
A képzés formája
- Interaktív előadás és beszélgetés.
- Biren SDK gyakorlati használata mintamunkafolyamatokban.
- Portolási és teljesítmény finomításra összpontosító vezetett gyakorlatok.
A képzés testreszabási lehetőségei
- Ha alkalmassági szempontból igényli az alkalmazási szoftver vagy integrációs igényei szerint testreszabott képzést, kérjük, lépjen kapcsolatba velünk, hogy rendezzük.
Building Intelligent Applications with AI and ML
28 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) közép- és haladó szintű AI-szakembereknek és
szoftverfejlesztők, akik intelligens alkalmazásokat szeretnének AI és ML segítségével építeni.
A képzés végére a résztvevők képesek lesznek:
- Ismerje meg a mesterséges intelligencia és az ML mögött rejlő fejlett fogalmakat és technológiákat.
- Elemezze és vizualizálja az adatokat az AI/ML modell fejlesztéséhez.
- Építsen, képezzen és telepítsen hatékonyan AI/ML modelleket.
- Hozzon létre intelligens alkalmazásokat, amelyek képesek megoldani a valós problémákat.
- Értékelje az AI-alkalmazások etikai vonatkozásait a különböző iparágakban.
Bevezetés az CANN-es AI keretrendszerek fejlesztőinek
7 Órák- Megérteni a CANN eszközkészlet célját és architektúráját.
- Beállítani a fejlesztői környezetet CANN-vel és MindSpore-rel.
- Átalakítani és telepíteni egy egyszerű AI-modellt Ascend hardverre.
- Alapvető tudást szerezni jövőbeli CANN optimalizálási vagy integrációs projektekhez.
- Interaktív előadás és beszélgetés.
- Gyakorló laborok egyszerű modell telepítéssel.
- A CANN eszközhálózat és integrációs pontok lépésről lépésre bemutatása.
- Testreszabott képzés kérésére keressük fel, hogy megbeszéljük.
CANN for Edge AI Deployment
14 ÓrákA Huawei Ascend CANN eszköztára lehetővé teszi a hatékony AI-inferencinget szegélyeszközökön, mint például az Ascend 310. A CANN olyan alapvető eszközöket biztosít a modellök fordításához, optimalizálásához és telepítéséhez, ahol számítási kapacitás és memóriát korlátozva kell dolgozni.
Ez az oktatóvezetett, élő (online vagy előadások) képzés célközönsége azok a középfokú AI-fejlesztők és integrátorok, akik azt szeretnék, hogy modelleket telepítsenek és optimalizáljanak Ascend szegélyeszközökön a CANN eszközlánccal.
A képzés végén a résztvevők képesek lesznek:
- AI-modelleket készíteni és átalakítani Ascend 310-eszközök számára a CANN eszközök használatával.
- Könnyű inferencing-pipelinet építeni MindSpore Lite és AscendCL segítségével.
- Modellteljesítményt optimalizálni korlátozott számítási és memóriakapacitású környezetben.
- AI-alkalmazásokat telepíteni és monitorozni valós életbeli szegélyeszközökön.
A képzés formája
- Interaktív előadás és demonstráció.
- Szegélyeszközökön specifikus modellekkel és jelenetekkel kapcsolatos gyakorlati munkák.
- Virtuális vagy fizikai szegélyhardveren való élő telepítési példák.
A képzés testreszabási lehetőségei
- A képzés testreszabott változatának kérésére vegye fel velünk a kapcsolatot.
Huawei AI Számítástárgyalék: CANN-től MindSpore-ig
14 ÓrákA Huawei AI-stack — az CANN SDK-től a MindSpore keretrendszerig — egy szorosan integált AI-fejlesztési és telepítési környezetet kínál, amely optimalizálva van az Ascend hardverhez.
Ez az oktatóvezetett, élő tanfolyam (online vagy helyszínen) az alap- és középszintű technikusoknak szánva, akik meg szeretnék érteni, hogy az CANN és a MindSpore komponensek együttműködnek az AI életciklus-kezelés és infrastruktúra döntések támogatására.
E tanfolyam végén a résztvevők képesek lesznek:
- Megértik a Huawei AI-számítási stack réteges architektúráját.
- Megismerik, hogy az CANN támogatja a modell optimalizálást és a hardver-szintű telepítést.
- Kiértékelik a MindSpore keretrendszert és eszközsorát az ipari alternatívákhoz képest.
- Behelyezik a Huawei AI-stacket vállalati vagy felhő/helyszíni környezetekbe.
A tanfolyam formája
- Interaktív előadás és vita.
- Élő rendszerdemonstrációk és esetalapú áttekintések.
- Valószínűleg vezérelt gyakorlatok a modelfolyamban a MindSpore-tól az CANN-ig.
A tanfolyam testreszabási lehetőségei
- Egy testreszabott tanfolyamot kérésére, kérjük, lépjen kapcsolatba velünk a rendezéshez.
Optimizing Neural Network Performance with CANN SDK
14 ÓrákCANN SDK (Compute Architecture for Neural Networks) Huawei AI kiszámítási alapja, amely lehetővé teszi a fejlesztők számára, hogy finomítsák és optimalizálják a telepített neurális hálózatok teljesítményét Ascend AI processzorokon.
Ez az oktatóvezetett, élő (online vagy helyszínen) képzés az olyan előrehaladott szintű AI-fejlesztők és rendszerméregeknek szól, akik azt kívánják, hogy optimalizálják a CANN előrehaladott eszközkészletével az inferencia teljesítményét, beleértve a Graph Engine-t, a TIK-t és az egyedi operátorok fejlesztését.
Ezen képzés végére a résztvevők képesek lesznek:
- CANN futási architektúráját és teljesítményciklusát megérteni.
- Profilozási eszközöket és Graph Engine-t használni a teljesítmény elemzésére és optimalizálására.
- Egyedi operátorokat létrehozni és optimalizálni TIK és TVM segítségével.
- Memóriapárhuzamokat oldani és a modell átviteli sebességét növelni.
A képzés formája
- Interaktív előadás és beszélgetés.
- Valós idejű profilozással és operátor finomítással foglalkozó gyakorlati laborok.
- Szélsőséges telepítési példákkal történő optimalizálási gyakorlatok.
A képzés testreszabási lehetőségei
- Ez a képzés testreszabására kérjük, lépjen kapcsolatba velünk, hogy rendezzük.
SDK az Computer Vision-nek és NLP pipeline-ök
14 ÓrákAz CANN SDK (Neural Networks számítógépes architektúrájához) hatalmas telepítési és optimalizálási eszközöket biztosít az élethű AI alkalmazásokhoz a számítógépes látásban és az NLP-ben, különösen a Huawei Ascend hardveren.
Ez az oktatóvezetett, élő (online vagy előadói) képzés az átlagos szintű AI gyakorlók számára szól, akik a CANN SDK segítségével szeretnének építeni, telepíteni és optimalizálni a látás- és nyelvmodelleket gyártási eszközökhöz.
A képzés végén a résztvevők képesek lesznek:
- Telepíteni és optimalizálni a számítógépes látás és NLP modelleket az CANN és az AscendCL használatával.
- Az CANN eszközök használatát a modellek átalakítására és élő csövekbe való integrálására.
- Az inferencia teljesítmény optimalizálása felismerés, osztályozás és érzelem-analízis feladatokra.
- Élethű számítógépes látás/NLP csövek építése szél- vagy felhőalapú telepítési helyzetekhez.
A képzés formátuma
- Interaktív előadás és demostráció.
- Modelltelepítés és teljesítmény-profilozás gyakorlati labor.
- Élő csőtervezés valós számítógépes látás és NLP esetek használatával.
A képzés egyedi igénybevételének lehetőségei
- Az egyedi képzés kéréséhez, kérjük, vegye fel velünk a kapcsolatot, hogy rendezzük el.
Vagyonöszintebb AI Operátorok Fejlesztése CANN TIK és TVM Használatával
14 ÓrákCANN TIK (Tensor Instruction Kernel) és az Apache TVM előrehaladott optimalizálást és testreszabást tesz lehetővé az AI-modell műveleti elemei számára Huawei Ascend hardveren.
Ezen oktatóvezetett élő képzést (online vagy helyszínen) az olyan előrehaladott szintű rendszerfejlesztőknek szánjuk, akik szeretnék építeni, telepíteni és optimalizálni saját műveleti elemeket AI-modellekhez a CANN TIK programozási modelljével és a TVM fordító integrálásával.
A képzés végén a résztvevők képesek lesznek:
- Írni és tesztelni saját AI-műveleti elemeket a TIK DSL segítségével Ascend processzorokra.
- Beilleszteni saját műveleti elemeket a CANN futtató környezetébe és végrehajtási gráfjába.
- TVM használata műveleti elem beosztáshoz, automatizált optimalizáláshoz és teljesítményvizsgálathoz.
- Hibatlanítás és optimalizálás utasítási szintű teljesítményhez saját számítási minta szerint.
A képzés formája
- Interaktív előadás és bemutató.
- Műveleti elem kódolása a TIK és TVM folyamatok használatával.
- Tesztelés és optimalizálás Ascend hardveren vagy szimulátorokon.
A képzés testreszabási lehetőségei
- Testreszabott képzés kéréséhez forduljon hozzánk, hogy megegyezzen.
CUDA Alkalmazások Migrálása Kínai GPU Architektúrákra
21 ÓrákKínai GPU architektúrák, például Huawei Ascend, Biren és Cambricon MLU-k CUDA alternatívákat kínálnak, amelyek az helyi AI és HPC piacokra vannak szabva.
Ez az oktatóvezetett, élő képzés (online vagy helyszínen) az advanced-level GPU programozók és infrastruktúra szakértők számára szól, akik kíváncsiak arra, hogy CUDA alkalmazásaikat áttegyék és optimalizálják kínai hardverplatformokra.
A képzés végén a résztvevők képesek lesznek:
- Megvizsgálni az egyes CUDA munkaterhelések kompatibilitását a kínai csipalternatívákkal.
- CUDA kódbázisokat portolni a Huawei CANN, Biren SDK és Cambricon BANGPy környezetekbe.
- Összehasonlítják a teljesítményt és azonosítanak optimalizálási pontokat a platformokon keresztül.
- A gyakorlati kihívásokkal foglalkoznak a keresztplatformos támogatás és telepítés során.
A képzés formája
- Interaktív előadás és beszélgetés.
- Kézi kódfordítás és teljesítmény összehasonlítási laborok.
- Vezetett gyakorlatok, amelyek több GPU adaptációs stratégiákra koncentrálnak.
A képzés testreszabási lehetőségei
- A képzés testreszabására, a platformja vagy CUDA projektje alapján kérjük, lépjen kapcsolatba velünk a rendezéshez.
Intelligent Applications Alapok
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) kezdő szintű informatikai szakembereknek szól, akik szeretnének alapos ismereteket szerezni az intelligens alkalmazásokról és azok alkalmazásáról a különböző iparágakban.
A képzés végére a résztvevők képesek lesznek:
- Ismerje meg a mesterséges intelligencia történetét, alapelveit és hatását.
- Különböző gépi tanulási algoritmusok azonosítása és alkalmazása.
- Az AI-alkalmazások adatainak hatékony kezelése és elemzése.
- Ismerje fel a mesterséges intelligencia gyakorlati alkalmazásait és korlátait a különböző szektorokban.
- Beszéljétek meg az AI-technológia etikai szempontjait és társadalmi vonatkozásait.
Intelligent Applications Advanced
21 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) középszintű, haladó szintű adattudósoknak, mérnököknek és mesterséges intelligenciával foglalkozó szakembereknek szól, akik szeretnék elsajátítani az intelligens alkalmazások fortélyait, és hasznosítani szeretnék azokat az összetett, valós problémákat.
A képzés végére a résztvevők képesek lesznek:
- Mély tanulási architektúrák megvalósítása és elemzése.
- Méretben alkalmazza a gépi tanulást elosztott számítástechnikai környezetben.
- Megerősítő tanulási modellek tervezése és végrehajtása a döntéshozatalhoz.
- Kifinomult NLP-rendszerek fejlesztése a nyelv megértéséhez.
- Használja a számítógépes látástechnikákat kép- és videóelemzéshez.
- Vegye figyelembe az etikai szempontokat az AI-rendszerek fejlesztése és telepítése során.
Performance Optimization on Ascend, Biren, and Cambricon
21 ÓrákAscend, Biren, és Cambricon a vezető AI hardver platformok Kínában, mindegyik különleges gyorsító és profilizáló eszközökkel rendelkezik a termelési méretű AI feladatokhoz.
Ez az oktatóvezetett, élő képzés (online vagy helyszínen) az olyan előrehaladott szintű AI infrastruktúra és teljesítmény mérnököknek szól, akik optimalizálni szeretnék a modell előrejelzés és tanítási folyamatokat több kínai AI chip platformon keresztül.
A képzés végére a résztvevők képesek lesznek:
- Ascend, Biren és Cambricon platformokon modell teljesítménymérleget készíteni.
- Rendszeri szűk keresztmetszeteket és memóriaproblémákat azonosítani.
- Gráf- és magszintű optimalizálásokat alkalmazni.
- Telepítési csővezetékeket állítsanak be a áthagyományszerű és késleltetés javítására.
A képzés formája
- Interaktív előadás és beszélgetés.
- Profilizáló és optimalizáló eszközök használata a platformokon.
- Pratikus beállítási feladatokra összpontosító gyakorlatok.
A képzés testreszabási lehetőségei
- A teljesítményi környezete vagy modell típusa alapján testreszabott képzést igényelni, vegye fel a kapcsolatot velünk, hogy megtaláljuk a megoldást.