Big Data Tanácsadás Képzés

Ez az oktató által vezetett, élő képzés Magyarország-ben (online vagy helyszíni) középhaladó szintű adattudósok és mérnökök számára készült, akik a Google Colab és Apache Spark használatával szeretnék feldolgozni és elemezni a nagy adatokat.

A képzés végére a résztvevők képesek lesznek:

• Big Data környezet beállítása a Google Colab és Spark segítségével.
• Nagy adathalmazok hatékony feldolgozása és elemzése Apache Spark segítségével.
• Big Data vizualizáció együttműködő környezetben.
• Apache Spark integrálása felhőalapú eszközökkel.

Az Apache Hadoop a legnépszerűbb keretrendszer a Big Data feldolgozására szerverklasztereken. Ezen a három (opcionálisan négy) napos tanfolyamon a résztvevők megismerik a Hadoop és az ökoszisztémája üzleti előnyeit és használati eseteit, hogyan tervezhetik meg a klaszter üzembe helyezését és bővítését, valamint hogyan telepíthetik, karbantarthatják, monitorozhatják, hibaelháríthatják és optimalizálhatják a Hadoopot. Gyakorolni fogják a klaszter tömeges adatbetöltését, megismerkednek a különböző Hadoop disztribúciókkal, valamint gyakorolni fogják a Hadoop ökoszisztéma eszközeinek telepítését és kezelését. A tanfolyam a klaszter biztonságossá tételéről szóló vitával zárul, amelyben a Kerberos kerül bemutatásra.

“…Az anyagok nagyon jól elkészítettek és alaposak voltak. A laborok nagyon hasznosak és jól szervezettek voltak.”
— Andrew Nguyen, Főbb integrációs DW mérnök, Microsoft Online Advertising

Célközönség

Hadoop rendszergazdák

Formátum

Előadások és gyakorlati laborok, megközelítőleg 60% előadás, 40% labor.

Az Apache NiFi egy nyílt forráskódú, folyamalapú adatintegrációs és eseményfeldolgozó platform. Lehetővé teszi az automatizált, valós idejű adatirányítást, átalakítást és rendszerközvetítést különböző rendszerek között, webalapú felhasználói felülettel és részletes ellenőrzéssel.

Ez az oktató által vezetett, élő képzés (helyszíni vagy távoli) középszintű rendszergazdáknak és mérnököknek szól, akik szeretnék üzembe helyezni, kezelni, biztosítani és optimalizálni a NiFi adatfolyamokat éles környezetekben.

A képzés végére a résztvevők képesek lesznek:

• Apache NiFi klaszterek telepítése, konfigurálása és karbantartása.
• Adatfolyamok tervezése és kezelése különböző forrásokból és célokból.
• Folyamat automatizálás, irányítás és átalakítási logika implementálása.
• Teljesítmény optimalizálása, műveletek monitorozása és hibák elhárítása.

A képzés formátuma

• Interaktív előadás valós világi architektúrák megvitatásával.
• Gyakorlati laborok: folyamok építése, üzembe helyezése és kezelése.
• Forgatókönyv alapú gyakorlatok élő labor környezetben.

Kurzus testreszabási lehetőségek

• Ha testreszabott képzést szeretne kérni ehhez a kurzushoz, kérjük, lépjen kapcsolatba velünk.

Ezen oktatóvezetésű, élő képzés során Magyarország a résztvevők megismerik a folyamatalapú programozás alapjait, miközben számos demó kiterjesztést, komponenst és processzort fejlesztenek az Apache NiFi segítségével.

A képzés végére a résztvevők képesek lesznek:

• Megérteni a NiFi architektúráját és az adatfolyam koncepcióit.
• Kiterjesztéseket fejleszteni a NiFi és harmadik féltől származó API-k használatával.
• Saját Apache NiFi processzort fejleszteni.
• Valós idejű adatokat betölteni és feldolgozni különböző és szokatlan fájlformátumokból és adatforrásokból.

Ez a képzés gyakorlati bevezetést nyújt a skálázható adatfeldolgozó és gépi tanulási munkafolyamatok felépítéséhez PySpark segítségével. A résztvevők megismerik, hogyan működik az Apache Spark a modern Big Data ökoszisztémákban, és hogyan dolgozzák hatékonyan fel a nagy adathalmazokat a elosztott számítási elvek alapján.

Ez az oktató által vezetett, élő képzés Magyarország-ben (online vagy helyszíni) azoknak a mérnököknek szól, akik szeretnék beállítani és üzembe helyezni az Apache Spark rendszert nagyon nagy mennyiségű adat feldolgozására.

A képzés végén a résztvevők képesek lesznek:

• Az Apache Spark telepítésére és konfigurálására.
• Gyorsan feldolgozni és elemezni nagyon nagy adathalmazokat.
• Megérteni az Apache Spark és a Hadoop MapReduce közötti különbséget, és eldönteni, mikor melyiket használják.
• Integrálni az Apache Sparkot más gépi tanulási eszközökkel.

Ez az oktató által vezetett, élő képzés Magyarország-ben (online vagy helyszíni) kezdő és középhaladó szintű rendszergazdáknak szól, akik Spark klaszterek üzembe helyezését, karbantartását és optimalizálását szeretnék elsajátítani.

A képzés végére a résztvevők képesek lesznek:

• Az Apache Spark telepítésére és konfigurálására különböző környezetekben.
• Klaszter erőforrások kezelésére és Spark alkalmazások monitorozására.
• Spark klaszterek teljesítményének optimalizálására.
• Biztonsági intézkedések bevezetésére és magas rendelkezésre állás biztosítására.
• Gyakori Spark hibák elhárítására és hibakeresésére.

Az Apache Spark tanulási görbéje kezdetben lassan emelkedik, sok erőfeszítés szükséges az első eredmények eléréséhez. Ez a kurzus célja, hogy átugorja a kezdeti nehézségeket. A kurzus elvégzése után a résztvevők megértik az Apache Spark alapjait, tisztán megkülönböztetik az RDD-t a DataFrame-től, elsajátítják a Python és Scala API-k használatát, megértik az executorokat és feladatokat stb. Továbbá, a legjobb gyakorlatok követésével, ez a kurzus erősen fókuszál a felhőbeli üzembe helyezésre, a Databricks-re és az AWS-re. A hallgatók megértik az AWS EMR és az AWS Glue közötti különbségeket, amely az AWS legújabb Spark szolgáltatása.

KÖZÖNSÉG:

Adatmérnök, DevOps, Adattudós

CÉL:

Ez a kurzus bemutatja az Apache Sparkot. A tanulók megismerik, hogyan illeszkedik a Spark a Big Data ökoszisztémába, és hogyan használható adatelemzésre. A kurzus magában foglalja a Spark shellt interaktív adatelemzéshez, a Spark belső működését, a Spark API-kat, a Spark SQL-t, a Spark streaminget, valamint a gépi tanulást és a GraphX-et.

CEGÉDSZEMÉLY:

Fejlesztők / Adatelemzők

Ez az oktató által vezetett, élő képzés Magyarország-ben (online vagy helyszíni) azoknak az adattudósoknak és fejlesztőknek szól, akik a Spark NLP-t, amely az Apache Spark-ra épül, szeretnék használni a természetes nyelvű szövegek feldolgozására szolgáló modellek és folyamatok fejlesztéséhez, megvalósításához és skálázásához.

A képzés végére a résztvevők képesek lesznek:

• Beállítani a szükséges fejlesztői környezetet a Spark NLP-vel történő NLP folyamatok építéséhez.
• Megérteni a Spark NLP funkcióit, architektúráját és előnyeit.
• Használni a Spark NLP-ben elérhető előre betanított modelleket a szövegfolyamatok megvalósításához.
• Megtanulni, hogyan lehet Spark NLP modelleket építeni, betanítani és skálázni termelési szintű projektekhez.
• Osztályozást, következtetést és érzelmek elemzését alkalmazni valós felhasználási esetekben (klinikai adatok, ügyfélviselkedési elemzések stb.).

Ebben az oktató által vezetett, élő képzésben Magyarország, a résztvevők megtanulják, hogyan használhatják a Pythont és a Sparkot együtt nagy adatok elemzéséhez, miközben gyakorlati feladatokon dolgoznak.

A képzés végére a résztvevők képesek lesznek:

• Megtanulják, hogyan használhatják a Sparkot Pythonnal nagy adatok elemzéséhez.
• Valós eseteket utánzó gyakorlatokon dolgoznak.
• Különböző eszközöket és technikákat használnak nagy adatok elemzéséhez a PySpark segítségével.

Ez az oktató által vezetett, élőben zajló képzés Magyarország-ben (online vagy helyszíni) azoknak a fejlesztőknek szól, akik szeretnék használni és integrálni a Sparkot, Hadoopot és Pythont nagy és összetett adathalmazok feldolgozására, elemzésére és átalakítására.

A képzés végén a résztvevők képesek lesznek:

• Beállítani a szükséges környezetet a big data feldolgozásának megkezdéséhez Spark, Hadoop és Python segítségével.
• Megérteni a Spark és Hadoop jellemzőit, alapvető összetevőit és architektúráját.
• Megtanulni, hogyan integrálható a Spark, Hadoop és Python a big data feldolgozásához.
• Felfedezni a Spark ökoszisztéma eszközeit (Spark MLlib, Spark Streaming, Kafka, Sqoop, Kafka és Flume).
• Kollaboratív szűrésű ajánlórendszereket építeni, hasonlóan a Netflix, YouTube, Amazon, Spotify és Google rendszereihez.
• Az Apache Mahout használata gépi tanulási algoritmusok skálázására.

A Spark SQL az Apache Spark modulja a strukturált és strukturálatlan adatok kezelésére. A Spark SQL információt nyújt az adatok szerkezetéről és a végrehajtott számításokról. Ez az információ felhasználható optimalizálások végrehajtására. A Spark SQL két gyakori használati módja:
- SQL lekérdezések végrehajtása.
- adatok olvasása egy meglévő Hive telepítésből.

Ebben az oktató által vezetett, élő képzésben (személyesen vagy távolról) a résztvevők megtanulják, hogyan elemezhetnek különböző típusú adathalmazokat a Spark SQL segítségével.

A képzés végére a résztvevők képesek lesznek:

• A Spark SQL telepítése és konfigurálása.
• Adatelemzés végrehajtása a Spark SQL segítségével.
• Különböző formátumú adathalmazok lekérdezése.
• Adatok és lekérdezési eredmények vizualizálása.

A képzés formátuma

• Interaktív előadás és vita.
• Számos gyakorlat és gyakorlati feladat.
• Gyakorlati implementáció élő laboratóriumi környezetben.

Kurzus testreszabási lehetőségek

• Ha testreszabott képzést szeretne kérni erre a kurzusra, kérjük, lépjen kapcsolatba velünk a megbeszélés érdekében.

A Stratio egy adatközpontú platform, amely a big data, az AI és a governance integrációját kínálja egyetlen megoldásban. A Rocket és Intelligence moduljai lehetővé teszik a gyors adatfeltárást, átalakítást és haladó elemzéseket vállalati környezetekben.

Ez az oktató által vezetett, élő képzés (online vagy helyszíni) középhaladó szintű adatszakembereknek szól, akik hatékonyan szeretnék használni a Rocket és Intelligence modulokat a Stratio-ban PySparkkal, különös tekintettel a ciklusstruktúrákra, felhasználó által definiált függvényekre és haladó adatlogikára.

A képzés végére a résztvevők képesek lesznek:

• Navigálni és dolgozni a Stratio platformon a Rocket és Intelligence modulok segítségével.
• PySpark alkalmazása adatbetöltés, átalakítás és elemzés során.
• Ciklusok és feltételes logika használata az adatmunkafolyamatok és a jellemzőmérnöki feladatok szabályozására.
• Felhasználó által definiált függvények (UDF) létrehozása és kezelése újrafelhasználható adatműveletekhez PySparkban.

A képzés formátuma

• Interaktív előadás és megbeszélés.
• Számos gyakorlat és gyakorlati feladat.
• Gyakorlati implementáció élő laboratóriumi környezetben.

Képzés testreszabási lehetőségei

• Ha testreszabott képzést szeretne kérni ehhez a kurzushoz, kérjük, lépjen kapcsolatba velünk.