Schița de curs
Introducere
Înțelegere Big Data
Prezentare generală a Spark
Prezentare generală a Python
Prezentare generală a PySpark
- Distribuirea datelor utilizând cadrul pentru seturi de date distribuite reziliente
- Distribuirea calculelor utilizând operatorii Spark API
Configurarea Python cu Spark
Configurarea PySpark
Utilizarea Amazon Web Services (AWS) Instanțelor EC2 pentru Spark
Configurarea Databricks
Configurarea clusterului AWS EMR
Învățarea elementelor de bază ale Python Programming
- Noțiuni introductive cu Python
- Utilizarea Jupyter Notebook
- Utilizarea variabilelor și a tipurilor simple de date
- Lucrul cu listele
- Utilizarea declarațiilor if
- Utilizarea intrărilor utilizatorului
- Lucrul cu buclele while
- Implementarea funcțiilor
- Lucrul cu clasele
- Lucrul cu fișiere și excepții
- Lucrul cu proiecte, date și API-uri
Învățarea elementelor de bază ale Spark DataFrame
- Noțiuni introductive cu Spark DataFrame
- Implementarea operațiunilor de bază cu Spark
- Utilizarea operațiilor Groupby și Aggregate
- Lucrul cu mărci temporale și date
Lucrul la un exercițiu de proiect Spark DataFrame
Înțelegerea Machine Learning cu MLlib
Lucrul cu MLlib, Spark și Python pentru Machine Learning
Înțelegerea regresiilor
- Învățarea teoriei regresiei liniare
- Implementarea unui cod de evaluare a regresiei
- Lucrul pe un exemplu de exercițiu de regresie liniară
- Învățarea teoriei regresiei logistice
- Implementarea unui cod de regresie logistică
- Lucrul pe un exemplu de exercițiu de regresie logistică
Înțelegerea Random Forests și a arborilor de decizie
- Învățarea teoriei metodelor arborelui
- Implementarea arborilor de decizie și a codurilor Random Forest
- Lucrul pe un exemplu de exercițiu de clasificare Random Forest
Lucrul cu K-means Clustering
- Înțelegerea teoriei grupării K-means
- Implementarea unui cod de clusterizare K-means
- Lucrul pe un exemplu de exercițiu de clusterizare
Lucrul cu sistemele de recomandare
Implementarea procesării limbajului natural
- Înțelegerea Natural Language Processing (NLP)
- Prezentare generală a instrumentelor NLP
- Lucrul pe un exemplu de exercițiu NLP
Streaming cu Spark pe Python
- Prezentare generală Streaming cu Spark
- Exemplu Spark Streaming de exercițiu
Observații de încheiere
Cerințe
- Competențe generale de programare
Audiență
- Dezvoltatori
- Profesioniști IT
- Cercetători de date
Mărturii (6)
I liked that it was practical. Loved to apply the theoretical knowledge with practical examples.
Aurelia-Adriana - Allianz Services Romania
Curs - Python and Spark for Big Data (PySpark)
The course was about a series of very complex related topics & Pablo has in-depth expertise of each of them. Sometimes nuances were lost in communication and/or due to time pressures and possibly expectations were not quite met due to this. Also there were some UHG/Azure Databricks setup issues however Pablo / UHG resolved these quickly once they became apparent - this to me showed a high level of understanding and professionalism between UHG & Pablo,
Michael Monks - Tech NorthWest Skillnet
Curs - Python and Spark for Big Data (PySpark)
Individual attention.
ARCHANA ANILKUMAR - PPL
Curs - Python and Spark for Big Data (PySpark)
Hands on Training..
Abraham Thomas - PPL
Curs - Python and Spark for Big Data (PySpark)
The lessons were taught in a Jupyter notebook. The topics were structured with a logical sequence and naturally helped develop the session from the easier parts to the more complex. I'm already an advanced user of Python with background in Machine Learning, so found the course easier to follow than, possibly, some of my classmates that took the training course. I appreciate that some of the most elementary concepts were skipped and that he focused on the most substantial matters.
Angela DeLaMora - ADT, LLC
Curs - Python and Spark for Big Data (PySpark)
practice tasks