Asset 3
Asset 1

Tổng quan khoá học

Thông qua khóa học, học viên sẽ biết cách thiết kế, xây dựng, vận hành và giám sát hệ thống xử lý dữ liệu từ đó đưa ra các giải pháp đảm bảo tính bảo mật, khả năng tự mở rộng và hiệu quả của giải pháp phù hợp với tính chất kinh doanh của doanh nghiệp. Ngoài ra, bạn cũng sẽ tìm hiểu cách tái sử dụng, triển khai và đào tạo mô hình Machine learning. Qua đó, bạn sẽ có đầy đủ kiến thức và kỹ năng thi lấy chứng chỉ Professional Data Engineer

Thời gian: 36h

Đối tượng học viên
Asset 4
  • Data Analysts, Data Scientists và Business Analysts mới bắt đầu làm việc với Google Cloud
  • Cá nhân muốn thiết kế data pipeline và kiến trúc để xử lý dữ liệu, tạo và quản lý mô hình Machine Learning, thống kê, cũng như trực quan hóa dữ liệu bằng report, dashboard.
Yêu cầu học viên
  • Hoàn thành khóa học Big Data & Machine learning fundamental
  • Hiểu biết cơ bản: SQL.
  • Có kinh nghiệm Data model, trích xuất, đồng bộ, nhập và xuất dữ liệu
  • Hiểu biết ngôn ngữ lập trình: Python
  • Có kinh nghiệm làm việc với Machine Learning hoặc thống kê.
mục tiêu khoá học

Sau khi học xong khóa học, học viên sẽ nắm được các kiến thức như sau:

  • Thiết kế, xây dựng hệ thống xử lý dữ liệu trên Google Cloud
  • Xử lý batch và streaming data bằng cách triển khai Data Pipeline tự động trên Cloud Dataflow
  • Thu nhập Business insight từ dữ liệu lớn bằng cách sử dụng Google Bigquery
  • Đào tạo, đánh giá và dự đoán kết quả sử dụng mô hình Machine learning với Tensorflow và Cloud ML
  • Tái sử dụng dữ liệu phi cấu trúc bằng cách sử dụng Spark và Machine Learning API trên Cloud Dataproc
  • Khai phá sức mạnh từ việc sử dụng streaming data
  • Chọn lựa và điều chỉnh I/O cho Dataflow pipeline
  • Sử dụng schemas để đơn giản hóa Heam code và cải thiện hiệu xuất pipeline
  • Phát triển Beam pipeline sử dụng SQL và DataFrames
  • Giám sát, khắc phục sự cố, kiểm tra CI/CD trên Dataflow pipelines
Asset 5
Asset 6

Nội dung khoá học

01

Introduction to Data Engineering

+
Explore the role of a data engineer.
+
Analyze data engineering challenges.
+
Intro to BigQuery.
+
Data Lakes and Data Warehouses.
+
Demo: Federated Queries with BigQuery.
+
Transactional Databases vs Data Warehouses.
+
Website Demo: Finding PII in your dataset with DLP API.
+
Partner effectively with other data teams.
+
Manage data access and governance.
+
Build production-ready pipelines.
+
Review GCP customer case study.
+
Lab: Analyzing Data with BigQuery.

02

Building a Data Lake

+
Introduction to Data Lakes.
+
Data Storage and ETL options on GCP.
+
Building a Data Lake using Cloud Storage.
+
Optional Demo: Optimizing cost with Google Cloud Storage classes and Cloud Functions.
+
Securing Cloud Storage.
+
Storing All Sorts of Data Types.
+
Video Demo: Running federated queries on Parquet and ORC files in BigQuery.
+
Cloud SQL as a relational Data Lake.
+
Lab: Loading Taxi Data into Cloud SQL.

03

Building a Data Warehouse

+
The modern data warehouse.
+
Intro to BigQuery.
+
Demo: Query TB+ of data in seconds.
+
Getting Started.
+
Loading Data.
+
Video Demo: Querying Cloud SQL from BigQuery.
+
Lab: Loading Data into BigQuery.
+
Exploring Schemas.
+
Demo: Exploring BigQuery Public Datasets with SQL using INFORMATION_SCHEMA.
+
Schema Design.
+
Nested and Repeated Fields.
+
Demo: Nested and repeated fields in BigQuery.
+
Lab: Working with JSON and Array data in BigQuery.
+
Optimizing with Partitioning and Clustering.
+
Demo: Partitioned and Clustered Tables in BigQuery.
+
Preview: Transforming Batch and Streaming Data.

04

Introduction to Building Batch Data Pipelines

+
EL, ELT, ETL.
+
Quality considerations.
+
How to carry out operations in BigQuery.
+
Demo: ELT to improve data quality in BigQuery.
+
Shortcomings.
+
ETL to solve data quality issues.

05

Executing Spark on Cloud Dataproc

+
The Hadoop ecosystem.
+
Running Hadoop on Cloud Dataproc.
+
GCS instead of HDFS.
+
Optimizing Dataproc.
+
Lab: Running Apache Spark jobs on Cloud Dataproc.

06

Serverless Data Processing with Cloud Dataflow

+
Cloud Dataflow.
+
Why customers value Dataflow.
+
Dataflow Pipelines.
+
Lab: A Simple Dataflow Pipeline (Python/Java).
+
Lab: MapReduce in Dataflow (Python/Java).
+
Lab: Side Inputs (Python/Java).
+
Dataflow Templates.
+
Dataflow SQL.

07

Manage Data Pipelines with Cloud Data Fusion and Cloud Composer

+
Building Batch Data Pipelines visually with Cloud Data Fusion.
+
Components.
+
UI Overview.
+
Building a Pipeline.
+
Exploring Data using Wrangler.
+
Lab: Building and executing a pipeline graph in Cloud Data Fusion.
+
Orchestrating work between GCP services with Cloud Composer.
+
Apache Airflow Environment.
+
DAGs and Operators.
+
Workflow Scheduling.
+
Optional Long Demo: Event-triggered Loading of data with Cloud Composer, Cloud Functions, Cloud Storage, and BigQuery.
+
Monitoring and Logging.
+
Lab: An Introduction to Cloud Composer.

08

Introduction to Processing Streaming Data

+
Processing Streaming Data.

09

Serverless Messaging with Cloud Pub/Sub

+
Cloud Pub/Sub.
+
Lab: Publish Streaming Data into Pub/Sub.

10

Cloud Dataflow Streaming Features

+
Cloud Dataflow Streaming Features.
+
Lab: Streaming Data Pipelines.

11

High-Throughput BigQuery and Bigtable Streaming Features

+
BigQuery Streaming Features.
+
Lab: Streaming Analytics and Dashboards.
+
Cloud Bigtable.
+
Lab: Streaming Data Pipelines into Bigtable.

12

Advanced BigQuery Functionality and Performance

+
Analytic Window Functions.
+
Using With Clauses.
+
GIS Functions.
+
Demo: Mapping Fastest Growing Zip Codes with BigQuery GeoViz.
+
Performance Considerations.
+
Lab: Optimizing your BigQuery Queries for Performance.
+
Optional Lab: Creating Date-Partitioned Tables in BigQuery.

13

Introduction to Analytics and AI

+
What is AI?.
+
From Ad-hoc Data Analysis to Data Driven Decisions.
+
Options for ML models on GCP.

14

Prebuilt ML model APIs for Unstructured Data

+
Unstructured Data is Hard.
+
ML APIs for Enriching Data.
+
Lab: Using the Natural Language API to Classify Unstructured Text.

15

Big Data Analytics with Cloud AI Platform Notebooks

+
Whats a Notebook.
+
BigQuery Magic and Ties to Pandas.
+
Lab: BigQuery in Jupyter Labs on AI Platform.

16

Production ML Pipelines with Kubeflow

+
Ways to do ML on GCP.
+
Kubeflow.
+
AI Hub.
+
Lab: Running AI models on Kubeflow.

17

Custom Model building with SQL in BigQuery ML

+
BigQuery ML for Quick Model Building.
+
Demo: Train a model with BigQuery ML to predict NYC taxi fares.
+
Supported Models.
+
Lab Option 1: Predict Bike Trip Duration with a Regression Model in BQML.
+
Lab Option 2: Movie Recommendations in BigQuery ML.

18

Custom Model building with Cloud AutoML

+
Why Auto ML?
+
Auto ML Vision.
+
Auto ML NLP.
+
Auto ML Tables.
Học cùng các
chuyên gia Goole Cloud
Asset 2@2x

Asset 32@2x
Asset 2

Cảm nghĩ học viên

Cloud Ace Training
đem đến những trải nghiệm tuyệt vời cho học viên

Asset 4

Trần Tuấn Anh

IT

Sau khi học xong khóa học Associate Cloud Engineer mình đã biết cách vận hành và triển khai dự án trên Google Cloud và tự tin thi lấy chứng chỉ của Google Cloud

Nguyễn Ngọc Minh Thy

Data Engineer

Sau khi học xong khóa học Professional Data Engineer mình đã có đủ kiến thức và tự tin thi lấy chứng chỉ Google Cloud để chuẩn bị cho công việc của mình sắp tới

Trương Quốc Thắng

Data Engineer

Mình đã biết cách lựa chọn các công cụ và áp dụng với doanh nghiệp để xử lý dữ liệu hiệu quả thông qua khóa học Professional Data Engineer

Phạm Văn Hùng

IT

Khóa học rất chi tiết và đầy đủ, sau khi học xong khóa học Associate Cloud Engineer, mình rất muốn có cơ hội học thêm các khóa học khác để hiểu rõ hơn về Google Cloud

Dương Minh Phương

Engineer

Sau khi học xong khóa học Associate Cloud Engineer, mình đã hiểu rõ về Google Cloud và có thể đưa ra các giải pháp cho doanh nghiệp triển khai các dự án trên GCP
Asset 5

Đăng ký ngay để trở thành

" Chuyên gia Google Cloud "

Asset 8@2x