SlideShare uma empresa Scribd logo
1 de 31
Desenvolvendo Cargas de Dados Dinâmicas e
Incrementais com Integration Services
Apresentação
Senior BI Analyst at Comp Line
BI and Database Consultant and
Instructor - One Way Solution
Writer – SQL Magazine
OLAP and ETL Consultant and
Instructor – BI do Brasil
Microsoft Certified Professional
Agenda
 Extract, Transformation and Load – Introdução
 Conhecendo o MS Integration Services
 Arquitetura do MS Integration Services
 Conhecendo alguns componentes do SSIS
 Constraints, Variáveis, Parâmetros e Expressões
 Foreach Loop Container
 Desenvolvendo cargas Padrões com SSIS
 Processo de carga Dinâmico – Arquitetura e Criação
 Implementando a carga incremental no SSIS
Extract, Transformation and Load - Introdução
O ETL visa trabalhar com toda a parte de
extração de dados de fontes externas,
transformação para atender às necessidades de
negócios e carga dos dados dentro do Data
Warehouse.
Em tempo de execução ele é divido em Extração,
Transformação e Carga de dados.
Conhecendo o MS Integration Services
O Microsoft Integration Services é responsável
por permitir a construção de cargas de
integração de dados e ETL para Data
Warehouse;
Project
Solution
Package
Control Flow
Data Flow
Arquitetura do MS Integration Services
Solution
Project 1 Project 2
Project 3
Recipiente Macro;
Dentro de uma Solução é possível
criar vários projetos da solução
Microsoft – SSIS, SSAS, SSRS;
Arquitetura do MS Integration Services
Project
Package 1 Package 2
Connection 1
Recipiente onde se cria os pacotes
de ETL a seremdesenvolvidos;
Criação das conexões globais;
Arquitetura do MS Integration Services
Recipiente para desenvolvimento dos
Fluxos de controle e de dados.
Package
Control Flow
Arquitetura do MS Integration Services
Control Flow
Recipiente onde se cria o fluxo de
Dados;
Possibilidade de fazer algumas
configurações. Exemplo - Email
Container
Execute SQL
Send Mail
Data Flow
Arquitetura do MS Integration Services
Data Flow
Task usada para trabalho a nível de
Dados.
Inúmeras possibilidades;
Lookup
Merge Join
Sort
Merge
…
Arquitetura do MS Integration Services
Destino 2
Destino 1
CondiçãoMesclar
Origem 2
Origem 1
Task usada para trabalho a nível de Dados.
Arquivo txt
Data Flow Task
Destino 3
Execute SQL Task
Usado para executar comandos em SQL padrão ANSI e/ou T-SQL;
Destino 1 Destino 2
Origem
Precedência de Constraints
Destino 3
A precêdencia COMPLETION
Exige apenas que o executável
de precedência seja concluído,
independente do resultado.
Precedência de Constraints
Destino 1
Origem
A precêdencia SUCCESS exite
que o executável de precedência
seja executado com sucesso.
Precedência de Constraints
Destino 2
Origem
A precêdencia FAILURE
exige que o executável de
precedência deve falhar.
Geralmente utilizado para
tratamento de erros.
Precedência de Constraints
Origem
Destino 3
Passo 3
Passo 1 Passo 2
AND
Passo 2
Multiplas de Constraints
OR
Passo 1 Passo 2
Passo 3
Se a opção AND for ativada em
seu Control Flow, você estará
indicando logicamente que
SOMENTE se os dois primeiros
passos tiverem sido concluídos,
o Controle pode prosseguir para
o Passo 3.
Multiplas de Constraints
AND
Passo 2Passo 1 Passo 2
Passo 3
Se a opção OR for ativada em
seu Control Flow, você estará
indicando logicamente para que
caso um dos dois primeiros
passos tiverem sido concluídos,
o Controle pode prosseguir para
o Passo 3.
Multiplas de Constraints
Passo 3
Passo 1 Passo 2
OR
Dentro da ferramenta do Integration
Services é possível trabalhar com dois
tipos de variáveis:
Variáveis de Usuário – Criadas dentro
do Pacote pelo desenvolvedor.
Variáveis de Sistema – Guardam dados
em tempo de execução do pacote.
Dados
Variável
Variável
Parâmetros são recipientes que
recebem o valor corrente de uma
determinada variável e aplica esse valor
em uma determinada situação.
Dentro do SSIS um parâmetro é
mapeado através do character ‘?’
Variável
Parâmetro
Parâmetro
Uma expressão é uma combinação de
símbolos (identificadores, literais,
funções e operadores) gera um único
valor de dados.
Expressões
 Funções Matemáticas
 Funções de String
 Funções de Data e Hora
 Funções para tratamento de NULL
 Funções para conversão de tipo de dados
 Operadores
Expressões
Foreach Loop Container irá se
repetir para cada elemento
retornada de uma matriz.
Loop
Elemento 1
Elemento 2
Elemento 3
Foreach Loop Container
1. Diretório
2. Listagem Manual
3. Linhas retornadas de um Objeto
4. Tabelas de banco de dados
5. Variável
6. XML
7. Objetos do Banco (tabelas, views)
Foreach Loop Container
Desenvolvendo Cargas
Padrões com SSIS
Processo de Carga Dinâmico - Arquitetura e Criação
Acha Parâmetros
Habilita a
Trace Flag 610
Desabilita a
Trace Flag 610
Retorna Colunas
Carrega Tabela
Container
Implementando a carga incremental no SSIS
Acha Parâmetros
Habilita a
Trace Flag 610
Container
Habilita a Trace Flag
Desabilita a Trace Flag
Retorna Colunas Retorna Colunas
Retorna Colunas Retorna Colunas
Valida Dipo de Carga
Referências
 https://msdn.microsoft.com/en-
us/library/ms141134.aspx
 https://msdn.microsoft.com/en-
us/library/ms137681.aspx
 https://msdn.microsoft.com/en-
us/library/ms141261.aspx
 https://msdn.microsoft.com/en-
us/library/ms139733.aspx
Contatos
Email - arthurjosemberg@gmail.com
Linkedin – Arthur Luz
Twitter - @arthurjosemberg
Skype - arthurjosemberg
Blog – arthurluz.wordpress.com

Mais conteúdo relacionado

Semelhante a SSIS Dinâmico Incremental

Integração dados prática ppt
Integração dados prática pptIntegração dados prática ppt
Integração dados prática pptRodrigo Ribeiro
 
Devops: Gestão e publicação de Dados no SQL Server
Devops: Gestão e publicação de Dados no SQL ServerDevops: Gestão e publicação de Dados no SQL Server
Devops: Gestão e publicação de Dados no SQL ServerIgor Rosa Macedo
 
Boas práticas para migração do sql server para o windows azure
Boas práticas para migração do sql server para o windows azureBoas práticas para migração do sql server para o windows azure
Boas práticas para migração do sql server para o windows azureMarcondes Alexandre
 
Introdução a data warehouse e olap
Introdução a data warehouse e olapIntrodução a data warehouse e olap
Introdução a data warehouse e olapFlavia Martins Bispo
 
Introdução a data warehouse e olap
Introdução a data warehouse e olapIntrodução a data warehouse e olap
Introdução a data warehouse e olapFernando Palma
 
Introdução ao AWS Database Migration Service
Introdução ao AWS Database Migration ServiceIntrodução ao AWS Database Migration Service
Introdução ao AWS Database Migration ServiceAmazon Web Services LATAM
 
ODI SERIES - Melhores Práticas
ODI SERIES - Melhores PráticasODI SERIES - Melhores Práticas
ODI SERIES - Melhores PráticasCaio Lima
 
Funcionalidades das versões 9.x do PostgreSQL
Funcionalidades das versões 9.x do PostgreSQLFuncionalidades das versões 9.x do PostgreSQL
Funcionalidades das versões 9.x do PostgreSQLMatheus Espanhol
 
Indo alem do_mvc_node_js
Indo alem do_mvc_node_jsIndo alem do_mvc_node_js
Indo alem do_mvc_node_jsgustavobeavis
 
TDC2017 | São Paulo - Trilha Banco de Dados How we figured out we had a SRE t...
TDC2017 | São Paulo - Trilha Banco de Dados How we figured out we had a SRE t...TDC2017 | São Paulo - Trilha Banco de Dados How we figured out we had a SRE t...
TDC2017 | São Paulo - Trilha Banco de Dados How we figured out we had a SRE t...tdc-globalcode
 
O Futuro do Data Dude (VS DBPro)
O Futuro do Data Dude (VS DBPro)O Futuro do Data Dude (VS DBPro)
O Futuro do Data Dude (VS DBPro)Igor Abade
 
Conceitos gerais de etl - Qlikview
Conceitos gerais de etl - QlikviewConceitos gerais de etl - Qlikview
Conceitos gerais de etl - QlikviewRoberto Oliveira
 
WSO2 Enterprise Integrator 6.1 - Integração na Era da Transformação
WSO2 Enterprise Integrator 6.1 - Integração na Era da TransformaçãoWSO2 Enterprise Integrator 6.1 - Integração na Era da Transformação
WSO2 Enterprise Integrator 6.1 - Integração na Era da TransformaçãoEdgar Silva
 
Deep Dive sobre Entity Framework
Deep Dive sobre Entity FrameworkDeep Dive sobre Entity Framework
Deep Dive sobre Entity FrameworkLuciano Condé
 
Artigo data warehouse bd ii - 2015-1 a
Artigo data warehouse   bd ii - 2015-1 aArtigo data warehouse   bd ii - 2015-1 a
Artigo data warehouse bd ii - 2015-1 aDarlene Coelho
 

Semelhante a SSIS Dinâmico Incremental (20)

Integração dados prática ppt
Integração dados prática pptIntegração dados prática ppt
Integração dados prática ppt
 
Devops: Gestão e publicação de Dados no SQL Server
Devops: Gestão e publicação de Dados no SQL ServerDevops: Gestão e publicação de Dados no SQL Server
Devops: Gestão e publicação de Dados no SQL Server
 
O Elefante e a Mula
O Elefante e a MulaO Elefante e a Mula
O Elefante e a Mula
 
Boas práticas para migração do sql server para o windows azure
Boas práticas para migração do sql server para o windows azureBoas práticas para migração do sql server para o windows azure
Boas práticas para migração do sql server para o windows azure
 
Introdução a data warehouse e olap
Introdução a data warehouse e olapIntrodução a data warehouse e olap
Introdução a data warehouse e olap
 
Introdução a data warehouse e olap
Introdução a data warehouse e olapIntrodução a data warehouse e olap
Introdução a data warehouse e olap
 
Introdução ao AWS Database Migration Service
Introdução ao AWS Database Migration ServiceIntrodução ao AWS Database Migration Service
Introdução ao AWS Database Migration Service
 
Apostila Oracle 10g
Apostila Oracle 10gApostila Oracle 10g
Apostila Oracle 10g
 
Aula1
Aula1Aula1
Aula1
 
ODI SERIES - Melhores Práticas
ODI SERIES - Melhores PráticasODI SERIES - Melhores Práticas
ODI SERIES - Melhores Práticas
 
Funcionalidades das versões 9.x do PostgreSQL
Funcionalidades das versões 9.x do PostgreSQLFuncionalidades das versões 9.x do PostgreSQL
Funcionalidades das versões 9.x do PostgreSQL
 
Indo alem do_mvc_node_js
Indo alem do_mvc_node_jsIndo alem do_mvc_node_js
Indo alem do_mvc_node_js
 
Pentaho PDI
Pentaho PDIPentaho PDI
Pentaho PDI
 
TDC2017 | São Paulo - Trilha Banco de Dados How we figured out we had a SRE t...
TDC2017 | São Paulo - Trilha Banco de Dados How we figured out we had a SRE t...TDC2017 | São Paulo - Trilha Banco de Dados How we figured out we had a SRE t...
TDC2017 | São Paulo - Trilha Banco de Dados How we figured out we had a SRE t...
 
O Futuro do Data Dude (VS DBPro)
O Futuro do Data Dude (VS DBPro)O Futuro do Data Dude (VS DBPro)
O Futuro do Data Dude (VS DBPro)
 
Apostila sql
Apostila sqlApostila sql
Apostila sql
 
Conceitos gerais de etl - Qlikview
Conceitos gerais de etl - QlikviewConceitos gerais de etl - Qlikview
Conceitos gerais de etl - Qlikview
 
WSO2 Enterprise Integrator 6.1 - Integração na Era da Transformação
WSO2 Enterprise Integrator 6.1 - Integração na Era da TransformaçãoWSO2 Enterprise Integrator 6.1 - Integração na Era da Transformação
WSO2 Enterprise Integrator 6.1 - Integração na Era da Transformação
 
Deep Dive sobre Entity Framework
Deep Dive sobre Entity FrameworkDeep Dive sobre Entity Framework
Deep Dive sobre Entity Framework
 
Artigo data warehouse bd ii - 2015-1 a
Artigo data warehouse   bd ii - 2015-1 aArtigo data warehouse   bd ii - 2015-1 a
Artigo data warehouse bd ii - 2015-1 a
 

Mais de arthurjosemberg

sql_server_2016_history_tables
sql_server_2016_history_tablessql_server_2016_history_tables
sql_server_2016_history_tablesarthurjosemberg
 
carreira_certificacoes_mercado_de_trabalho
carreira_certificacoes_mercado_de_trabalhocarreira_certificacoes_mercado_de_trabalho
carreira_certificacoes_mercado_de_trabalhoarthurjosemberg
 
por_detras_dos_relatorios
por_detras_dos_relatoriospor_detras_dos_relatorios
por_detras_dos_relatoriosarthurjosemberg
 
realizando_limpeza_de_dados_com_data_quality_services
realizando_limpeza_de_dados_com_data_quality_servicesrealizando_limpeza_de_dados_com_data_quality_services
realizando_limpeza_de_dados_com_data_quality_servicesarthurjosemberg
 
carreira_certificacoes_mercado_de_trabalho
carreira_certificacoes_mercado_de_trabalhocarreira_certificacoes_mercado_de_trabalho
carreira_certificacoes_mercado_de_trabalhoarthurjosemberg
 
global_azure_bootcamp_2016
global_azure_bootcamp_2016global_azure_bootcamp_2016
global_azure_bootcamp_2016arthurjosemberg
 
desvendando_o_microsoft_datazen
desvendando_o_microsoft_datazendesvendando_o_microsoft_datazen
desvendando_o_microsoft_datazenarthurjosemberg
 
Desvendando o Microsoft Datazen
Desvendando o Microsoft DatazenDesvendando o Microsoft Datazen
Desvendando o Microsoft Datazenarthurjosemberg
 
datazen_inicio_ao_fim_sat_df
datazen_inicio_ao_fim_sat_dfdatazen_inicio_ao_fim_sat_df
datazen_inicio_ao_fim_sat_dfarthurjosemberg
 
datazen_inicio_ao_fim_sat_sp
datazen_inicio_ao_fim_sat_spdatazen_inicio_ao_fim_sat_sp
datazen_inicio_ao_fim_sat_sparthurjosemberg
 

Mais de arthurjosemberg (13)

sql_server_2016_history_tables
sql_server_2016_history_tablessql_server_2016_history_tables
sql_server_2016_history_tables
 
carreira_certificacoes_mercado_de_trabalho
carreira_certificacoes_mercado_de_trabalhocarreira_certificacoes_mercado_de_trabalho
carreira_certificacoes_mercado_de_trabalho
 
por_detras_dos_relatorios
por_detras_dos_relatoriospor_detras_dos_relatorios
por_detras_dos_relatorios
 
realizando_limpeza_de_dados_com_data_quality_services
realizando_limpeza_de_dados_com_data_quality_servicesrealizando_limpeza_de_dados_com_data_quality_services
realizando_limpeza_de_dados_com_data_quality_services
 
carreira_certificacoes_mercado_de_trabalho
carreira_certificacoes_mercado_de_trabalhocarreira_certificacoes_mercado_de_trabalho
carreira_certificacoes_mercado_de_trabalho
 
ssrs_2016_sql_day_bahia
ssrs_2016_sql_day_bahiassrs_2016_sql_day_bahia
ssrs_2016_sql_day_bahia
 
global_azure_bootcamp_2016
global_azure_bootcamp_2016global_azure_bootcamp_2016
global_azure_bootcamp_2016
 
ssrs_2016_sat_joinville
ssrs_2016_sat_joinvillessrs_2016_sat_joinville
ssrs_2016_sat_joinville
 
4_horas_microsoft
4_horas_microsoft4_horas_microsoft
4_horas_microsoft
 
desvendando_o_microsoft_datazen
desvendando_o_microsoft_datazendesvendando_o_microsoft_datazen
desvendando_o_microsoft_datazen
 
Desvendando o Microsoft Datazen
Desvendando o Microsoft DatazenDesvendando o Microsoft Datazen
Desvendando o Microsoft Datazen
 
datazen_inicio_ao_fim_sat_df
datazen_inicio_ao_fim_sat_dfdatazen_inicio_ao_fim_sat_df
datazen_inicio_ao_fim_sat_df
 
datazen_inicio_ao_fim_sat_sp
datazen_inicio_ao_fim_sat_spdatazen_inicio_ao_fim_sat_sp
datazen_inicio_ao_fim_sat_sp
 

SSIS Dinâmico Incremental

  • 1. Desenvolvendo Cargas de Dados Dinâmicas e Incrementais com Integration Services
  • 2. Apresentação Senior BI Analyst at Comp Line BI and Database Consultant and Instructor - One Way Solution Writer – SQL Magazine OLAP and ETL Consultant and Instructor – BI do Brasil Microsoft Certified Professional
  • 3. Agenda  Extract, Transformation and Load – Introdução  Conhecendo o MS Integration Services  Arquitetura do MS Integration Services  Conhecendo alguns componentes do SSIS  Constraints, Variáveis, Parâmetros e Expressões  Foreach Loop Container  Desenvolvendo cargas Padrões com SSIS  Processo de carga Dinâmico – Arquitetura e Criação  Implementando a carga incremental no SSIS
  • 4. Extract, Transformation and Load - Introdução O ETL visa trabalhar com toda a parte de extração de dados de fontes externas, transformação para atender às necessidades de negócios e carga dos dados dentro do Data Warehouse. Em tempo de execução ele é divido em Extração, Transformação e Carga de dados.
  • 5. Conhecendo o MS Integration Services O Microsoft Integration Services é responsável por permitir a construção de cargas de integração de dados e ETL para Data Warehouse;
  • 7. Solution Project 1 Project 2 Project 3 Recipiente Macro; Dentro de uma Solução é possível criar vários projetos da solução Microsoft – SSIS, SSAS, SSRS; Arquitetura do MS Integration Services
  • 8. Project Package 1 Package 2 Connection 1 Recipiente onde se cria os pacotes de ETL a seremdesenvolvidos; Criação das conexões globais; Arquitetura do MS Integration Services
  • 9. Recipiente para desenvolvimento dos Fluxos de controle e de dados. Package Control Flow Arquitetura do MS Integration Services
  • 10. Control Flow Recipiente onde se cria o fluxo de Dados; Possibilidade de fazer algumas configurações. Exemplo - Email Container Execute SQL Send Mail Data Flow Arquitetura do MS Integration Services
  • 11. Data Flow Task usada para trabalho a nível de Dados. Inúmeras possibilidades; Lookup Merge Join Sort Merge … Arquitetura do MS Integration Services
  • 12. Destino 2 Destino 1 CondiçãoMesclar Origem 2 Origem 1 Task usada para trabalho a nível de Dados. Arquivo txt Data Flow Task Destino 3
  • 13. Execute SQL Task Usado para executar comandos em SQL padrão ANSI e/ou T-SQL;
  • 14. Destino 1 Destino 2 Origem Precedência de Constraints Destino 3
  • 15. A precêdencia COMPLETION Exige apenas que o executável de precedência seja concluído, independente do resultado. Precedência de Constraints Destino 1 Origem
  • 16. A precêdencia SUCCESS exite que o executável de precedência seja executado com sucesso. Precedência de Constraints Destino 2 Origem
  • 17. A precêdencia FAILURE exige que o executável de precedência deve falhar. Geralmente utilizado para tratamento de erros. Precedência de Constraints Origem Destino 3
  • 18. Passo 3 Passo 1 Passo 2 AND Passo 2 Multiplas de Constraints OR Passo 1 Passo 2 Passo 3
  • 19. Se a opção AND for ativada em seu Control Flow, você estará indicando logicamente que SOMENTE se os dois primeiros passos tiverem sido concluídos, o Controle pode prosseguir para o Passo 3. Multiplas de Constraints AND Passo 2Passo 1 Passo 2 Passo 3
  • 20. Se a opção OR for ativada em seu Control Flow, você estará indicando logicamente para que caso um dos dois primeiros passos tiverem sido concluídos, o Controle pode prosseguir para o Passo 3. Multiplas de Constraints Passo 3 Passo 1 Passo 2 OR
  • 21. Dentro da ferramenta do Integration Services é possível trabalhar com dois tipos de variáveis: Variáveis de Usuário – Criadas dentro do Pacote pelo desenvolvedor. Variáveis de Sistema – Guardam dados em tempo de execução do pacote. Dados Variável Variável
  • 22. Parâmetros são recipientes que recebem o valor corrente de uma determinada variável e aplica esse valor em uma determinada situação. Dentro do SSIS um parâmetro é mapeado através do character ‘?’ Variável Parâmetro Parâmetro
  • 23. Uma expressão é uma combinação de símbolos (identificadores, literais, funções e operadores) gera um único valor de dados. Expressões
  • 24.  Funções Matemáticas  Funções de String  Funções de Data e Hora  Funções para tratamento de NULL  Funções para conversão de tipo de dados  Operadores Expressões
  • 25. Foreach Loop Container irá se repetir para cada elemento retornada de uma matriz. Loop Elemento 1 Elemento 2 Elemento 3 Foreach Loop Container
  • 26. 1. Diretório 2. Listagem Manual 3. Linhas retornadas de um Objeto 4. Tabelas de banco de dados 5. Variável 6. XML 7. Objetos do Banco (tabelas, views) Foreach Loop Container
  • 28. Processo de Carga Dinâmico - Arquitetura e Criação Acha Parâmetros Habilita a Trace Flag 610 Desabilita a Trace Flag 610 Retorna Colunas Carrega Tabela Container
  • 29. Implementando a carga incremental no SSIS Acha Parâmetros Habilita a Trace Flag 610 Container Habilita a Trace Flag Desabilita a Trace Flag Retorna Colunas Retorna Colunas Retorna Colunas Retorna Colunas Valida Dipo de Carga
  • 30. Referências  https://msdn.microsoft.com/en- us/library/ms141134.aspx  https://msdn.microsoft.com/en- us/library/ms137681.aspx  https://msdn.microsoft.com/en- us/library/ms141261.aspx  https://msdn.microsoft.com/en- us/library/ms139733.aspx
  • 31. Contatos Email - arthurjosemberg@gmail.com Linkedin – Arthur Luz Twitter - @arthurjosemberg Skype - arthurjosemberg Blog – arthurluz.wordpress.com