Conceitos de Arquitetura
para criar sua primeira
aplicação com AI
GenAI com
Java
GENAI FOI A
TREND DO ANO
for Command Line Interface
Gartner
McKinsey
Accenture
POR QUE
IMPORTA
PARA NÓS?
Código
Testes
Documentação
Novos produtos e serviços
Código
Testes
Documentação
Novos produtos e serviços
e pode ser divertido!
PRINCÍPIOS E
FUNDAMENTOS
Input Output
Application
Modelos
Modelos treinados para encontrar
padrões e GERAR texto, imagem,
audio ou outra mídia.
Input Output
Application
Write hello world in Java
public class HelloWorld {
public static void main(String[] args) {
System.out.println("Hello, World!");
}
}
Prompts
Input Output
Application
Titanic 🛳️🌊🧊🚢💔👫🎶🔥🌟💏
Memória
Input Output
Application
Write hello world in Java
public class HelloWorld {
public static void main(String[] args) {
System.out.println("Hello, World!");
}
}
Change the output to
'TDC Future'
Input Output
Application
Write hello world in Java
public class HelloWorld {
public static void main(String[] args) {
System.out.println("Hello, World!");
}
}
Change the output to
'TDC Future'
STATELESS
Retrieval
(RAG)
Adicionar contexto para o modelo
0
https://odsc.medium.com/a-gentle-introduction-to-vector-search-3c0511bc6771
https://www.datacamp.com/blog/the-top-5-vector-databases
Agentes
Programar ações para auxiliar o
modelo
LIMITAÇÕES
Não determinística
Limite de Tokens
Custos para API
Execução local pesado
Segurança dos dados
langchain4j (https://github.com/langchain4j)
Introduction to Generative AI (https://www.youtube.com/watch?v=G2fqAlgmoPo)
Introduction to LangChain (https://www.baeldung.com/java-langchain-basics)
Java Meets AI: A Hands-On Guide to Building LLM-Powered Applications with LangChain4j (https://devoxx.be/talk/?
id=34002)
From Clicks to Conversations: Designing LLM-powered Apps (https://devoxx.be/talk/?id=34553)
The architecture of today’s LLM applications (https://github.blog/2023-10-30-the-architecture-of-todays-llm-
applications/)
How do domain-specific chatbots work? An Overview of Retrieval Augmented Generation (RAG)
(https://scriv.ai/guides/retrieval-augmented-generation-overview/)
CodeWhisperer CLI (https://docs.aws.amazon.com/codewhisperer/latest/userguide/command-line-getting-started-
installing.html)
Life Architect (https://lifearchitect.ai)
Vector databases (2): Understanding their internals (https://thedataquarry.com/posts/vector-db-2/)
Referências
Quer saber mais sobre Arquitetura de
Software?
Baixe meu E-book:
Yugo Sakamoto
Arquiteto de Software, Tech Lead e Data
Science Manager na Accenture
OBRIGADO!
@ymoto
yugo-sakamoto
https://sendfox.com/yugoccp

TDC Future 2023.pdf