Presentation given at The Developer Conference in Porto Alegre, December 2023 Covers Architecture concepts to help you create your first AI powered application using Java

1. Conceitos de Arquitetura
para criar sua primeira
aplicação com AI
GenAI com
Java

2. GENAI FOI A
TREND DO ANO

5. for Command Line Interface

6. Gartner

7. McKinsey

8. Accenture

9. POR QUE
IMPORTA
PARA NÓS?

10. Código
Testes
Documentação
Novos produtos e serviços

11. Código
Testes
Documentação
Novos produtos e serviços
e pode ser divertido!

12. PRINCÍPIOS E
FUNDAMENTOS

14. Input Output
Application

15. Modelos

16. Modelos treinados para encontrar
padrões e GERAR texto, imagem,
audio ou outra mídia.

18. Input Output
Application
Write hello world in Java
public class HelloWorld {
public static void main(String[] args) {
System.out.println("Hello, World!");
}
}

21. Prompts

22. Input Output
Application
Titanic 🛳️🌊🧊🚢💔👫🎶🔥🌟💏

23. Memória

24. Input Output
Application
Write hello world in Java
public class HelloWorld {
public static void main(String[] args) {
System.out.println("Hello, World!");
}
}
Change the output to
'TDC Future'

25. Input Output
Application
Write hello world in Java
public class HelloWorld {
public static void main(String[] args) {
System.out.println("Hello, World!");
}
}
Change the output to
'TDC Future'
STATELESS

26. Retrieval
(RAG)

27. Adicionar contexto para o modelo

28. 0

30. https://odsc.medium.com/a-gentle-introduction-to-vector-search-3c0511bc6771

31. https://www.datacamp.com/blog/the-top-5-vector-databases

32. Agentes

33. Programar ações para auxiliar o
modelo

35. LIMITAÇÕES

36. Não determinística
Limite de Tokens
Custos para API
Execução local pesado
Segurança dos dados

37. langchain4j (https://github.com/langchain4j)
Introduction to Generative AI (https://www.youtube.com/watch?v=G2fqAlgmoPo)
Introduction to LangChain (https://www.baeldung.com/java-langchain-basics)
Java Meets AI: A Hands-On Guide to Building LLM-Powered Applications with LangChain4j (https://devoxx.be/talk/?
id=34002)
From Clicks to Conversations: Designing LLM-powered Apps (https://devoxx.be/talk/?id=34553)
The architecture of today’s LLM applications (https://github.blog/2023-10-30-the-architecture-of-todays-llm-
applications/)
How do domain-specific chatbots work? An Overview of Retrieval Augmented Generation (RAG)
(https://scriv.ai/guides/retrieval-augmented-generation-overview/)
CodeWhisperer CLI (https://docs.aws.amazon.com/codewhisperer/latest/userguide/command-line-getting-started-
installing.html)
Life Architect (https://lifearchitect.ai)
Vector databases (2): Understanding their internals (https://thedataquarry.com/posts/vector-db-2/)
Referências

38. Quer saber mais sobre Arquitetura de
Software?
Baixe meu E-book:
Yugo Sakamoto
Arquiteto de Software, Tech Lead e Data
Science Manager na Accenture
OBRIGADO!
@ymoto
yugo-sakamoto
https://sendfox.com/yugoccp