Solana Developer Hub Online #0

1. AIで始めるRustプログラミング
Solana Developer Hub #0

2. Kouta Ozaki / k-kinzal
LLM大好きおじさん

3. 注意
2023/11時点での話であり、明日には変わってるかもしれない
経験という主観に基づく話であり、実は違うかもしれない

5. 基礎知識

6. はい、大丈夫です
最近のモデルでは比較的マシになったが、問いかけに対して肯定して返すことが多い
大丈夫ではないことを聞きたいのであれば「問題を指摘してください」と言い換えるのが望ましい
ただし、問題がないときに、問題ではないことを問題があるという可能性は一定あるため
LLMは肯定する
これは大丈夫ですか？

7. LLMには入出力の長さに制限がある
128k トークン
4k トークン
※ 2023/11時点でのOpenAI GPT-4モデルでは128k in、4k outの制限

8. 記憶領域
LLMは古い会話を忘れる
会話3
会話2
会話1
アプリケーションによるが記憶 + 新規メッセージがLLMからの入力になる
そのときトークン制限にかかるようなら古い会話が排出されるウィンドウ方式が一般的
長く会話をすると、前の内容を忘れてしまう原因はコレ
※ アプリケーションの実装によります

9. 指示
修正
確認
出力
LLMを使ってモノを作るときはこのサイクルを回していくのが基本になる
• 1つの指示につき、1つの内容ぐらいが精度の高い出力を保ちやすい
• 入出力のトークン数の制限もあり、小さいやりとりを何度も回すのが望ましい
LLMは1回で完全な出力を出さない

10. LLMは特有の癖があるので癖を認識するの大事
LLMは文字列生成ゲームなので期待する文字列を狙って生成する
期待する結果が出ないのはだいたいプロンプトが悪いというので試行錯誤が大事

11. 実演

12. 実演1

13. 仕事で他の人に作業を依頼するのと同じ
わかりやすく、簡潔な指示を出すのが大事
ただ、見てわかる通り自分で書いた方が早いというのはある
そういう人たちはツールに統合されたLLMを活用しよう

14. 実演2

15. 意思決定は人間の仕事
判断がつかないなら掘り下げていくことが大事
もし、怪しい回答だけど自信はないなら論理的に詰めていく、新しいチャットで逆の質問をして
みるなどして確認を取るといいかも

17. プロンプトを毎回詰めるのは大変なのでGPTsを作ろう
本気を出して作り込むならAssistant APIもあるけど、とりあえず専用のタスクを実行するGPTs
を作ると便利

18. ツールの紹介

19. AI特化のエディターもある
LLMを使った開発体験として最良なので一度は触ってほしい

20. テストケースの生成だと今の所codiumのIntegrity-Agent: IDE Pluginが優秀
GitHubのCopilot ChatのTest Generateは少し物足りない

21. LLMでPRのレビューをするのもある
・PR Agent (codium)
・CodeRabbit
日本ではこの2つが有名。将来的にはGitHubが
Copilot for PRを出してくるので本命はそちら

22. Issueを作るとPRを作ってくれるのもある
将来的にGitHubのCopilot Workspaceを出してくるので本命はそちら

23. おわりに

24. もうAIがないと開発できない体になっちゃった

25. おわり