ChatGPTによるIT開発とBLO手法.pdf
•
0 likes•38 views
ChatGPT(GPT4)とIT開発していて学んだことと、将来のLLMの学習リソースの低下の懸念から、開発プロセスの公開共有のための、プロンプティングにおけるBack Loop Optimization(BLO)手法と、公開共有の重要性を提唱しています。
Recommended
More Related Content
Similar to ChatGPTによるIT開発とBLO手法.pdf
Similar to ChatGPTによるIT開発とBLO手法.pdf (20)
ChatGPTによるIT開発とBLO手法.pdf
- 1. ChatGPTによるIT開発とBLO手法 nagnag 2023/07/27 at Mercari
- 2. ChatGPT(GPT4)とIT開発していてプロン プトに関して学んだこと 1. 言語やプラットフォーム等をまたいだときChatGPTの真価が発揮される。 1. 知識範囲が広いため個人の限界を超えて越境開発できる。 2. 回答L/T=0, 24-365対応。 2. ChatGPTのプロンプトから効率よく望ましい回答を得るためには… 1. メタ認知の促進させる 1. ⽬的やコンセプトの記述（例︓最終的にやりたいことは〜〜） 2. 背景情報（例︓実は〜を解決したい。〜を課題に思っている） 3. 優先することの明⽰（例︓ユーザービリティを優先する等） 2. 細かい前提条件を明示 1. ファイル形式、文字コード、アルゴリズム… 3. これらを効率よく伝える⼿法をBack Loop Optimization（BLO）と定義
- 7. 参考︓LLMのコンテキスト理解 下記に注意してBLOしましょう。 出典： Lost in the Middle: How Language Models Use Long Contexts https://arxiv.org/abs/2307.03172 関連情報が入力文脈の始めや終わりにある場合、パフォーマンス はしばしば最高になることがわかりました。モデルが長い文脈の 中間で関連情報にアクセスしなければならない場合、パフォーマ ンスは大幅に低下します。 入力文脈が長くなるとパフォーマンスは大幅に低下し ます。
- 8. 参考︓ChatGPTのリリース後にStack Overflow への週間投稿数が16%減少 https://arxiv.org/abs/2 307.07367 • ChatGPTへの問い合 わせが増えた影響と 分析 • Stack Overflowなどの 開発者のフォーラムに おいて人同士の投稿 が減ることは、将来的 にLLMの学習リソース が低下すると懸念。 ▲ ChatGPTとのやり取りをもっと外に出すべきかもしれない。
- 9. まとめ • 開発のナレッジを共有・公開しないと将来のLLMの学習リソース が減るので、積極的に共有・公開しよう︕ • 共有のためには、意識してBLO手法などを使い、構造化・シンプ ル化して可読性を高めることが求められる。 • 場を設けることが重要。 • 積極的に勉強会やフォーラムを⽴ち上げよう。