Uploaded bySean Liu
The Development of Large Language Models
文档探讨了大语言模型的发展，特别是生成图像的技术，包括无监督学习和注意力机制的应用。详细讨论了文本编码与图像编码的转换过程，并比较了不同的学习模型。最后回顾了从基于规则的系统到神经网络和Transformer架构的发展趋势。
The Development of Large Language Models
- 1.
- 2. 文生图（以DALLE2为例） a teddybear on a skateboardin times square 1 0 1 0 0 1 Prior GLIDE CLIP text embedding CLIP image embedding
- 3. One-hot representation vsword embedding 1. 无法表达词语之间的关系 2. 这种过于稀疏的向量，导致计算和存储的效率都不高 1. 它可以将文本通过一个低维向量来表达，不像 one-hot 那么长。 2. 语意相似的词在向量空间上也会比较相近。 3. 通用性很强，可以用在不同的任务中。
- 4.
- 5.
- 6.
- 7.
- 8. PRIOR训练过程 将CLIP中训练好的text encoder拿出来，输入文本y，得到文本编码zt。同样将CLIP中训练好的img encoder拿出来，输入图像x 得到图像编码zi。我们希望 prior能从zt获取相对应的zi。假设zt经过prior输出的特征为zi′，那么我们自然希望zi′与zi越接近越好，这样来更新我们的prior模块。最终训练好的prior，将与 CLIP的text encoder串联起来，它们可以根据我们的输入文本y生成对应的图像编码特征zi了
- 9.
- 10.
- 11.
- 12.
- 13.
- 15.
- 16. 回顾发展趋势 基于规则 机器学习 神经网络Transformer GPT3 ChatGPT 基于规则，简单粗暴， 处理有限数据 通过函数分类回归 处理固定量数据 提前标记一些数据，开始像 人脑分类学习大量数据 模拟人脑学习过程， 开始关注重点而非全部 投喂海量数据， 无需分类标注 接受人类反馈 成为学习过程一部分 1950 1980 1990-2016 2017 2020 2022
- 17. 参考 • https://www.daimajia.com/2023/01/03/aigc • https://blog.csdn.net/kittyzc/article/details/125171172 •https://stable-diffusion-art.com/how-stable-diffusion-work/ • https://blog.csdn.net/zcyzcyjava/article/details/126992705 • https://easyai.tech/ai-definition/attention/ • https://easyai.tech/ai-definition/word-embedding/
- 18.