Tutorials
公开 OpenAI GPT-4 的视觉+文本模型、数据和训练成本（推测）
众所周知，OpenAI 拒绝透露 GPT-4 的架构、参数计数、训练数据或计算预算，这使得该技术报告变成了 ML 社区的罗夏墨迹测试。
Tutorials
GPT-4 技术报告回顾（GPT-4 简而言之）
GPT-4 的技术报告在架构细节方面的内容很少，而在功能声明方面却很丰富，这使得清晰的审查成为任何在其基础上进行构建的人的必读书。
Tutorials
深度回顾 OpenAI 的GPT-3：语言模型是小样本学习者（第 3/3 部分：结果&Rest）
GPT-3 深入研究的最后一部分由三部分组成：当您在基准测试套件中投入 1750 亿个参数并完全跳过微调时，实际会发生什么。
Tutorials
ChatGPT/ChatGPT Plus/InstructGPT：训练语言模型遵循人类反馈的指令
ChatGPT 产品的背后是 InstructGPT 论文，这篇详细的评论揭示了将原始 GPT-3 变成人们真正想要交谈的东西的流程。
Tutorials
在 3 分钟内解释ChatGPT/ChatGPT Plus 的工作原理
ChatGPT 从外面看起来就像魔法一样，但如果您知道在哪里查看，其配方就有详细记录，并且这个三分钟的解释浓缩了核心思想。
![[Olewave's Review] CLIP (3/3): Learning Transferable Visual Models From Natural Language Supervision](/media/video/2023/01/olewaves-review-clip-3-3-learning-transferable-visual-models-from-natural-language/preview.jpg)
Tutorials
[Olewave's Review] CLIP (3/3)：从自然语言监督中学习可迁移的视觉模型
本次 CLIP 审查的最后一部分落在结果部分，这是 OpenAI 的对比图像文本模型从一个有趣的想法转变为整个多模式堆栈的基础层原语的地方。
![[Olewave's Review] CLIP (2/3): Learning Transferable Visual Models From Natural Language Supervision](/media/video/2023/01/olewaves-review-clip-2-3-learning-transferable-visual-models-from-natural-language/preview.jpg)
Tutorials
[Olewave's Review] CLIP (2/3)：从自然语言监督中学习可迁移的视觉模型
OpenAI 的 CLIP 翻转了计算机视觉的脚本，抛弃了固定的标签集，而是对从互联网上抓取的 4 亿对（图像、文本）进行训练。
![[Olewave's Review] CLIP (1/3): Learning Transferable Visual Models From Natural Language Supervision](/media/video/2022/12/olewaves-review-clip-1-3-learning-transferable-visual-models-from-natural-language/preview.jpg)
Tutorials
[Olewave's Review] CLIP (1/3)：从自然语言监督中学习可迁移的视觉模型
在 BLIP、LLaVA 或任何有价值的演讲 LLM 出现之前，就已经出现了 CLIP，这就是故事的开始。