Tutorials
公開 OpenAI GPT-4 的視覺+文字模型、資料和訓練成本（推測）
眾所周知，OpenAI 拒絕透露 GPT-4 的架構、參數計數、訓練資料或計算預算，這使得該技術報告變成了 ML 社群的羅夏墨跡測試。
Tutorials
GPT-4 技術報告回顧（GPT-4 簡而言之）
GPT-4 的技術報告在架構細節方面的內容很少，而在功能聲明方面卻很豐富，這使得清晰的審查成為任何在其基礎上進行構建的人的必讀書。
Tutorials
深度回顧 OpenAI 的GPT-3：語言模型是小樣本學習者（第 3/3 部分：結果&Rest）
GPT-3 深入研究的最後一部分由三部分組成：當您在基準測試套件中投入 1750 億個參數並完全跳過微調時，實際上會發生什麼。
Tutorials
ChatGPT/ChatGPT Plus/InstructGPT：訓練語言模型遵循人類回饋的指令
ChatGPT 產品的背後是 InstructGPT 論文，這篇詳細的評論揭示了將原始 GPT-3 變成人們真正想要交談的東西的流程。
Tutorials
在 3 分鐘內解釋ChatGPT/ChatGPT Plus 的工作原理
ChatGPT 從外面看起來像魔法，但如果您知道在哪裡查找，其原理文檔充分，這個三分鐘的解釋器提煉了核心思想。
![[Olewave's Review] CLIP (3/3): Learning Transferable Visual Models From Natural Language Supervision](/media/video/2023/01/olewaves-review-clip-3-3-learning-transferable-visual-models-from-natural-language/preview.jpg)
Tutorials
[Olewave's Review] CLIP (3/3)：從自然語言監督中學習可遷移的視覺模型
本次 CLIP 審查的最後一部分落在結果部分，這是 OpenAI 的對比圖像文字模型從一個有趣的想法轉變為整個多模式堆疊的基礎層原語的地方。
![[Olewave's Review] CLIP (2/3): Learning Transferable Visual Models From Natural Language Supervision](/media/video/2023/01/olewaves-review-clip-2-3-learning-transferable-visual-models-from-natural-language/preview.jpg)
Tutorials
[Olewave's Review] CLIP (2/3)：從自然語言監督中學習可遷移的視覺模型
OpenAI 的 CLIP 翻轉了電腦視覺的腳本，拋棄了固定的標籤集，而是對從互聯網上抓取的 4 億對（圖像、文字）進行訓練。
![[Olewave's Review] CLIP (1/3): Learning Transferable Visual Models From Natural Language Supervision](/media/video/2022/12/olewaves-review-clip-1-3-learning-transferable-visual-models-from-natural-language/preview.jpg)
Tutorials
[Olewave's Review] CLIP (1/3)：從自然語言監督中學習可遷移的視覺模型
在 BLIP、LLaVA 或任何有價值的演講 LLM 出現之前，就已經出現了 CLIP，這就是故事的開始。