الكشف عن نموذج رؤية+نص OpenAI GPT-4 والبيانات وتكلفة التدريب (متكهن بها)
رفضت OpenAI بشهرة الكشف عن هندسة معمارية GPT-4 وعدد المعاملات وبيانات التدريب أو ميزانية الحوسبة، مما حول التقرير التقني إلى اختبار Rorschach لمجتمع ML.
مراجعة التقرير الفني لـ GPT-4 (GPT-4 بإيجاز)
يشتهر التقرير التقني لـ GPT-4 بأنه يفتقر إلى تفاصيل الهندسة المعمارية ويركز بشكل كبير على مطالبات الإمكانيات، مما يجعل المراجعة الموضوعية قراءة ضرورية لأي شخص …
مراجعة متعمقة لـ GPT-3 من OpenAI: Language Models are Few-Shot Learners (الجزء 3/3: النتائج والبقية)
يصل الجزء الأخير من هذا الفحص العميق لـ GPT-3 ذي الثلاثة أجزاء إلى النقطة المهمة: ماذا يحدث بالفعل عندما تطبق 175 مليار معامل على مجموعة المعايير وتتجاوز الضبط…
مراجعة متعمقة في GPT-3 من OpenAI: نماذج اللغة تتعلم من عينات قليلة (الجزء 2/3: النتائج)
ينتقل الجزء الثاني من هذا الغوص العميق في GPT-3 بعد الإعداد إلى النتائج التي جعلت الناس فعلاً يعيدون التفكير في NLP.
ChatGPT/ChatGPT Plus/InstructGPT: تدريب نماذج اللغة على متابعة التعليمات برد فعل بشري
خلف منتج ChatGPT تقف ورقة InstructGPT، وتفكك هذه المراجعة المفصلة خط الأنابيب الذي حول GPT-3 الخام إلى شيء يريد الناس فعلاً التحدث معه.
شرح كيفية عمل ChatGPT/ChatGPT Plus في 3 دقائق
يبدو ChatGPT وكأنه سحر من الخارج، لكن الوصفة موثقة جيداً إذا كنت تعرف أين تبحث، وهذا الشارح لمدة ثلاث دقائق يكثف الأفكار الأساسية.
![[Olewave's Review] CLIP (3/3): Learning Transferable Visual Models From Natural Language Supervision](/media/video/2023/01/olewaves-review-clip-3-3-learning-transferable-visual-models-from-natural-language/preview.jpg)
[Olewave's Review] CLIP (3/3): تعلم النماذج البصرية القابلة للنقل من الإشراف باللغة الطبيعية
يقع الجزء الأخير من هذا الاستعراض CLIP في قسم النتائج، وهو حيث حول نموذج OpenAI المقابل للصور والنصوص من فكرة مثيرة للاهتمام إلى عنصر بدائي على مستوى الأساس لم…
![[Olewave's Review] CLIP (2/3): Learning Transferable Visual Models From Natural Language Supervision](/media/video/2023/01/olewaves-review-clip-2-3-learning-transferable-visual-models-from-natural-language/preview.jpg)
[Olewave's Review] CLIP (2/3): تعلم النماذج البصرية القابلة للنقل من الإشراف باللغة الطبيعية
قلبت CLIP من OpenAI مسار الرؤية الحاسوبية بالتخلص من مجموعات التسميات الثابتة والتدريب بدلاً من ذلك على 400 مليون زوج (صور، نصوص) مكشوطة من الإنترنت.
![[Olewave's Review] CLIP (1/3): Learning Transferable Visual Models From Natural Language Supervision](/media/video/2022/12/olewaves-review-clip-1-3-learning-transferable-visual-models-from-natural-language/preview.jpg)
[Olewave's Review] CLIP (1/3): تعلم النماذج البصرية القابلة للنقل من الإشراف باللغة الطبيعية
قبل أن يكون هناك BLIP أو LLaVA أو أي speech-LLM جدير بالاهتمام، كان CLIP موجوداً، وهنا حيث تبدأ القصة.