التحليل المتعمق الذي أجراه باحث Google حول التعرف الشامل على الكلام، الجزء الأول: نظرة عامة والنمذجة
عقد من التعلم العميق قلل معدلات خطأ الكلمات ASR بأكثر من 50% نسبياً وفي نفس الوقت جعل خطوط أنابيب HMM الكلاسيكية تبدو بمثابة بقايا.
استبعد بنية الشبكة العصبية OpenAI GPT-4o
لم تنشر OpenAI ورقة بحثية عن GPT-4o، لذا يفعل هذا الفيديو الشيء التالي الأفضل: إنه يعكس هندسة الشبكة العصبية التي تبدو بكل تأكيد تقريباً بناءً على القدرات التي أ…
نموذج الكلام العالمي من Google لأكثر من 100 لغة يتفوق على نموذج OpenAI الخاص بـ Whisper
قام نموذج Google للكلام العالمي بشيء ملحوظ بهدوء: مطابقة أو تفوق على OpenAI's Whisper في ASR عبر 100+ لغة مع استخدام تقريباً سُبع بيانات التدريب الموسومة.
![[Detailed Paper Reading] Zipformer: A faster and better encoder for automatic speech recognition](/media/video/2024/02/detailed-paper-reading-zipformer-a-faster-and-better-encoder-for-automatic-speech/preview.jpg)
[قراءة تفصيلية للورقة] Zipformer: برنامج تشفير أسرع وأفضل للتعرف التلقائي على الكلام
كان Conformer هو مشفر ASR الافتراضي لسنوات، لكن Zipformer من فريق k2/icefall استحوذت بهدوء على تاج WER على LibriSpeech و Aishell-1 و WenetSpeech بينما كانت أسر…
مراجعة متعمقة لبرنامج SoundStream من Google: برنامج ترميز الصوت العصبي الشامل
أصبحت برامج الترميز العصبية بهدوء هي الطبقة الأساسية للصوت التوليدي الحديث، ويعد SoundStream أحد الأوراق البحثية التي بدأت العمل.
![[Olewave's Review] AudioLM: a Language Modeling Approach to Audio Generation](/media/video/2023/03/olewaves-review-audiolm-a-language-modeling-approach-to-audio-generation/preview.jpg)
[مراجعة Olewave] AudioLM: نهج نمذجة اللغة لتوليد الصوت
AudioLM هي الورقة التي أقنعت الكثير من الأشخاص بأن توليد الصوت يجب أن يبدو أشبه بنمذجة اللغة أكثر من معالجة الإشارات.
Olewave الرسم التوضيحي الأكثر تفصيلاً لـ RNN-T: نقل التسلسل مع الشبكات العصبية المتكررة
تعد ورقة RNN-T الخاصة بـ Alex Graves هي الجد الهادئ لكل أنظمة ASR المتدفقة التي يتم شحنها اليوم تقريبًا، بدءًا من أداة التعرف على الجهاز من Google وحتى عدد لا يح…
طردت Google Blake Lemoine لقوله إن روبوت الذكاء الاصطناعي واعي؟ هل يفكر LaMDA أو ChatGPT مثل الإنسان؟
عندما قامت Google بطرد Blake Lemoine بسبب إعلانه علنًا عن ادعاءات بأن LaMDA أصبح واعيًا، انتشرت القصة على نطاق واسع، لكن السؤال الأساسي بقي عالقًا: هل تفكر النماذ…
![[Olewave's Long Review] Xception: Deep Learning with Depthwise Separable Convolutions](/media/video/2022/07/olewaves-long-review-xception-deep-learning-with-depthwise-separable-convolutions/preview.jpg)
[مراجعة طويلة لـ EnCodec] Xception: التعلم العميق مع الالتفافات العميقة القابلة للفصل
أخذت Xception فرضية Inception إلى أقصى حدودها المنطقية من خلال دفع الارتباطات عبر القنوات والارتباطات المكانية إلى عمليات منفصلة تمامًا، وتظهر الآن التلافيفات ا…
![[Olewave's Short Review] Xception: Deep Learning with Depthwise Separable Convolutions](/media/video/2022/07/olewaves-short-review-xception-deep-learning-with-depthwise-separable-convolutions/preview.jpg)
[المراجعة القصيرة لـ Olewave] Xception: التعلم العميق مع الالتفافات العميقة القابلة للفصل
إذا كنت تريد فقط فكرة Xception الأساسية دون الغوص العميق الطويل، فهذه المراجعة القصيرة هي النسخة السريعة.
![[Long Review] CLAS: Deep context: end-to-end contextual speech recognition](/media/video/2022/04/long-review-clas-deep-context-end-to-end-contextual-speech-recognition/preview.jpg)
[مراجعة طويلة] CLAS: سياق عميق: التعرف على الكلام السياقي الشامل
أي شخص قام بشحن منتج ASR يعرف آلام الأسماء الصحيحة: أسماء جهات الاتصال، وعناوين الأغاني، وأسماء الأدوية، وأسماء الأماكن الغامضة.
![[Long Review] Hurdles to Progress in Long Form Question Answering](/media/video/2022/04/long-review-hurdles-to-progress-in-long-form-question-answering/preview.jpg)
[مراجعة طويلة] عقبات التقدم في الإجابة على الأسئلة الطويلة
تعد الإجابة على الأسئلة الطويلة أحد تلك المعايير التي تبدو مثيرة للإعجاب على لوحة المتصدرين ومزعجة تحت المجهر.
![[Long Review] Finetuned Language Models Are Zero-Shot Learners](/media/video/2022/03/long-review-finetuned-language-models-are-zero-shot-learners/preview.jpg)
[مراجعة طويلة] نماذج اللغة المتقنة هي متعلمون بلا أي فرصة
قبل أن تجعل InstructGPT ضبط التعليمات عبارة منزلية، أوضحت ورقة FLAN الخاصة بشركة Google أن قدرًا متواضعًا من الضبط الدقيق للمهام المتعددة على تعليمات اللغة الطبي…
![[Long Review] 'GShard': Scaling Giant Models with Conditional Computation and Automatic Sharding](/media/video/2022/02/long-review-gshard-scaling-giant-models-with-conditional-computation-and-automatic/preview.jpg)
[مراجعة طويلة] 'GShard': توسيع نطاق النماذج العملاقة باستخدام الحساب الشرطي والمشاركة التلقائية
إن توسيع نطاق Transformer لما يتجاوز مائة مليار معلمة يصبح أمرًا فلسفيًا سريعًا: هل تقوم بتنشيط الشبكة بأكملها لكل رمز مميز، أو توجيه كل رمز مميز إلى المتخصصين ال…