ماذا لو أن البيانات المسماة التي قضيت أشهراً في شرحها لم تكن ضرورية على الإطلاق؟ يدفع بحث Google "نحو التعلم اللغوي بدون تسميات" هذا الاستفزاز بشدة، ويظهر أن نماذج اللغة الكبيرة يمكنها توليد مجموعات التدريب الاصطناعية الخاصة بها من لا شيء سوى وصف المهمة وبعض الأمثلة داخل السياق. النتيجة هي خط أنابيب يقوم فيه النموذج بتدريس نموذج طالب أصغر على بيانات اخترعها بنفسه، ويحقق الطالب نتائج مشابهة مع المعايير المرجعية الموجهة بالكامل على SuperGLUE.

بالنسبة لفرق الذكاء الصوتي التي تمتلك مجموعات بيانات معنونة صغيرة لكن قيمة جداً، التأثير واضح: إذا كان توليف البيانات غير الموجهة يعمل بهذا الشكل الجيد لـ NLU، فيمكن لطرق مشابهة أن تقوم ببدء مصنفات النوايا وملء الفتحات أو تكيف المجال لمعالجة ما بعد ASR دون الحاجة إلى عمليات شرح توضيحي جديدة. توضح هذه المراجعة القصيرة حلقة توليد البيانات من المطالبات وإعداد التقطير والأرقام التي تدعم هذا الادعاء. جربها إذا كانت خطوط أنابيب البيانات بدون تسميات ضمن خططك.