如果您可以在沒有任何人工標註範例的情況下訓練任務特定的 NLP 模型呢？"Towards Zero-Label Language Learning" 著力強調了這個問題。關鍵是無監督數據生成 (UDG)，它使用少樣本提示在大型預訓練語言模型（如 GPT-3）上合成其自己的訓練集，然後完全在合成數據上微調下游模型。

此長篇評論詳細介紹了 UDG 管道及其令人驚訝的結果：僅在合成數據上訓練的模型與在真實人工標註上訓練的基準相匹配或超越，當您將合成數據與標籤數據混合作為增強時，該方法在 SuperGLUE 上設置了新的最先進的分數。對於語音和語音 AI 團隊，含義很明確，這是為意圖分類、語義解析和任何下游 NLU 任務自動生成標籤的方法。如果您正在規劃下一個合成數據管道，這個深入分析將涵蓋每一部分。