Olewave - Professional and Trustworthy - Data Services and Solutions

Tutorials

當 Google 因 Blake Lemoine 公開聲稱 LaMDA 已變得具有感知能力而解僱他時，這個故事引起了轟動，但底層問題仍然存在：像 LaMDA 和 ChatGPT 這樣的大型語言模型是否真正思考，

八月 5, 2022· 1 min read

Tutorials

任何運送過 ASR 產品的人都知道專有名詞的困難：聯絡人名稱、歌曲標題、藥物名稱、晦澀地名。

四月 9, 2022· 1 min read

Tutorials

長篇問題回答是那些在排行榜上看起來令人印象深刻但在顯微鏡下令人不安的基準之一。

四月 2, 2022· 1 min read

Tutorials

在 InstructGPT 使指令調優成為家喻戶曉的術語之前，Google 的 FLAN 論文表明，對自然語言指令進行適度的多任務微調可以將一個普通的 LM 轉變為令人驚訝的強大

三月 5, 2022· 1 min read

Tutorials

將 Transformer 擴展到超過一千億個參數很快會變成哲學問題：你是為每個令牌激活整個網絡，還是將每個令牌路由到真正需要查看它的專家？

二月 26, 2022· 1 min read

Tutorials

說話者自適應是那種 ASR 問題之一，聽起來已經解決，直到你實際嘗試在不破壞編碼器苦心獲得的聲學表示的情況下自適應序列到序列模型。

二月 19, 2022· 1 min read

Tutorials

以 Nathan Chen 的四周跳評分為框架，這個演講詳細介紹了 Switch Transformer，Google 對 Mixture-of-Experts 擴展的簡潔而激進的簡化版本。

二月 12, 2022· 1 min read

Tutorials

MoE 小型系列的第 2 部分轉向 GLaM，Google 的 1.2 兆參數 Mixture-of-Experts 語言模型，在 zero-shot、one-shot 和 few-shot 基準測試中匹配或超越 GPT-3，同時每個 token 只激活約 8% 的參

二月 12, 2022· 1 min read

Tutorials

BERT 在 NLP 中幾乎不需要介紹，但以語音工程師的眼光閱讀它，會發現與標準的「掩蔽語言建模改變了一切」摘要不同的一套經驗教訓。

二月 6, 2022· 1 min read

Tutorials

兩篇論文，一個故事。《Attention Is All You Need》給世界帶來了 Transformer 並重新定義了序列建模的方式，而《Listen, Attend and Spell》(LAS) 一年前為端到端語音識別做了同樣的事情

一月 29, 2022· 1 min read

Tutorials

Walter White、Jesse Pinkman 和一批未標籤音訊有什麼共同點？

一月 22, 2022· 1 min read

Tag: ai