OpenAI의 GPT-3에 대한 심층 검토: 언어 모델은 Few-Shot 학습자입니다 (파트 2/3: 결과)
이 GPT-3 심층 분석의 2부는 설정을 넘어 실제로 사람들이 NLP를 재생각하게 한 결과로 이동합니다.
이 GPT-3 심층 분석의 2부는 설정을 넘어 실제로 사람들이 NLP를 재생각하게 한 결과로 이동합니다. 이것이 논문이 벤치마크를 쌓기 시작하는 부분입니다: 번역, 질문 답변, 클로즈 완성, Winograd 스타일의 상식, 그리고 향후 몇 년의 LLM 연구를 정의할 신흥 추론의 초기 힌트. 전체 프레이밍은 few-shot입니다. 즉, 그래디언트 업데이트 없음, 작업 특정 미세 조정 없음, 프롬프트만 있습니다.
이 설명의 가치 있는 점은 어떤 숫자가 올라갔는지뿐만 아니라 OpenAI가 어떻게 측정하기로 선택했는지 설명한다는 것입니다. Zero-shot, one-shot, few-shot 열은 각 벤치마크당 세 가지 다른 이야기를 전달하며, 해석이 항상 명확한 것은 아닙니다. 음성-AI 실무자의 경우, 옮길 수 있는 아이디어는 규모와 프롬프팅이 많은 작업 특정 엔지니어링을 대체할 수 있다는 것입니다. 이는 현재 음성 LLM과 지시 튜닝된 TTS를 주도하고 있는 동일한 내기입니다. 이를 세 부분 시리즈의 중간 장으로 큐에 넣으세요. 순서대로 시청할 때 가장 잘 작동합니다.
