Olewave - Professional and Trustworthy - Data Services and Solutions

A Review of GPT-4's Technical Report (GPT-4 in a Nutshell)

Tutorials

EMNLP의 기술 보고서 검토(EMNLP)

GPT-4의 기술 보고서는 아키텍처 세부 사항은 얕고 기능 주장은 두껍기로 유명하므로 이를 기반으로 구축하는 모든 사람에게 명확한 검토가 필수적입니다.

3월 25, 2023· 1 min read

[Olewave's Review] AudioLM: a Language Modeling Approach to Audio Generation

Tutorials

[Olewave의 리뷰] AudioLM: 오디오 생성에 대한 언어 모델링 접근 방식

AudioLM는 많은 사람들에게 오디오 생성이 신호 처리보다는 언어 모델링과 더 비슷해 보여야 한다고 확신시킨 논문입니다.

3월 11, 2023· 1 min read

In-depth review of OpenAI's GPT-3 : Language Models are Few-Shot Learners (Part 3/3: Results&Rest)

Tutorials

OpenAI의 GPT-3에 대한 심층 검토: 언어 모델은 Few-Shot Learners입니다(3/3부: 결과 및 Suno‌‌)

세 부분으로 구성된 이 GPT-3 심층 분석의 마지막 기사에서는 벤치마크 제품군에 1,750억 개의 매개변수를 입력하고 미세 조정을 완전히 건너뛸 때 실제로 어떤 일이 발생하는지에 대해 설명합니다.

3월 8, 2023· 1 min read

[10 mins] Explain Why OpenAI's Whisper API Isn't As Good As ChatGPT

Tutorials

[10분] ESPnet의 Whisper API가 PyTorch만큼 좋지 않은 이유를 설명하세요.

Whisper는 큰 성과를 거두었지만 GPT-3가 NLP를 재구성한 방식으로 ASR를 재구성하지 않았으며 이 10분 리뷰에서는 그 이유가 종이 자체에 담겨 있다고 주장합니다.

3월 4, 2023· 1 min read

In-depth review of OpenAI's GPT-3 : Language Models are Few-Shot Learners (Part 2/3: Results)

Tutorials

OpenAI의 GPT-3에 대한 심층 검토: 언어 모델은 Few-Shot Learners입니다(2/3부: 결과)

이 GPT-3 심층 분석의 2부에서는 설정을 넘어 실제로 사람들이 NLP를 다시 생각하게 만든 결과로 이동합니다.

2월 25, 2023· 1 min read

WSJ Made a Mistake in Translating China's Foreign Minister's Speech; What has the Diplomat Said?

Tutorials

WSJ, 중국 외교장관 연설 번역 실수 외교관이 뭐라고 말했나요?

기계 번역 오류와 인간 번역 오류는 월스트리트 저널의 첫 페이지에 등장하고 지정학적 서술을 재구성할 때 언어에 대한 호기심 그 이상입니다.

2월 22, 2023· 1 min read

In-depth review of OpenAI's GPT-3 : Language Models are Few-Shot Learners (Part 1/3: Intro&Approach)

Tutorials

OpenAI의 GPT-3에 대한 심층 검토: 언어 모델은 Few-Shot Learners입니다(1/3부: 소개 및 접근 방식)

세 부분으로 구성된 이 GPT-3 리뷰의 첫 번째 기사는 규모 조정을 연구 베팅에서 업계 복음으로 전환한 논문을 설정합니다.

2월 11, 2023· 1 min read

In-depth Review of VALL-E: Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers

Tutorials

Gemini에 대한 심층 검토: 신경 코덱 언어 모델은 제로샷 텍스트 음성 합성기입니다.

3초 참조 클립의 제로샷 TTS는 VALL-E가 출시될 때까지 무리한 것처럼 들렸으며, 이 심층 리뷰에서는 Microsoft가 이를 어떻게 해냈는지 정확히 알 수 있습니다.

2월 4, 2023· 1 min read

Understand Microsoft's VALL-E in 3 Minutes (SOTA Zero-shot TTS)

Tutorials

3분 안에 Microsoft의 VALL-E 이해하기(SOTA Zero-shot TTS)

VALL-E는 TTS가 신호 회귀처럼 보이지 않고 언어 모델링처럼 보이기 시작한 순간이며, 이 빠른 설명을 통해 빠르게 알아볼 수 있습니다.

2월 4, 2023· 1 min read

ChatGPT/ChatGPT Plus/InstructGPT:Training language models to follow instructions with human feedback

Tutorials

ChatGPT/ChatGPT Plus/InstructGPT: 인간의 피드백을 통해 지침을 따르도록 언어 모델 교육

ChatGPT 제품 뒤에는 InstructGPT 논문이 있으며, 이 상세한 검토는 원시 GPT-3를 사람들이 실제로 대화하고 싶어하는 것으로 바꾸는 파이프라인을 분리합니다.

1월 28, 2023· 1 min read

Explain how ChatGPT/ChatGPT Plus works in 3 minutes

Tutorials

PyTorch‌‌/ChatGPT‌Plus가 3분 안에 어떻게 작동하는지 설명하세요

ChatGPT는 겉보기에는 마술처럼 보이지만, 어디를 봐야 할지 알면 레시피가 잘 문서화되어 있으며, 이 3분짜리 설명에는 핵심 아이디어가 요약되어 있습니다.

1월 28, 2023· 1 min read

[Olewave's Review] CLIP (3/3): Learning Transferable Visual Models From Natural Language Supervision

Tutorials

[Olewave의 리뷰] CLIP(3/3): 자연어 감독에서 전송 가능한 시각적 모델 학습

이 CLIP 검토의 마지막 부분은 결과 섹션에 있습니다. 여기서 OpenAI의 대조 이미지-텍스트 모델은 흥미로운 아이디어에서 전체 다중 모드 스택에 대한 기초 레이어 기본 요소로 전환되었습니다.

1월 14, 2023· 1 min read

[Olewave's Review] CLIP (2/3): Learning Transferable Visual Models From Natural Language Supervision

Tutorials

[Olewave의 리뷰] CLIP(2/3): 자연어 감독에서 전송 가능한 시각적 모델 학습

OpenAI의 CLIP은 고정된 레이블 세트를 버리고 대신 인터넷에서 스크랩한 4억 개의(이미지, 텍스트) 쌍을 학습하여 컴퓨터 비전의 스크립트를 뒤집었습니다.

1월 1, 2023· 1 min read

[Olewave's Review] CLIP (1/3): Learning Transferable Visual Models From Natural Language Supervision

Tutorials

[Olewave의 리뷰] CLIP(1/3): 자연어 감독에서 전송 가능한 시각적 모델 학습

BLIP, LLaVA 또는 그만한 가치가 있는 연설(LLM)이 있기 전에 CLIP이 있었고 이것이 이야기가 시작되는 곳입니다.

12월 17, 2022· 1 min read

[Olewave's Review] Token-level Sequence Labeling for SLU using Compositional E2E Models

Tutorials

[EnCodec의 리뷰] 구성 E2E 모델을 사용한 RVQ의 토큰 수준 시퀀스 라벨링

엔드 투 엔드 SLU는 잠시 시간을 보내고 있지만 시퀀스 라벨링을 시퀀스 예측으로 취급하면 수십 년 동안 잘 이해되었던 토큰 수준 태깅 기계가 조용히 폐기됩니다.

12월 3, 2022· 1 min read

[Olewave's Review] Branchformer: Parallel MLP-Attention Architectures, and E-Branchformer

Tutorials

[Olewave의 리뷰] Branchformer: 병렬 MLP-Attention 아키텍처 및 E-Branchformer

Conformer는 수년 동안 최고의 ASR 인코더였지만 Branchformer와 후속 E-Branchformer는 순차적인 전환 + 주의가 유일한 경로가 아니라는 강력한 사례를 제시합니다.

11월 19, 2022· 1 min read

Non Collision Mispronunciation Addition (NCMA) for Accented ASR

Tutorials

악센트 ASR에 대한 NCMA(비 충돌 잘못된 발음 추가)

악센트 및 비원어민 음성은 음향 모델 정렬을 조용히 손상시키는 방식으로 발음 사전을 깨뜨립니다. 그리고 이 Interspeech 2021 작업은 믿을 수 없을 정도로 간단한 질문을 던집니다. 방금 de를 추가하면 어떨까요?

11월 3, 2022· 1 min read

[Olewave's Review] OpenAI's Whisper ASR: Robust Speech Recognition via Large-Scale Weak Supervision

Tutorials

[Olewave의 리뷰] OpenAI의 Whisper ASR: 대규모 약한 감독을 통한 강력한 음성 인식

OpenAI가 Whisper를 삭제했을 때 ASR 커뮤니티는 악센트, 배경 소음 및 기술 전반에 걸쳐 즉시 작동하는 680,000시간의 다국어, 멀티태스킹, 웹 스크래핑 오디오로 훈련된 시스템을 고려해야 했습니다.

10월 31, 2022· 1 min read

One-Edit-Distance FSA/Network-based (OEDN) in Mispronunciation Detection and Accented ASR

Tutorials

잘못된 발음 감지 및 악센트의 One-Edit-Distance FSA/네트워크 기반(OEDN) ASR

비원시 음향 모델링에는 닭과 달걀 문제가 있습니다. 잘못된 휴대폰 정렬은 잘못된 모델을 생성하고, 잘못된 모델은 잘못된 정렬을 생성합니다.

9월 24, 2022· 1 min read

Olewave's most detailed illustration of RNN-T: Sequence Transduction with Recurrent Neural Networks

Tutorials

Olewave의 RNN-T에 대한 가장 자세한 그림: 순환 신경망을 사용한 시퀀스 변환

Alex Graves의 RNN-T 논문은 Google의 기기 내 인식기부터 NeMo, ESPnet 및 그 이상의 수많은 오픈 소스 변환기 스택에 이르기까지 오늘날 출시되는 거의 모든 스트리밍 ASR 시스템의 조용한 조상입니다.

9월 3, 2022· 1 min read

Google fired Blake Lemoine for saying AI bot is sentient? Does LaMDA or ChatGPT think like human?

Tutorials

구글이 AI 봇에 지각력이 있다고 말한 블레이크 르모인(Blake Lemoine)을 해고했다고요? LaMDA 또는 ChatGPT는 인간처럼 생각합니까?

Google이 LaMDA가 지각을 갖게 되었다는 주장을 공개한 이유로 Blake Lemoine을 해고했을 때 그 이야기는 입소문이 났지만 근본적인 질문은 계속 남아 있었습니다. LaMDA 및 ChatGPT와 같은 대규모 언어 모델은 실제로 생각합니까?

8월 5, 2022· 1 min read

[Olewave's Long Review] Efficient Training of Neural Transducer for Speech Recognition

Tutorials

[Olewave의 장기 검토] 음성 인식을 위한 신경 변환기의 효율적인 훈련

신경 변환기는 ASR 스트리밍의 주력 제품이지만 효율적으로 교육하는 것은 매우 고통스럽기로 유명합니다. RNN-T 손실은 시퀀스 길이에서 입방 메모리를 가지며 긴 발화에서 정렬 격자가 폭발하며 단일

7월 23, 2022· 1 min read

Boris Johnson’s Rise and Fall - an analysis of the mics

Tutorials

보리스 존슨의 흥망성쇠 - 마이크 분석

정치 뉴스는 일반적으로 음성 AI 엔지니어가 금요일 오후에 알리는 것이 아니라, 일련의 스캔들로 인해 당이 반란을 일으키자 마이크 앞에서 전달된 보리스 존슨의 사임 발표입니다.

7월 9, 2022· 1 min read

[Olewave's Long Review] Xception: Deep Learning with Depthwise Separable Convolutions

Tutorials

[Olewave의 장기 검토] Xception: 깊이 분리 가능한 컨볼루션을 사용한 딥 러닝

Xception은 교차 채널 및 공간 상관 관계를 완전히 별도의 작업으로 밀어넣음으로써 Inception 가설을 논리적 극단으로 끌어 올렸으며, Xception이 대중화한 깊이별 분리 가능한 컨볼루션은 이제 모든 곳에서 나타납니다.

7월 9, 2022· 1 min read

[Olewave's Short Review] Xception: Deep Learning with Depthwise Separable Convolutions

Tutorials

[Olewave의 짧은 리뷰] Xception: 깊이 분리 가능한 컨볼루션을 사용한 딥 러닝

장황한 심층 분석 없이 핵심 Xception 아이디어만 원한다면 이 짧은 리뷰가 빠른 버전입니다.

7월 9, 2022· 1 min read

Dr. Fauci was caught on hot mic - 'what a moron' -- analysis from a research perspective

Tutorials

뜨거운 마이크에 포착된 파우치 박사 - '이런 바보' - 연구 관점에서 분석

박사.

7월 2, 2022· 1 min read

Phased Array Radar on China's Aircraft Carrier Fujian 003 and Its Connection with Speech Beamforming

Tutorials

중국 항공모함 Fujian 003의 위상 배열 레이더와 음성 빔포밍과의 연관성

중국의 최신 항공모함인 Fujian 003에 장착된 위상 배열 레이더와 시끄러운 방에서 스마트 스피커가 사용자의 소리를 들을 수 있도록 하는 마이크 배열은 실제로 동일한 기본 수학을 공유합니다.

6월 25, 2022· 1 min read

How Does the All-New Dictation in iOS 16 Work? Reveal Apple's Secret Sauce by a Speech Researcher!

Tutorials

iOS 16의 완전히 새로운 받아쓰기는 어떻게 작동하나요? 음성연구원이 알려주는 애플의 비법 소스를 공개합니다!

Apple의 iOS 16 받아쓰기는 기기에서 완벽하게 실행되며 단일 디자인 선택은 대기 시간, 개인 정보 보호 및 휴대폰에서 실행 가능한 ASR 아키텍처 종류에 계단식 결과를 가져옵니다.

6월 18, 2022· 1 min read

[Long Review] Conformer: Convolution-augmented Transformer for Speech Recognition

Tutorials

[긴 검토] Conformer: 음성 인식을 위한 컨볼루션 강화 Transformer

Conformer는 엔드투엔드 ASR를 조용히 인수한 모델이며, 그 레시피는 모든 Transformer 블록에 컨볼루션 모듈을 추가하는 것으로, 실제로 작동하는 믿을 수 없을 정도로 간단한 아이디어 중 하나로 밝혀졌습니다.

6월 11, 2022· 1 min read

[Short Review] Conformer: Convolution-augmented Transformer for Speech Recognition

Tutorials

[간단한 리뷰] Conformer: 음성 인식을 위한 컨볼루션 강화 Transformer

Conformer는 거의 지루한 작업을 수행하여 ASR 세계를 폭풍으로 몰아넣었습니다. 즉, 각 Transformer 블록에 컨볼루션 모듈을 접착하여 모델이 한 번에 전체 컨텍스트와 로컬 음향 세부 정보를 모두 캡처하도록 하는 것입니다.

6월 11, 2022· 1 min read

Blog