画像またはビデオ全体にわたる完全な自己注意は禁止的に高価であるため、二次的なブローアップなしでTransformerの表現力をどのように保ちますか？Ho、Kalchbrenner、Weissenborn、およびSalimanは軸方向注意を提案します：テンソルの1つの軸に沿ってのみ注意を払い、軸をスタックすると、計算のほんの一部で完全なコンテキストが復旧されます。

Axial Transformersペーパーのこのロングフォームレビューは、アーキテクチャを端から端まで説明し、軸方向注意層がどのように構成されるか、セミパラレルデコード構造が実際に独立の仮定なしでどのように機能するか、およびモデルがImageNet-32、ImageNet-64、およびBAIR Robotic Pushingで最先端の結果をどのように達成するかについて掘り下げます。音声エンジニアが注意すべきことは、同じトリックはスペクトログラム時間周波数グリッドを含むあらゆる高次元テンソルに適用され、論文はオープンソースされているということです。オーディオまたはマルチモーダル作業に効率的な注意を考えている場合、このディープダイブはすべての設計上の選択肢について説明します。