返回Glossary
Transformer 架构
一种基于自注意力机制的神经网络架构，最初为 NLP 设计，现已在多种模态中占主导地位。Transformer 并行处理令牌序列，计算所有令牌对之间的注意力。在机器人学中，Transformer 用于：控制策略网络（决策 Transformer、ACT）、视觉编码器（ViT）以及统一视觉、语言和动作的 VLA 模型。
一种基于自注意力机制的神经网络架构，最初为 NLP 设计，现已在多种模态中占主导地位。Transformer 并行处理令牌序列，计算所有令牌对之间的注意力。在机器人学中，Transformer 用于：控制策略网络（决策 Transformer、ACT）、视觉编码器（ViT）以及统一视觉、语言和动作的 VLA 模型。