Назад к Glossary
BERT
Bidirectional Encoder Representations from Transformers — предварительно обученная языковая модель, которая изучает контекстные представления текста путём маскирования токенов и предсказания их из окружающего контекста. В робототехнике модели в стиле BERT кодируют инструкции на естественном языке для управляемых языком политик управления. Встраивания SentenceBERT используются для поиска задач и сопоставления сходства инструкций.