Назад к Glossary
Причинная путаница
Режим отказа в обучении имитацией, при котором политика управления учится полагаться на ложные корреляции в данных демонстрации вместо истинных причинных признаков. Например, политика управления автомобилем может научиться предсказывать остановку по индикатору стоп-сигнала, вместо того чтобы учиться останавливаться на основе дорожных условий. Причинная путаница часто проявляется как политики, которые работают на известных данных, но непредсказуемо отказывают на новых сценариях.