Решили проблему обучения с подкреплением. Новая работа показывает цену reward hacking в пост‑тренинге

Группа исследователей, среди которых Хэмиш Айвисон, один из авторов открытых рецептов пост-тренинга Tülu и OLMo, 14 октября опубликовала работу о методе CaLIF. Он решает известную проблему обучения с подкреплением на…

Источник: Хабр