Что мы читаем и почему.
Короткие заметки об опубликованных работах по симуляции пользователей и самосовершенствующимся агентам. Исследования чужие, комментарии наши, и каждая заметка ведёт к оригинальной статье.
Park et al. · Stanford University and Google Research · arXiv:2304.03442 (2023)
Двадцать пять персонажей на языковых моделях живут в маленьком городке-песочнице, где связаны воедино память, рефлексия и планирование. Интересный результат в том, что правдоподобное социальное поведение вырастает из довольно простого механизма: запомни, что произошло, поразмысли над этим, спланируй следующий шаг.
Почему мы это читаем. В работе ясно и публично показано, что к симулированному человеку стоит относиться всерьёз как к инструменту оценки, и при этом честно названы слабые места: память подтягивает не то, а поведение сползает к вежливости и согласию. Именно за этим мы следим и в своих персонах.
Заметка о прочитанномСимуляция пользователей
Wang et al. · NVIDIA, Caltech, UT Austin, Stanford and Arizona State University · arXiv:2305.16291 (2023)
Агент играет в Minecraft без участия человека и без дообучения. Он сам ставит себе следующую цель, пишет программу для её достижения, проверяет результат и складывает сработавшие программы в растущую библиотеку навыков, к которой обращается позже. Способности накапливаются там как переиспользуемый код, а не как более длинный запрос.
Почему мы это читаем. Это тот же цикл, который важен и нам: попробовать, проверить, оставить сработавшее, использовать снова на следующем круге. Авторы прямо говорят, что прогресс почти целиком зависит от качества обратной связи, поэтому мы ставим оценку раньше автономности.
Заметка о прочитанномСамосовершенствующиеся агенты
