dmm: (Default)
Dataflow matrix machines (by Anhinga anhinga) ([personal profile] dmm) wrote 2023-12-04 05:52 pm (UTC)

На мой взгляд, это вполне хороший ресурс (но тут приходится принимать во внимание, что это - полугуманитарная область, LLM имеет глубокое понимание того, какие вообще встречаются тексты, но вопрос про то, что же говорится в текстах, он наполовину гуманитарный, так что приходится балансировать на границе между точными науками и гуманитарными).

Ну, так или иначе, я, в своё время, сделал конспект, который может быть удобен:

https://github.com/anhinga/2022-notes/tree/main/Generative-autoregressive-models-are-similators

Кроме того, группа "Янус" сделала парочку более ранних работ, одна из которых вполне знаменитая (https://arxiv.org/abs/2102.07350), а другая - малоизвестная, но сильная (https://arxiv.org/abs/2102.06391), а недавно они были со-авторами некоторого обзора в Nature (который, впрочем является компромиссом между взглядами первого автора и взглядами группы "Янус"): https://www.nature.com/articles/s41586-023-06647-8


Post a comment in response:

This account has disabled anonymous posting.
If you don't have an account you can create one now.
HTML doesn't work in the subject.
More info about formatting