Golden Gate Claude

[dmm]

I think humans tend to have these idée fixes:

www.anthropic.com/news/golden-gate-claude

A pretty interesting example of conversation by a very experienced interlocutor:

www.lesswrong.com/posts/cxuzALcmucCndYv4a/daniel-kokotajlo-s-shortform#hyXAiafwbwfEPiX5Q

Comments

[dmm]

У человека обычно есть набор повторяющихся тем и мотивов, которые важны для этого человека.

Вот, можно взять LLM, и, пользуясь новыми достижениями в понимании того, как настоящие лидирующие модели (а не модели, отстающие от переднего края на несколько лет) устроены внутри (https://www.anthropic.com/research/mapping-mind-language-model), добавить одну или несколько особо важных тем, на которых модель будет фиксироваться (или, наоборот, тем, которые модель будет избегать).

[dmm]

Zvi comments: https://www.lesswrong.com/posts/JdcxDEqWKfsucxYrk/i-am-the-golden-gate-bridge

[dmm]

Another set of comments: https://www.lesswrong.com/posts/zzmhsKx5dBpChKhry/comments-on-anthropic-s-scaling-monosemanticity