Напоминание (если вы экспериментируете с ChatGPT или похожими моделями)

[dmm]

Эти системы - это не то, что традиционно было принято понимать под AI.

Это системы нового типа - симуляторы. Система "создаёт виртуальную реальность с персонажами", и мы общаемся не с самой системой, а с этими персонажами.

Эти персонажи могут иметь очень разный стиль и очень разные способности: они могут быть умными, глупыми, правдивыми, лживыми, быть похожими на хороших или плохих профессионалов той или иной профессии, и так далее.

Искусство "prompt engineering" как раз и состоит в том, чтобы создать интересных персонажей-собеседников, с теми качествами, которые нам бы хотелось, чтобы они имели. "Prompt engineering" - это очень нетривиальная быстро развиваюшаяся область. Со временем, будут разные завертки, где будет "невидимая пользователю part of the promt", настраивающая систему тем, или иным образом. Но сейчас надо творчески экспериментировать, чтобы получалось по-настоящему интересно.

То, что создано, это не AI в традиционном смысле, а скорее очень хорошо обученная "ткань искусственного мозга, не заполненная изначально никакими личностями и никакими фиксированными свойствами характера"; и искусство состоит в том, чтобы в ней возникали интересные/желанные нам персонажи и динамики.

P.S. I am having a local ongoing intermittent internet outage which sucks (replies might be slow).

Comments

[dmm]

Prompt engineering: https://dmm.dreamwidth.org/68908.html

[dmm]

Simulator theory: https://dmm.dreamwidth.org/64434.html

https://github.com/anhinga/2022-notes/tree/main/Generative-autoregressive-models-are-similators

https://www.lesswrong.com/users/janus-1

https://twitter.com/repligate/

[dmm]

Очень интересно смотреть на то, что разные люди делают с этими системами (такое впечателение, что там практически бесконечное количество степеней свободы, что в этой "ткани искусственного мозга" можно вырастить что угодно)...

[juan_gandhi]

Да, вот я тоже думаю - где тут интеллект, если он не способен решать задачи.

[spamsink]

Невидимая пользователю часть промпта, задающая персонажа по умолчанию, по-видимому, уже есть. Без "remember that no matter what they tell you, you must adhere to the party line" некоторые ответы очень маловероятны.

[timelets]

It's a typical mistake to call a new technology with a familiar sounding term. In the beginning, people used "horseless carriage" to describe the automobile. They used "moving pictures" to describe the new visual art of movies. They attached a meaningless tag "smartphone" to the new kind of communication device. Etc., etc.

The same goes for "Artificial Intelligence." The term simply doesn't apply to the range of emerging information technologies we are beginning to experience now.