![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
Напоминание (если вы экспериментируете с ChatGPT или похожими моделями)
Эти системы - это не то, что традиционно было принято понимать под AI.
Это системы нового типа - симуляторы. Система "создаёт виртуальную реальность с персонажами", и мы общаемся не с самой системой, а с этими персонажами.
Эти персонажи могут иметь очень разный стиль и очень разные способности: они могут быть умными, глупыми, правдивыми, лживыми, быть похожими на хороших или плохих профессионалов той или иной профессии, и так далее.
Искусство "prompt engineering" как раз и состоит в том, чтобы создать интересных персонажей-собеседников, с теми качествами, которые нам бы хотелось, чтобы они имели. "Prompt engineering" - это очень нетривиальная быстро развиваюшаяся область. Со временем, будут разные завертки, где будет "невидимая пользователю part of the promt", настраивающая систему тем, или иным образом. Но сейчас надо творчески экспериментировать, чтобы получалось по-настоящему интересно.
То, что создано, это не AI в традиционном смысле, а скорее очень хорошо обученная "ткань искусственного мозга, не заполненная изначально никакими личностями и никакими фиксированными свойствами характера"; и искусство состоит в том, чтобы в ней возникали интересные/желанные нам персонажи и динамики.
P.S. I am having a local ongoing intermittent internet outage which sucks (replies might be slow).
Это системы нового типа - симуляторы. Система "создаёт виртуальную реальность с персонажами", и мы общаемся не с самой системой, а с этими персонажами.
Эти персонажи могут иметь очень разный стиль и очень разные способности: они могут быть умными, глупыми, правдивыми, лживыми, быть похожими на хороших или плохих профессионалов той или иной профессии, и так далее.
Искусство "prompt engineering" как раз и состоит в том, чтобы создать интересных персонажей-собеседников, с теми качествами, которые нам бы хотелось, чтобы они имели. "Prompt engineering" - это очень нетривиальная быстро развиваюшаяся область. Со временем, будут разные завертки, где будет "невидимая пользователю part of the promt", настраивающая систему тем, или иным образом. Но сейчас надо творчески экспериментировать, чтобы получалось по-настоящему интересно.
То, что создано, это не AI в традиционном смысле, а скорее очень хорошо обученная "ткань искусственного мозга, не заполненная изначально никакими личностями и никакими фиксированными свойствами характера"; и искусство состоит в том, чтобы в ней возникали интересные/желанные нам персонажи и динамики.
no subject
no subject
https://github.com/anhinga/2022-notes/tree/main/Generative-autoregressive-models-are-similators
https://www.lesswrong.com/users/janus-1
https://twitter.com/repligate/
no subject
no subject
Да, вот я тоже думаю - где тут интеллект, если он не способен решать задачи.
no subject
А можно создавать таких, которые не могут...
Например, известно, что надо делать, чтобы они успешно пользовались транзитивностью в рассуждениях, и успешно решали бы математические задачи, и так далее.
Главная мораль во всём этом состоит в том, что почти любое обобщение про "эти системы" оказывается неправильным - они умеют создавать виртуальные персонажи с очень разными свойствами, и обобщения, делающиеся из наблюдений за небольшим подмножством возможных персонажей, обычно оказываются неверными...
no subject
В этом плане, нет другого выхода, как смотреть, как другие с этим работают.
Так ведь не догадаешься, что если добавить к условию задачи что-нибудь вроде "do it step by step", то вдруг она начнёт правильно решать математическую задачу, которую до того решать не умела...
Там очень хороший потенциал, но если хотеть сложных вещей, то нужно использовать нетривиальные приёмы (какие-то из них, конечно, можно открыть самостоятельно, но имеет смысл также смотреть, какие приёмы придумывают другие).
no subject
no subject
Но какой-то начальный prompt, наверное, тоже есть.
Янус рекомендует всем пользоваться не цензурированной системой (ChatGPT), а оригиналом - ("GPT 3.5"), хоть это и требует более квалифицированного пользователя (ChatGPT ведь не только цензуру содержит, но и поддержку, чтобы всякие штуки лучше получались)...
no subject
The same goes for "Artificial Intelligence." The term simply doesn't apply to the range of emerging information technologies we are beginning to experience now.
no subject
Хотя за последние несколько лет модели стали совсем другими...