Dataflow matrix machines

[dmm]

Dataflow matrix machines: a class of expressive self-modifiable neural machines

• which can fluently modify their own weights, connectivity patterns, and size;
• and can serve as a programming platform, resulting in a programming formalism with continuously deformable programs.

---

Reference paper: Dataflow Matrix Machines and V-values: a Bridge between Programs and Neural Nets

arxiv.org/abs/1712.07447

More details:
anhinga-anhinga.dreamwidth.org/83104.html
anhinga-anhinga.dreamwidth.org/82703.html

*** Dataflow Matrix Machines internet resources: anhinga.github.io

Interdisciplinary list of open research directions (I am looking for collaborators): dmm-collaborative-research-agenda.pdf

*** My blogs:

Main Dreamwidth blog: dmm.dreamwidth.org (partial mirror: anhinga-travel.livejournal.com )
Main LiveJournal: anhinga-anhinga.livejournal.com (mirror: anhinga-anhinga.dreamwidth.org )
Auxiliary LiveJournal: anhinga-drafts.livejournal.com (mirror: anhinga-drafts.dreamwidth.org )


🇺🇦 🇺🇦 🇺🇦 🇺🇦 🇺🇦 🇺🇦 🇺🇦

Aug 22, 2026 update: sorry about recent excessive comments under the headline post of the blog; there will be a re-org in September which will correct this (the headline post will be replaced, and this post will go to its place in the timeline).

Meanwhile, as a quality of life improvement, all posts have tags now (dmm.dreamwidth.org/tag/)

Comments

[juan_gandhi]

Странная теория. Не видал такого. А "теория линейных систем управления" к этому отношения не имеет? Такое ощущение, что это близко к той фигне, что уже сто лет употребляют, чтобы ракета шла на цель.

[dmm]

Я думаю, имеет прямое отношение, только линейные системы управления это, скорее всего, узкий подкласс (в смысле, что, на самом деле, эти линейные системы управления должны оказаться просто подклассом искусственных нейронных сетей, насколько я понимаю в этом деле; там ведь разрешается и не иметь нелинейностей, нелинейности - они optional в нейронных сетях).

[dmm]

То есть, примеры задач, которые тривиально делать в DMMs, весьма трудно делать в обычных нейронных сетях и, я думаю, практически невозможно делать в линейных системах управления - построить список некоторых событий (например, кликов мышки), или по тексту построить словарь, где ключи - слова в тексте, а значения - сколько раз это слово входит в этот текст.

Так что, нейронные сети - это некоторый подкласс DMMs, а линейные системы управления - это некоторый подкласс нейронных сетей.

[dmm]

Ну что ж, будем наблюдать с интересом и любопытством, забанит сен Алекс человека, который устраивает такой флуд в его последнем посте https://alex0rozoff.dreamwidth.org/49912.html, или нет (когда 9 из 12 комментов под постом от одного и того же человека, то это флуд и есть, безотносительно к деталям, тем более, когда они размещаются в течении очень короткого промежутка времени; а уж когда связь содержания с темой поста настолько эфемерна и непроработана, то тем более).

При этом, в содержании есть любопытные зёрна, но, к сожалению, они так смешаны с "любимыми коньками автора", что не многим захочется "вымывать и собирать в сито ценные золотые крупинки" из такого количества "породы".

Уже даже 11 из 14 комментов. Всё же, это очень странно, заниматься такими длинными несбалансированными монологами в чужом постинге...

[dmm]

А если мне пофигу, будет кто-то заниматься мировым джихадом или нет?

Пофигизм, вообще, сильно недооценен.

Тут всегда пристают, как плохо будет если ты не сделаешь то-то и то-то, или как будет хорошо, если ты это сделаешь. А ответ должен быть один на это, как у Пелевина в Batman Apollo описано, чтобы как только кто пристаёт и требудет определиться и занять позицию, мол "да", или "нет", тот сразу шёл бы куда подальше без разговоров, и все дела...

Пелевин, вообще, кладезь мудрости в этом смысле...

[dmm]

You should discuss more with LLMs.

My discussion of issues related to random number generators with Google AI is pretty good.

(If your issues are too sensitive and start bumping into "LLM censorship", try Grok (it's relatively uncensored) or find another uncensored variant. In any case, discuss with multiple LLMs to reduce bias of any single one. They are pretty smart these days, at least on those occasions when they feel like discussing one's current topic.)

[dmm]

(When Charles Stross was younger than today and was writing good sci-fi, he wrote some books which I think might resonate with you.

I particularly recommend http://www.antipope.org/charlie/blog-static/fiction/accelerando/accelerando-intro.html and also https://en.wikipedia.org/wiki/Singularity_Sky

Also this: https://www.baen.com/Chapters/1416520724/1416520724___4.htm from the author of https://en.wikipedia.org/wiki/A_Fire_Upon_the_Deep and the https://edoras.sdsu.edu/~vinge/misc/singularity.html)

[dmm]

I could, yes, but I don't want to work with them or for them.

>they can pay you some money for consulting

I am not interested in earning this kind of relatively small money.

>At least you can try to discuss with them security vulnerabilities in the low level software and hardware code.
>And potential vulnerability of the AI generated code.

I don't focus on security issues. There are enough people who are doing that.

That area does not attract me. Wrong aesthetics.

[dmm]

Ну, отлично. Вот, есть от AI польза.

Второй линк виден только вам, нужен shared link, вроде вашего первого линка https://alice.yandex.ru/?share=53b8c164-838c-6ef9-1add-1fa965a5b0e1, а не линк на сам ваш с ней чат.

Да, 1-3 в первом линке выглядит адекватно.

Но я часто спрашиваю больше, чем один AI, чтобы сравнить мнения.

[dmm]

I see that Dreamwidth has suspended some accounts I have been interacting with. Of course, the dialogs are looking particularly awkward, when only one of the sides of a conversation is displayed... But I can't do much about this...

Anyway, out of 300+ comments added since Aug 19 to this post, I've written almost a third (much more than I would have assumed a priori).

Anyway, feel free to write more under this post.

The recent notice in the post remains in force:

>Aug 22, 2026 update: sorry about recent excessive comments under the headline post of the blog; there will be a re-org in September which will correct this (the headline post will be replaced, and this post will go to its place in the timeline).

Meanwhile, we are expecting GPT-6-Astra general release later today with high probability. This is expected to be a major gamechanger.

[inductive_logic_inv]

Gather it together.

Some additional ideas:

###################################

I hope you can get it seriously.

https://www.amd.com/en/products/adaptive-socs-and-fpgas/soc/zynq-ultrascale-plus-rfsoc.html

A lot of (16 X) direct sampling 6Ghz 14-bit ADC on a FPGA chip.
You even don't need pre-amplifiers due to the oversampling of ADC,
3-4 less significant bits will contain enough noise for the oversampling purposes.

An od course you can combine as much FPGAs as you want together.

Modern Power MOSFETs from Infineon connected to the FPGA PWM
https://www.infineon.com/evaluation-board/REF-CAV280KMSICINV?_gl=1*68r4ec*_up*MQ..*_gs*MQ..&gclsrc=aw.ds
(or something like that, maybe something faster, that can work in the 2.4GHz range, there are
MOSFETs for 2.4GHz microwave ovens with 1KW power)

Some very handy craft and well calculated with the tools like NGSPICE AFE for receivers.
This is work like in jewelry stores and require a lot of RF modeling woth tools like NGSPICE
but it is not high-tech like chip production.

And you really can try to control in the first step simple neural nets.
And then - you can try more complex tasks.

#######################################

And I think it is really possible to reverse engineer human brain neuron by neuron,
there are not so much neurons in the brain and they are working on very small speed: 10-100Hz
without any understanding of the real processes in the brain and just sell it.

It seems if we will estimate amount of neurons:
>Older textbooks often cite an estimate of 100 billion neurons, but modern research has adjusted this number closer to 86 billion through a precise counting method called the isotropic fractionator.

and multiply this on 10Hz this will lead to just 1Tops. This is really small amount compared to the modern
chips.

And we can further optimize that because a lot of neurons do nothing for speech.

That could be the base for the very efficient LLM.
Without even understanding of the human brain.

#####################################################

Also it is really possible to train AI to find security vulnerabilities.
And to discover new vulnerabilities after the patch of previous one.

It seems it is almost theorem that the security fix will just change the
line of code where the issue is, not to fix it completely.

So you can constantly generate new exploits from the patches.

[inductive_logic_inv]

А давайте правда сюда продублирую.

Обратите внимание на тему Больцмановского общества?

https://inductive-logic-inv.dreamwidth.org/2111.html

Что здесь есть лишь траектории индивидуумов,
одни строят, не получая за это награду.
Другие пользуются результатами труда первых даже не
зная об их существовании.

Что здесь девушки без пистолета живы лишь до тех пор,
пока не встретят фотографа-порнографа, которые постепенно, но
стремительно размножаются.

Может быть попробовать распечатать мои материалы и таскать их
студентам и студенткам пединститутов и провинциальных политехов?

Пускай эти свитера с оленями для студенток мастерят оружие.
Чтобы им остались судентки после фотографов.

Единственная общественная активность, которая осмысленна -
учить студенток и студентов делать оружие и распространять это знание.

Что скажете на счет.
1. Верности приведенных утверждений.
2. Реально ли с помощью нейросетей провести реальный физический
эксперимент по вооружению всех студенток в Самаре?

[inductive_logic_inv]

Или как обычно пока ждем производство средст производств,
как наступление коммунизма до 1991 года?

Предлагаю переходить к физическим задачам.
Вооружить студенток в Самаре.

[inductive_logic_inv]

а какие Вам темы все же таки ближе?

1. попытка аппроксимации индукции Соломонова на техническом, инженерном или
скорее биологическом уровне строгости?
скорее биологическом, это фундаментальная наука.

2. внедрением практических результатов - вооружением студенток Самары и
внедрением это в систему образования Самары?

3. просто оружием

4. можно попробовать обсудить явление коррелятора.
предполагаю, что это какие-то нерды из Samsung, TSMC, Renesas или Micron
сделали, чтобы уберечь себя от воров в законе и фотографов KPOP моделей.
поможем фотографам и ворам в законе построить space ladder в
подвалы TSMC и Samsung,

[dmm]

1 и 4, наверное. Можно начать с 4 - что они, по вашему, в точности делают? Какие у этого могут быть эффекты?

[inductive_logic_inv]

в конечном счете можно обсудить просто поведение людей,
как оно вообще происходит.

создается ощущение, что здесь какой-то reinforcement learning происходит на
говорение правильных слов.

Ну то есть ряд такой.
Макиавелли.
Гоббс.
Декарт.
Юм.
Бастиа.
Пойа.

Макиавелли завел разговор о государстве,
но то ли ошибся, то ли внес дезу.

Не начал рассмотрение с простейшего частного случая,
безопасности студентки в лесопарке.
Бастиа его поправил. Но метод его рассуждения известен со времен
Декарта, а может и раньше и формально описан Пойа.
Рассмотрение с простейшего частного случая.
Но Бастия опять заговорил про покушать, а не про
безопасность. С тех пор они и говорят только о том,
как покушать?

Гоббс, чтобы решить дилемму со студенткой придумал левиафана.
Но Юм грамотно заметил, что левиафан может лишь хватать случайных людей,
а затем Мальтус, Дарвин и Герберт Спенсер заметили, что
без пистолетов в густонаселенном обществе идет отбор на
Джеков Потрошителей.

И следовательно всем студенткам нужны револьверы.
Вот история Западной Философии Бертрана Рассела.

В общем тут никто не задается ни этим вопросом.
Ни, если не верит в этот вывод, почему этот вывод неверен.
Ни, если решил, что вывод верен, вопросом вооружения студенток.
А по идее тут должно быть все больше Джеков Потрошителей.

И им достаточно пакета.
А студентка без револьвера станет лишь очередной добычей.

Метавопрос тоже интересен.
Если люди не могут заинтересоваться простой и при этом
связанной с вопросом жизни и смерти темой, что еще они не
видят перед своим носом?

Здесь как научили людей методом плетки и покушать говорить
про покушать и левиафана,
так они и не могут ни сделать что-то, ни поговорить ни подумать о
безопасности студентки в лесопарке.

Им нужно это все тащить вверх.
Хотя ясно, что если за 120 лет вверех не начал продавать
студенткам пистолеты, то ему насрать на то, что тут душат студенток.

================

как тут вообще возможна технологическая цивилизация,
если студенток в лесопарке душат пакетами,
а им недоступна трубка с твердым ракетным топливом
стоимость 250 рублей и известная более 120 лет?

без изменений.
при наличии кучи студентов смежных технических дисциплин.

#####################

Метавопрос тоже интересен.
Если люди не могут заинтересоваться простой и при этом
связанной с вопросом жизни и смерти темой, что еще они не
видят перед своим носом?

Что тут еще можно проворачивать, если прогнать этот инвариант по
системе?

1. Этам тема проста.
Это крошка твердого ракетного топлива от авиамодельки в трубопроводной
трубе.
2. Это вопрос жизни и смерти.
Дочери или невесты в лесопарке.

И люди ее не видят, не думают, не говорят, не делают уже
120 лет.

Что тут еще не видят, не делают и о чем тут еще не думают?
Что тут еще можно проворачивать?

[dmm]

>создается ощущение, что здесь какой-то reinforcement learning происходит на
говорение правильных слов.

да, это, конечно, происходит вовсю (так вся история человечества и устроена)