Dataflow matrix machines

[dmm]

Dataflow matrix machines: a class of expressive self-modifiable neural machines

• which can fluently modify their own weights, connectivity patterns, and size;
• and can serve as a programming platform, resulting in a programming formalism with continuously deformable programs.

---

Reference paper: Dataflow Matrix Machines and V-values: a Bridge between Programs and Neural Nets

arxiv.org/abs/1712.07447

More details:
anhinga-anhinga.dreamwidth.org/83104.html
anhinga-anhinga.dreamwidth.org/82703.html

*** Dataflow Matrix Machines internet resources: anhinga.github.io

Interdisciplinary list of open research directions (I am looking for collaborators): dmm-collaborative-research-agenda.pdf

*** My blogs:

Main Dreamwidth blog: dmm.dreamwidth.org (partial mirror: anhinga-travel.livejournal.com )
Main LiveJournal: anhinga-anhinga.livejournal.com (mirror: anhinga-anhinga.dreamwidth.org )
Auxiliary LiveJournal: anhinga-drafts.livejournal.com (mirror: anhinga-drafts.dreamwidth.org )


🇺🇦 🇺🇦 🇺🇦 🇺🇦 🇺🇦 🇺🇦 🇺🇦

Comments

[dmm]

And I've seen split-complex numbers recently, the third case he briefly mentions, in particular in connection with Warmus work: https://en.wikipedia.org/wiki/Split-complex_number#History

(Warmus was the first one who generalized interval numbers to allow the contradictory approximations, e.g. [3,2] (the set of numbers larger than 3, but at the same time smaller than 2), a situation where one can have a partial contradiction without collapsing the whole thing to "everything is now a theorem".)

But I've only heard about these kinds of dual numbers, with epsilon squared equal to zero, never seen them used in practice... super-interesting...

[juan_gandhi]

It's actually an old story. Can't remember the name of a guy from Aarhus, who wrote about it in the 80s. Will try.

[dmm]

Я вижу, что, говоря математически, современная фаза всего этого дела началась, как водится, с Ловера:

https://en.wikipedia.org/wiki/Smooth_infinitesimal_analysis

и

https://en.wikipedia.org/wiki/Synthetic_differential_geometry

[dmm]

И математической стороной этого дела, как раз много и давно занимался Anders Kock (Aarhus University), который, вообще говоря, больше известен суперкрасивыми работами про всякие интересные монады (например, монады, смешанные с частичными порядками).

Но кто занимался прикладной стороной этого дела, это я не знаю...

[juan_gandhi]

Вот, спасибо, да, Андерс Кок! Я что-то его фамилию не мог вспомнить.

[anhinga_anhinga]

Да, он, кстати, продолжает вовсю заниматься "синтетикой":

https://users-math.au.dk/~kock/

Так что, для людей, ищущих математику, освобождённую от "тирании множеств", его работы могут быть очень интересны...