Свобода

[dmm]

Сегодня - 30 лет с отъезда из СССР.

Завтра - последний день работы, которая длилась 18 лет. Летом 2001-го я подписался сделать одномесячный контракт с маленьким старт-апом, и как-то так получилось, что я там остался; в какой-то момент компания была куплена картографическим отделением Нокии, потом само это отделение было переименовано и продано. Со всеми переездами это было 6 разных офисных зданий; в этой группе по-прежнему работают некоторые люди, которые пришли туда в 2005-ом году, а контакт сохраняется и с теми, кто был там с самого начала, и давно ушёл оттуда.

Надеюсь, что это опять будет начало новой жизни, как 30 лет назад :-)

Comments

[dmm]

Научные интересы за это время тоже сменились несколько раз.

Тогда я как раз кончил первый период занятий непрерывными моделями вычислений (пространствами Скотта), 1984-2001 год:

https://anhinga-anhinga.dreamwidth.org/26369.html

https://arxiv.org/abs/1512.03868

Потом был период увлечения neuroscience, 1999-2009:

https://anhinga-anhinga.dreamwidth.org/tag/neuroscience

https://anhinga-drafts.dreamwidth.org/tag/neuroscience

Потом был возврат к пространствам Скотта, 2006-2012:

https://www.cs.brandeis.edu/~bukatin/distances_and_equalities.html

(В итоге оказалось, что мы нашли некоторую новую версию двойственности Ловера:

https://en.wikipedia.org/wiki/William_Lawvere

http://www.tac.mta.ca/tac/reprints/articles/1/tr1abs.html )

И потом уже была дорожка от пространств Скотта к Neuromorphic Computations with Linear Streams (2012-2015) и к Dataflow Matrix Machines (2015-present):

https://anhinga.github.io/


*****

Всякие Юнговские синхроничности, вроде совпадения этих двух "эмиграций", тоже любопытны. А вот ещё:

https://anhinga-anhinga.dreamwidth.org/25146.html

https://anhinga-anhinga.dreamwidth.org/tag/synchronicity

https://anhinga-drafts.dreamwidth.org/tag/synchronicity

[juan_gandhi]

Поздравляю! 89-й, это драматично еще было.

[dmm]

Спасибо!

Да, невозможно было ещё представить себе, что СССР не вечен. И даже курс валют на чёрном рынке ещё был стабилен (к концу года это уже стало не так)...

[juan_gandhi]

Ага. Я тогда еще за рубли работал тоже.

[lilu_karasan]

желаю, чтоб так и было - новая интересная жизнь!) еще одна

[dmm]

Спасибо!

[dmm]

Год прошёл, как раз на прошлой неделе я сделал некоторый доклад

https://github.com/anhinga/2020-notes/tree/master/CCC-2020

а вообще пора бы подводить какие-то промежуточные итоги...

Но всё в таком движении, что это не так-то просто...

[dmm]

"Жизнь":

* Весь год проходит под знаком медицинских проблем, как личных, так и общественных; пока, впрочем, вроде бы, справляемся.

* Финансово не работать получается вполне нормально, пока что из-за эпидемии расходы даже сократились; правда, не известно, не полетят ли вниз деньги.

* Общественная нестабильность стала очень высокой, непредсказуемая траектория...

************************************************************

https://twitter.com/sama/status/1264982651988893705

"Covid-19 is like a 10 year fast-forward button for the major trends of the world.

Some of those trends benefit from this, and some really wanted to happen gradually."

[dmm]

"Науки и технологии":

- Коллективный аспект

* Технолоческие сдвиги и сдвиги в организации работы из-за эпидемии.

* Революция в искусственном интеллекте

Transformer revolution:

https://www.cs.brandeis.edu/~bukatin/transformer_revolution.html

https://github.com/anhinga/2020-notes/tree/master/attention-based-models

We have entered the twilight zone between narrow AI and general AI (a number of people are saying this, but the word "twilight" in this context is the word I've read somewhere, it's not my invention).

P.S. Here is the source for this: "We’re entering the AI twilight zone between narrow and general AI" https://twitter.com/garyg02/status/1301922363987034112

[dmm]

"Науки и технологии":

- Личный аспект

* Learned Julia programming language, played with its ecosystem. (This is the best language for advanced AI at the moment, I think.)

* Learned to use Twitter: https://twitter.com/ComputingByArts

The only problem is, the main Twitter feed and Twitter notifications miss too much. Perhaps, "Twitter lists" might help, but otherwise it makes sense just to revisit individual Twitter accounts once in a while.

* DMM-related things, positive and negative.

Negative: no active ongoing collaboration at the moment, just solo work, so the speed of progress is so-so.

Positive: several preprints, new white paper, new collaborative research agenda (v1 and v2), a couple of informal talks, a published extended abstract and a talk at CCC 2020: https://github.com/anhinga/2020-notes/tree/master/CCC-2020

A fairly polished DMM-oriented LinkedIn profile and DMM-oriented resume page: https://www.cs.brandeis.edu/~bukatin/resume_bukatin.html

[dmm]

The current plan is to continue in more or less the same mode for a couple more months, then assess the situation again...

[dmm]

An interdisciplinary and collaborative research agenda related to dataflow matrix machines: https://www.cs.brandeis.edu/~bukatin/dmm-collaborative-research-agenda.pdf (7 pages, August 2020, functional reactive programming and program synthesis, compositional metalearning, dynamical systems, trade-offs between synchronous and async and between flexibility and parallelization, fuzzy paraconsistent logic and bicontinuous domains, probabilistic programming, real-time visual animation via composition of unit generators, interplay between DMMs and Transformers, and more).

[dmm]

Yesterday (80 years since Pearl Harbor), I signed a job offer for what looks like my dream job.

Let's hope these expectations will be justified. We'll find out more in January and subsequent months (I still have almost 5 weeks till it starts).

27 months have passed since I took a break and just focused on research for a while.

The last comments in this post were written in September 2020, 15 months ago.

[dmm]

In October 2020, I implemented an idea to explore applying matrix multiplication to monochrome images and obtained interesting results. That idea emerged from my investigation into interplay between DMMs and attention-based models including Transformers.

On December 8, 2020, exactly one year ago, I posted a Julia Jupyter notebook with initial results on GitHub, the "Untitled.ipynb" notebook here:

https://github.com/anhinga/github-tests

Recently GitHub fixed the notebook rendering problems, so one can finally see it directly on GitHub, without going to "nbviewer".

This was the start of a very interesting line of development which resulted in a JuliaCon 2021 virtual poster in July 2021:

https://github.com/anhinga/JuliaCon2021-poster

Recently, I started to do these things in color, multiplying images as matrices in color-coordinate-wise fashion:

https://github.com/anhinga/late-2021-julia-drafts/tree/main/color-motifs

[dmm]

Other developments, which are more in flux, included:

* posting our 9 year old EEG-based "Mind Games" spec on GitHub in April 2021: https://github.com/anhinga/2021-notes/tree/main/mind-games

* a new non-trivial research collaboration starting in September 2021 which inspired me, among other things, to take another, closer look at the self-transforming aspects of the DMMs last month: https://github.com/anhinga/2021-notes/tree/main/self-transforming-neural-machines

* meanwhile, remarkable things are happening in technology (including controlled nuclear fusion, space flights, and more), and specifically in AI, ML, and, in particular, in neural cellular automata. These are exciting times, the times of the technological revolution. The next year is going to be extremely interesting. The next few years are likely to drastically remake our world.