Что такое белый и розовый шум?

[Андрей]

Автор раздела прекрасно ответил на вопрос про бифуркацию, плавно подведя к эзотерике.

Поэтому не могу не задать ещё один вопрос.

На БМ есть тема про "Колмогоровскую сложность", надо как-то к этому подвести, а потом я посты перетащу.

[Странник34]

Колмогоровскую сложность

Я в первый раз встретил такой термин. Посмотрел в инете, под Колмогоровской сложностью какого-либо объекта, например файла, понимают длину (количество знаков) файла, который получен сжатием этого файла самым оптимальным архиватором. А вот каков этот архиватор, в смысле самый оптимальный, и существует ли такой архиватор, это уже чистейшая математика. Встретил книгу из более чем 500 страниц, в которой разбираются математические тонкости этого вопроса. Для меня такие абстрактные рассуждения - темный лес.

[Странник34]

Я, Охотник и другие под сложностью понимаем сложность системы. При чем эта сложность тем выше, чем больше количество реакций которая может выдать система на один и тот же раздражитель.

Пример: амеба на раздражитель, который ей не желателен выдает одну реакцию, сокращается в сторону противоположную раздражителю.
А например количество реакций животного на раздражитель много больше. И кроме этого, амеба не дифференцирует раздражители. Для нее раздражитель есть раздражитель. А для животного практически нет одинаковых раздражителей.

То есть, исходя из сказанного, мы можем сделать вывод, что животное более сложнее чем амеба.

А когда начинаем рассматривать человека, то мы замечаем, что помимо сказанной сложности возникает еще и другая сложность, которая видать достаточно сильно связана с понятием колмогоровской сложности. Дело в том, что человеку свойственно анализировать и находить причины того или иного действия объекта, субъекта, с которым он взаимодействует. Это человеку нужно для оптимального ответа на раздражитель, поступивший от этой системы. То есть необходимо расшифровать действие. И тут можно предположить что сложный объект, субъект, раздражитель, который составленный в систему с мотивациями выдачи этого раздражителя, имеет большую сложность.

Вот примерно как то так. Получается из обыденного понятия сложности, мы пришли к понятию колмогоровская сложность, то есть, если и не пришли, то увидели связь.

[Андрей]

[1:42:41] Coder: И есть теорема, что колмогоровскую сложность вычислить невозможно (т.е. не существует такого алгоритма, который мог бы ее вычислить)
[1:42:42] Lever: ну для малых строк наверно нашли её
[1:42:43] Coder: Да, возможно, для каких-то малых строк нашли.
Но в общем случае она неизвестна.
Т.е. неизвестен предел сжатия строки
я могу тебе передать, допустим, длинный файл, выглядящий как случайный шум
ты применишь на нем все известные тебе компрессоры и обломаешься - сжать не сможешь
[1:44:41] Lever: ну на то лучшие умы и соревнуются
[1:44:42] Coder: а я тебе пришлю короткую прогу, которая создает этот файл
а прога эта, допустим, шифрует набор нулей известным мне секретным ключом по одному из сильных алгоритмов шифрования
[1:45:54] Lever: ого, прикольно
[1:45:57] Coder: т.е. для воспроизведения строки нужно знать секретный ключ шифра и сам алгоритм шифра и еще мой алгоритм, что именно я шифрую (набор нулей или арифметическую прогрессию или еще что-то)
[1:46:50] Lever: тут уже проблема обратимости какая-то
[1:46:07] Coder: и вот если бы существовала программа, вычисляющая колмогоровскую сложность
то она бы прошарила, что мой файл можно создать таким образом
и ты бы сразу увидел, что хоть файл и выглядит "страшно", но его можно сильно ужать.
[1:47:19] Lever: я хотел бы конечно в криптографии и криптографической математике побольше разбираться
но это глубокая тема
[1:47:28] Coder: тут криптография просто как пример
показывающий, что даже большой файл с "шумом" может иметь малую колмогоровскую сложность
по крайней мере не выше, чем длина моей (неизвестной тебе) программы, с помощью которой я создал этот файл
[1:48:10] Lever: да, очень занимательно

[Андрей]

Теоретически любые шифры поддаются дешифрованию.
Пригожин в физике ввёл постулат об энтропийном барьере.
Что является его аналогом в информатике?

[Андрей]

КриоГен пишет:

Тут я мало что могу сказать.

Думаю, что нет никакого энтропийного барьера. Это фикция. Просто для природы все состояния равноправны. Это для нас упорядоченность на макроуровне означает нечто особое.

Что касается физических процессов. Да, нам приходится наблюдать только естественное разрушение порядка, потому мы можем попытаться сделать вывод, что есть предпочтительное направление у естественных процессов в сторону разрушения. Но я думаю, что мы просто не охватываем всю картину. Если вспомнить, что компьютер, которым я сейчас пользуюсь, был обычным песком, а ещё раньше - газо-пылевым облаком, то можно сделать совершенно противоположный вывод.

Что же до информатики, то там вообще всё хмуро. Мы можем проксорить текстовый файл последовательностью псевдослучайных чисел от какого-нибудь генератора, программа которого умещается в 3 строчки. И мы получим полный хаос. Вопрос: куда делся порядок? На самом деле, беспорядок скорее отражает степень нашего незнания, чем реальную характеристику потока данных.

Фундаментальный труд.
Колмогоровская сложность и алгоритмическая случайность
Н.К. Верещагин, В.А. Успенский, А.Шень
https://www.mccme.ru/free-books/shen/kolmbook.pdf

[Андрей]

Но всё-таки можно объяснить что такое "белый шум", "розовый шум" и их отличие в физике?

[Странник34]

Это фикция. Просто для природы все состояния равноправны.

Вот именно из того, что все состояния равноправны и вытекает необратимость. Пример, рассмотрим два макрособытия:
1. газ равномерно распределен по сосуду. Этому событию соотвествует множество микрособытий, соответствующих определенному положению атомов в сосуде. И все эти события имеют одинаковую вероятность.
2. газ собрался в одной половинке сосуда, и этому событию соотвествует множество микрособытий, соответствующих определенному положению атомов в сосуде. И все эти события имеют одинаковую вероятность.

И случае 1 и в случае 2 микрособытия равновероятны, но количество событий с помощью которых может реализоваться макрособытие 1 >> количества событий с помощью которых реализуется событие 2. И поэтому мы видим событие 1, и никто не видел событие 2.

[Странник34]

Но всё-таки можно объяснить что такое "белый шум", "розовый шум" и их отличие в физике?

Ну как я понял, "белый шум" - это чистая случайность, а "розовый шум" это случайность типа образованной с помощью генератора псевдослучайных чисел. Тут наверное дело в том, что в принципе мы можем найти код которым создан "розовый шум". А код которым создан белый шум отсутствует. И физика тут в том, что согласно квантовой механики мы не можем измерить какую-либо физ. величину, не внеся в систему случайные изменения. Вот к примеру, квантовый компьютер всегда будет выдавать белый шум.

Тут наверное дело в том, что в принципе мы можем найти

Тут под в принципе понимается, что хоть задача и сложна принципиальных запретов с точки зрения естествознания нет, все проблемы лежат в области математики.

[BDK]

Не знаю как в физике, но в звукотехнике белый шум - это чистый шум во всем слышимом частотном диапазоне, а розовый шум - это выделенная фильтром полоса из этого белого шума.