Нужен ли универсальный ИИ конкретно мне.

[BDK]

О нейросетях в контексте данного исследования.

В природе нейросети появились далеко не сразу. Первые формы жизни не имели нервной системы и это тоже длилось сотни миллионов лет. А появившись нейросети не сразу стали большими. То есть нейросети это конечно не фундамент а довольно позднее изобретение эволюции.
Если сравнивать генетические алгоритмы и нейросети по свойствам и их отличиям в контексте создания ИИ то я бы выделил следующие их свойства:
генетический алгоритм - это поиск от компактного корня к разветвленной кроне. Это можно сравнить с ростом дерева. Нейросети же - они обучаются на предъявлении им уже готовых примеров - больших данных - которые являются кроной дерева.
Нейросети выучивают крону дерева при этом не зная корня.
Глубокие нейросети способны углубляться от кроны дерева на некоторую глубину в сторону корня но не сильно глубоко, и никогда не достигают понимания корня. Нейросети выучивают именно обширную крону не достигая понимания корня-сути вещей.
Нейросети обладают свойствами дополнительными к свойствам ГА. Они эффективны именно не сами по себе а как дополнение к более ранним эволюционным наработкам. Они позволяют более эффективно работать с кроной дерева без необходимости знания корня, но древние эволюционные наработки сохраняют корень.
Если отделить нейросети в самостоятельную вещь в себе они оказываются не способны повторить человеческий интеллект. Они в чем-то его превосходят но в главном не способны повторить - они не демонстрируют интеллект. Потому что интеллект человека - это не только нейросети но и более древние эволюционные находки.
В рамках моего исследования я намерен работать с нейросетями так.
Я привнесу нейросети как то что найдено эволюцией. Но поскольку разумеется я не хочу ждать сотнимиллионов лет пока их найдет стихийная эволюция то я постараюсь сократить это время давая эволюции подсказки чтобы она пришла к ним быстрее.
Подсказками будет конкретный код на C# - те самые библиотеки в которых реализован функционал работы с нейросетями.
Но чтобы эволюция смогла понять такие подсказки сначала ей нужно пройти путь некоторых других наработок. Подсказки по которым я так же буду давать - последовательно от простых к сложным, по мере освоения эволюцией более простых.
Но да - основой моего подхода является давание уже готового написанного человеком программного кода как подсказок эволюции - и если ее уровень развития достаточен она будет способна подхватывать и вбирать в себя эти подсказки, встраивая их в свой организм. Если же она не сможет этого сделать значит нужно давать ей более простые подсказки прежде чем она разовьется до способности усваивать более сложные.

[BDK]

Конечно это будет в любом случае упрощенная эволюция не сравнимая по сложности с естественно-природной. Собственно и цели мои попроще - мне нужен эффективный инструмент для моего бизнеса а не повторное создание человека. Такой инструмент который является максимально эффективным из того что я в принципе могу осилить и сделать за разумное время с использованием доступных мне вычислительных ресурсов.

[BDK]

На самом деле я уже давно и широко использую программную генерацию документов или каких либо данных в своей работе. Это действительно дает очень существенную выгоду по производительности труда.

И данное исследование является естественным продолжением.

То есть я уже давно использую автоматизацию своей работы и это выглядит как инструменты не обладаюшие интеллектом - это небольшие программы которые по чисто конкретным алгоритмам выполняют за секунду какую-то работу которую я бы делал вручную несколько дней. На написание таких инструментов у меня уходит обычно от нескольких минут до часов, но в любом случае экономия времени оправдывает заниматься этим. И никакие chatGPT лично мне пока не смогли заменить вот такую вот автоматизацию ни по скорости ни по качеству.

То есть я к тому что универсальный ИИ - это скорей абстракция для теоретиков но на практике нужны более практичные вещи. Которые к тому же даются меньшими затратами и усилиями. Точные простые алгоритмы зачастую эффективней больших сложных нейросетей на обучение которых были затрачены 80 000 GPU-часов. А то и более. В обучение больших языковых моделей затрачиваются сотни миллионов долларов. В то время как простой алгоритм написанный мной за 15 минут автоматизирует мою работу эффективней.
=====

Эксперимент по искусственной эволюции не даст скорей всего интеллект. Но позволит мне еще эффективней автоматизировать мою работу. И всё это при копеечных затратах.

[BDK]

Программирование похоже на процесс эволюции единичными мутациями. Когда мы пишем большую программу мы не пишем её сразу в окончательном виде целиком - мы сначала пишем небольшую часть а потом модифицируем ее небольшими изменениями. Абсолютно все программы пишутся так - и практика доказала что такой подход позволяет написать программы достаточной сложности которыми мы пользуемся повсеместно.

Сейчас когда я помогаю эволюции модифицировать генокод - это абсолютно такой же процесс. То есть я вижу что те мелкие пошаговые правки которые я вношу в генокод вполне могли бы быть сделаны и стихийной эволюцией если дать ей достаточно много вычислительных ресурсов и времени.

Здесь лишь вопрос постановки промежуточных небольших целей которых стихийная эволюция может достигать самостоятельно без ручного вмешательства в правку генокода. Все эти небольшие изменения имеют общее свойство - они повышают функциональность программы не ломая ее. Если это поставить как дополнительную цель то эволюция сможет сама двигаться к большой цели путём небольших промежуточных модификаций. Таким образом нужно сформулировать в общем виде что такое повышение функциональности. Чтобы написать соответствующим образом целевую функцию. То есть нужно как-то измерять повышение функциональности количественно.

[BDK]

Каким я вижу свой бизнес в современном мире? Убьют ли нейросети профессию программиста?
Я думаю что совсем не убьют. Но очень большой процент программистов действительно становятся не нужны.
Себя я вижу не совсем как программист. Я художник. В широком смысле. Программирование - мой инструмент. Но если я буду рассматривать именно программирование как ключ к своей востребованности на рынке то могу прогореть. Одного программирования уже мало чтобы удивлять рынок.
Программирование должно становиться дешевле и производительней.
Чтобы конкурировать по производительности с нейросетями. Под нейросетями я имею ввиду большие на которые тратят сотни миллионов долларов чтобы их обучать. Конкуренцию им могут составить более дешевые решения.
Которые позволяют получать результат еще дешевле в конкретных специальных направлениях. То есть специальные решения могут быть эффективней в узких направлениях по сравнению с универсальными нейросетями которые обучают "вообще под всё"
Короче моя ниша - мелкое ПО которое я могу писать в одиночку или с небольшой командой но при этом очень эффективно за счет своих специализированных средств автоматизации своего ремесла.
Аналогия с теми самыми пирожками.
Мне нужно выпускать пирожки в мире где большие заводы выпускают автомобили.
Мне глупо пытаться конкурировать с заводами, мне глупо пытаться выпускать автомобили. Моя ниша - пирожки.
Что-то такое что найдет спрос у населения и что не так хорошо получается у заводов.
И я вижу конкретные ниши где я могу работать и какое ПО я могу писать с сыновьями
Игры, музыкальное ПО. В каждой из этих ниш есть еще разделение на подтипы.
Там есть области где востребованы не большие и сложные решения а художественные.
Есть сообщества с запросом на художественную ценность. Они ценят такие вещи.
Ценят не за масштабность и крутость технологий а за художественную идею.
Вот это моя ниша где я могу работать.
При этом сама разработка ПО должна стать для меня настолько облегчена чтобы это можно было осуществлять силами небольшого бизнеса с небольшой командой.
Это отлично решается специальными средствами автоматизации сделанными конкретно под бизнес. Не универсальными системами а именно заточенными конкретно под мои пирожки.

[BDK]

Что такое художественная ценность? Я конечно под этим понимаю не просто какую-то мазню которая высекает из зрителя какие-то эмоции и впечатления. Художество в чисто таком утилитарном смысле мне не интересно.
Конечно же мне интересна передача смыслов, передача слушателю-зрителю-игроку определенных идей . Через художественные формы.

[BDK]

Беда современных языковых моделей типа chatGPT в том что они хотя и строят где-то там внутри себя возможно какую-то объектно-ориентированную модель реального мира но мы эту модель не знаем. Для бизнеса важно иметь полный контроль над моделью. Нужно иметь объектно-ориентированную модель той предметной области в которой мне приходится работать. Я не могу вслепую просто доверять некой неизвестной мне модели которая есть внутри нейросети.
ИИ должен не просто сам понимать мир. ИИ должен строить объектно ориентированную модель мира чтобы ее мог понимать и человек тоже, и чтобы человек тоже мог редактировать эту модель и принимать свои решения.
Суть - нужен симбиоз человека и машины а не полностью отдать контроль машине. И не только потому что мне хочется контроля ради контроля. Ну и правда - зачем вмешиваться в управление машиной если она и так сама едет. Но на самом деле в реальности никакой ИИ не сможет полностью заменить человека. Ну не сможет. Только совместная работа ИИ и человека может иметь перспективу. А значит нужно думать не о том как строить некие нейросети которые что-то делают полностью сами, а нужно думать как строить системы где человек и нейросеть могут работать вместе.
И не только в режиме "нажми на кнопку получишь результат" но более детально ориентироваться человеку внутри моделей которыми оперирует ИИ.
Полностью самообучающиеся системы - тупик. Самообучение должно быть как помощник к процессу конструирования систем который выполняет человек. ИИ должен не заменить программиста а дополнить.
Понятно что эти языковые модели были выпущены как демонстрация потенциала технологии. Но если говорить о практических вещах которые нужны конкретно для бизнеса то это должно быть что-то другое.
Объектно-ориентированные модели - крутится на уме и не отпускает.
13:57
Такие объектно-ориентированные модели которые программисты строили всегда. Они отлично себя зарекомендовали. И их нужно не отбросить и заменить нейросетями - это тупо, потому что нейросети явно не демонстрируют такой точности и адекватности которую мы зачастую получали при помощи наших объектно-ориентированных моделей. Но нейросети просто должны помогать строить эти модели. Что до сих пор было исключительно ручным трудом программистов.
14:07
И это должны быть не языковые модели. Другие нейросети.
Языковая модель - это имитация человеческой речи. Мышление это не речь. Речь - это способ коммуникации между людьми. Моделировать мышление через моделирование речи - ну это как-то как если бы удалять гланды через жопу. В принципе наверное возможно, особенное если вбухать в это сотни миллионов денег. Но целесообразно ли - вот в чем вопрос.
14:19
Я для себя и своего бизнеса конкретно вижу пользу от ИИ если он умеет делать следующие вещи:
1.Обнаруживать объекты в хаосе реальных данных. Обнаруживать не только те объекты которые знает человек но возможно и другие о существовании которых человек не подозревал.
2. Выявлять закономерности связывающие объекты между собой.
вторую из этих задач тривиально решает обучение с учителем.
А вот первая задача поинтересней. Выявление объектов в слепых данных. Объектов о существовании которых мы заранее не знаем.
Вообще нейросети в принципе - это выучивание закономерностей. Это не про поиск неизвестного.
То есть нейросети это принципиально очень опосредованный помощник - они не могут быть основой интеллекта.
Только выучивание закономерностей - это еще не интеллект. Интеллект это поиск неизвестного.
Здесь ГА выглядят интересно.
Но конечно полностью стихийный ГА - это неподъемно. Нужен контролируемый ГА - совместная работа эволюции, человека и нейросетей.
14:32
Чтобы обнаруживать объекты в стихийных данных нужно определиться с тем что такое объект.
Я предлагаю такое определение - объект -это нечто существующее неизменным на протяжении некоторого времени при изменчивости данных которые его проявляют.
14:39
То есть данные могут быть хаотичной динамикой где нет ничего постоянного но эта динамика может следовать по причинно-следственным связям из некоего неизменчивого объекта. В программировании объект и является именно этим буквально - программный код объекта пишется один раз и затем когда этот программный код работает динамика на экране может быть очень сложной и непредсказуемой - за которой рассмотреть объект порождающий эту динамику сложно. И тем не менее эта динамика порождается один раз написанным статичным программным кодом который сам не меняется на протяжении всей этой динамики.
14:46
Задачу выявления объектов в данных можно сформулировать так - выявление как можно более компактных неизменчивых структур из которых могут быть распакованы как можно большие количества реальных изменчивых данных. Чем выше соотношение объёма данных распаковываемых из структуры и соответствующих реальным наблюдаемым данным к объему самой структуры тем объективней существование объекта.
Вместо того чтобы искать закономерности между всеми и всеми исходными данными вообще есть смысл сначала выявить объекты и затем искать закономерности уже между ними - такая модель может быть компактней и одновременно точнее и адекватнее.
15:02
Ну и очевидно выявленные из исходных данных объекты могут быть не пределом. Но анализируя взаимодействие уже этих выявленных объектов можно выявить следующий уровень эмерджентных объектов, выявить которые непосредственно из стихийных исходных данных было бы гораздо сложней.
Такое построение объектно-ориентированной модели может осуществляться снизу вверх - от частного к общему.
15:10
То есть ключевым для реализации этого подхода является выявление объектов в данных. Глубокое обучение выявляет что-то но это не объекты в той форме как я дал определение. Из обученной глубокой нейросети невозможно выделить компактную структуру которая бы соответствовала одному объекту. Все объекты там размазаны по всей нейросети. И поэтому их невозможно выделить как отдельные единицы чтобы затем искать закономерности между ними. Кроме того нейросеть не позволяет распаковывать исходные данные даже из таких размазанным способом описанных объектов внутри нейросети. Впрочем генеративные нейросети могут решать задачу генерации исходных или похожих на исходные данные из компактного описания. Но опять же делают это не настолько точно и качественно как это может быть сделано из точных объектно-ориентированных моделей. А процесс обучения генеративных нейросетей требует еще больших ресурсов чем обучение классификаторов.
По всей видимости целенаправленное выявление объектов попросту упрощает ту же задачу которую глубокое обучение пытается решать не самым эффективным способом. То есть вероятно глубокое обучение могло бы найти достаточно точную и достаточно адекватную модель но это требовало бы слишком больших затрат ресурсов.
15:19
Таким образом глубокое обучение показало что это подход применимый в качестве помощника но попытка его абсолютизировать уводит в области где он становится не эффективным и очень затратным. Скорей всего нейросети - это должен быть лишь один из полюсов в многополярной системе. Свойтсва нейросетей и глубокого обучения могут дополнять свойства других подходов но не годятся чтобы строить эффективный ИИ только на них.
15:27
Выявление объектов - само по себе задача которая может требовать сильного ИИ.
Поэтому на практике не стоит вообще рассматривать полную автоматизацию этой задачи. Это может быть опять же совместный человеко-машинный процесс.
15:34
Таким образом подводя итог. В первую очередь нужен просто формат ООП описания любых предметных областей. В этом формате можно описывать любые предметные области и решать на этих моделях любые задачи. Собственно таковым форматом является любой типичный современный язык программирования. Такие модели традиционно строит программист. Лучшего языка чем типичный современенный ООП язык программирования - не придумано. Языковые модели работающие с линейным текстом - работают с худшим и не очень удачным для бизнес-применения языком. Нужны методы автоматизирующие выявление объектов в реальных данных - это должны быть человеко-машинные методы а не полностью автоматические. Результатом работы этих методов должны быть модели на ООП языке а не в виде нейросетей. нейросети могут применяться как вспомогательный инструмент.

[BDK]

13:59
Я обратил внимание что этот объект как я его сформулировал очень похож на то чем являются математические понятия.
по сути математические понятия это такие конструкции которые сами компактны но из них возможно много следствий, которые к тому же часто находят применимость и оказываются полезны на практике. Чем компактней математическая конструкция и чем больше ее применимость и пригождаемость - тем выше ее ценность. Здесь ценность математического понятия - синоним объективности объекта как я описал это выше
По сути выявление объектов в данных как я описал выше - тождественно поиску удачных полезных и применимых на практике математических конструкций.
То есть мне нужен ИИ который делает ровно то чем занимаются математики на протяжении тысячелетий.

[BDK]

Итак - выявление объектов в данных = поиску математических понятий. А так же и то и другое - очень похоже на образование видов в ходе эволюции.

[BDK]

Задача интеллекта - работа с эмерджентной реальностью. Эмерджентной реальностью я называю следующее - рассмотрим некоторое количество объектов - эти объекты взаимодействуя порождают комбинации - вот пространство этих комбинаций я называю эмерджентной реальностью.

Далее. Эмерджентную реальность можно рассматривать как представленную объектами - так же как конкретная реальность.
Здесь введем понятия - конкретная плоскость - это реальность непосредственно наблюдаемых объектов. Многослойная иерархия эмерджентных плоскостей - конструкция комбинаций которые могут быть построены над конкретной плоскостью.
Вершина модели - самый верхний слой многослойной иерархии эмерджентных плоскостей. Всю эту конструкцию можно изобразить как пирамиду где в основании конкретная плоскость, от основания к вершине идут эмерджентные слои, самый верхний слой является вершиной пирамиды.
Теперь рассмотрим свойства эмерджентных слоёв
Слой непосредственно примыкающий к конкретной плоскости представлен объектами максимально близкими по свойствам к объектам конкретной плоскости - они динамически взаимодействуют между собой почти так же интенсивно как и объекты конкретной плоскости. Но поскольку объекты эмерджентной плоскости являются некоторым обобщением объектов конкретной плоскости то одно состояние эмерджентных объектов соответствует некоторому множеству состояний конкретных объектов - то есть интенсивность динамики эмерджентных объектов ниже чем интенсивность динамики конкретных объектов.
Это можно проиллюстрировать тем как это обстоит в программировании - обычно программный объект это один раз написанный код, который во время работы программы сам не меняется но его работа порождает интенсивную динамику на уровне внешних данных ( например на экране). То есть здесь программный объект является эмерджентным объектом, а всё что происходит на экране можно рассматривать как конкретную плоскость.
На практике в любой реальной программе объекты не создаются один раз на всю сессию запуска программы, но тоже динамически создаются и уничтожаются. Но интенсивность этой динамики обычно ниже чем интенсивность динамики на уровне внешних данных.
То есть общее правило - каждая последующая эмерджентная плоскость надстроенная над предыдущей представлена объектами которые имеют меньшую динамику возникновения-исчезновения чем объекты нижележащего слоя.
В идеале в вершине модели должны быть максимально статичные объекты - такие которые описывают какие-то фундаментальные принципы которые не появляются и не исчезают на протяжении всей сессии а остаются постоянными.
Так обычно и строится любая реальная компьютерная программа.
Теперь рассмотрим что такое нейросеть в контексте описанного выше.
Нейросеть - это тоже многослойная конструкция где на самый начальный слой поступают конкретные сигналы от внешнего мира а на последующих слоях формируются те или иные распознанные классы более эмерджентного характера. На глубоких слоях нейросети так же формируются наиболее абстрактные и фундаментальные закономерности.
На первый взгляд это очень похоже на конструкцию которую описал выше я.
Но в чём отличие?
Отличие от компьютерной программы в том что нейросеть - статичная структура целиком - на всех слоях. В то время как в программе объекты могут появляться и исчезать - части и структуры нейросети остаются всегда статичными, ее части не появляются и не исчезают в процессе работы нейросети.
Из-за этого нейросеть имеет более низкие возможности чем компьютерная программа в общем виде.
Как именно эти отличия проявляются на свойствах и возможностях нейросети?
Вернемся опять к модели представленной эмерджентными слоями. Когда мы строим такую модель обычно слой модели непосредственно примыкающий к конкретной плоскости представлен объектами не сильно высокой сложности. Обычно это объекты очень близкие по свойствам к конкретным объектам. Которые почти настолько же динамично появляются и исчезают вместе с объектами конкретной плоскости. Строить модель так - логично, поскольку когда мы пишем компьютерную программу то движемся от простого к сложному - сначала мы пишем наиболее простые объекты которые наиболее приближены по свойствам к конкретным объектам, и лишь к концу - ближе к вершине модели доходим до наиболее абстрактных и статичных объектов описывающих некие фундаментальные принципы.
Таким образом слой модели непосредственно прилегающий к конкретной плоскости совершенно логично и естественно представлен объектами которые динамично создаются и исчезают - так строить модель проще и технологичней, чем пытаться уже на первом слое описывать максимально абстрактные и статичные объекты описывающие фундаментальные принципы.
Что же происходит если мы используем нейросеть для построения модели?
Она статична вся целиком - на всех слоях.
Таким образом ей невозможно на первых слоях построить модель в таком виде в каком ее проще всего и естественней всего было бы построить - в виде динамично появляющихся и исчезающих объектов.
Для нейросети возникает очень сложная задача - описать конкретную динамику моделью внутри которой нет динамики. Эта задача очень сложная. То есть по сути мы пытаемся заставить нейросеть решить очень противоестественную для неё задачу.
И даже если это удается то только путём применения очень больших нейросетей - где динамика в какой-то степени заменяется многообразием комбинаций которые представлены статично
Но нюанс в то что сколько бы мы комбинаций не представили в статичной форме, между динамически взаимодействующими объектами комбинаций всегда возможно неизмеримо больше.
Поэтому компьтерная программа оперирующая динамически появляющимися и исчезающими объектами а так же динамически взаимодействующими между собой способна порождать неизмеримо более сложное поведение чем нейросеть.
И более точную и адекватную модель .
Что мы и наблюдаем постоянно на практике - специальные компьютерные алгоритмы бывают намного эффективней нейросетей.
Однако где нейросети эффективней?
Применение нейросетей становится всё более оправданным по мере приближения к вершине модели - свойство статичности конструкции нейросети уже не противоречит свойствами верхних уровней модели поскольку модель на верхних уровнях так же стремится к статичности. И вот там нейросеть вполне удачно может быть вписана в модель.
Короче - нейросеть очень специальная вещь обладающая специфическими свойствами - она не заменяет алгоритм общего вида.
Модели лучше строить всё же в виде алгоритмов общего вида, но с применением нейросетей в виде вставок в тех местах модели где это оправдано.
Ну и самое вкусное и интересное - предлагаю сосредоточиться не на конструкционных заморочках как строить модель а поразмыслить над самим принципом - понятие эмерджентной реальности.
Ведь действительно не важно как именно мы описываем эмерджентную реальность - нейросетью ли или алгоритмом общего вида. Главное что в принципе описание эмерджентной реальности позволяет моделировать поведение конкретной реальности.
Я бы больше сосредоточился на исследовании свойств самой эмерджентной реальности.
А уже из понимания ее свойств естественным образом становится понятно какими технологическими решениями удобно моделировать эту реальность.