Нужен ли универсальный ИИ конкретно мне.

[BDK]

Что такое LLM? Это коммерчески успешная идея. В чем её проблема? В том что не моя.

На этом уже заработали другие. Какой мне с этого профит? Мне нужно искать другое. Мне нужны инструменты которые помогают делать реальные дела. LLM отлично работает как коммерческий продукт который продается сам по себе. Но они плохи тем что не особо помогают в реальных делах. То есть их можно хорошо продавать сами - но это уже сделали другие. А вот делать при помощи них реальные дела они работают плохо и поэтому не годятся мне.

Чтобы что-то продать не обязательно чтобы оно обладало реальной пользой - главное чтобы у покупателя было впечатление что он покупает что-то полезное. То есть системы ИИ можно разделить на два больших класса - те которые можно продавать под видом чего-то полезного и те которые реально могут делать что-то полезное. Я продаю не системы ИИ - я создаю другой продукт. А системы ИИ мне нужны чтобы помогать производить этот продукт. То есть мне нужны системы ИИ второго типа - которые реально могут делать что-то полезное. А LLM это ИИ первого типа - это как раз то что само продается как продукт. Но это ниша для больших игроков. Мне с ними тягаться вовсе без шансов.

Я грубо говоря делаю свои пирожки. И мне нужны средства автоматизации для производства моих пирожков. Это вообще другая ниша, практически никак не пересекающаяся с нишей массово производимых систем ИИ. Мне нужны сугубо специальные средства под мои задачи. И такие я делаю сам для себя. Потому что по определению то что распространено массово не может тебе лично дать конкурентного преимущества. Твое личное конкурентное преимущество - это всегда сугубо эксклюзивные инструменты которые есть только у тебя и нет у других. Пусть это не такие масштабные вещи. Но они реально эффективны для твоих конкретных задач.

[BDK]

Создавая ИИ самая большая ошибка которую мы совершаем - это упускать из внимания самих себя. ИИ невозможно создать как какую-то умозрительную вещь, выдуманную на пустом месте. Это нужно рассматривать как создание себе нового тела к набору уже существующих. То есть это вещь которая с одной стороны должна быть подобием и отражением нас самих (а для этого нужно хорошо знать себя) , с другой стороны быть продолжением и дополнением нас самих.

Это доспехи.

То что мы эволюционно научились делать ещё миллионы лет назад. Теперь просто дальнейшая эволюция доспехов.

Это не замена нас, не альтернатива нам, не вещь в себе. Это именно доспехи. Нечто надеваемое на нас, приспособленное по форме под форму нашего тела, расширяющее функционал нашего тела. Только в таком виде это продуктивно. Остальное не работает.

[BDK]

Мир точности.

LLM показали чудеса но они имеют проблему - крайне низкую точность.

Что такое точность? Это знание закономерностей реального мира которые выполняются очень точно. Это позволяет моделировать реальный мир на этих закономерностях выстраивая большие сложные системы из этих закономерностей и оставаясь уверенными что эти системы очень точно совпадают с реальным миром и не расходятся с ним слишком сильно чтобы этими моделями (симуляциями) можно было пользоваться на практике.

Например мы знаем очень точные законы ньютоновской механики. Что означает что они очень точные? Это означает что если мы допустим выстроим модель из миллионов частиц взаимодействующих по ньютоновской механике то поведение всего этого большого множества виртуальных деталей окажется очень близким к тому как ведут себя предметы в реальном мире. То есть речь не об абсолютной а о ВЫСОКОЙ точности. Высокая точность позволяет выстраивать длинные цепочки взаимодействий в симуляции и это будет сохранять хорошее соответствие реальному миру. Чем выше точность закономерностей между взаимодействующими виртуальными деталями тем длинней выстраиваемые из них цепочки взаимодействий которые сохраняют адекватность. Абсолютно точные закономерности вряд ли достижимы но все доступные нам открытые когда либо закономерности можно ранжировать по степени точности и наиболее точные из них имеют для нас наибольшую ценность поскольку позволяют строить более сложные виртуальные модели реального мира которые сохраняют адекватность.

И именно вот этой ценности нет в LLM - они не имеют высокой точности. Они имеют крайне низкую точность. Цепочки из последовательных выводов LLM очень быстро рассыпаются и теряют адекватность. Более менее адекватными остаются только очень короткие цепочки из выводов LLM или даже скорей только одиночные выводы иногда имеют приемлемую точность. Связывание в цепочку двух и более выводов стремительно теряют адекватность.
=====

Что касается меня - я в своих помощниках делаю упор именно на точность. У меня нет мощных серверов, мои выч. ресурсы скромны. Но я получаю профит от использования очень точных закономерностей, что позволяет мне получать виртуальных помощников которые хотя и не выглядят умными и всезнающими но оказываются очень крутыми специалистами в конкретно своей специализированной задаче и это дает мне очень большую выгоду и помощь в автоматизации моих конкретных бизнеспроцессов. Они дают мне надежность, уверенность что я могу на них полностью положиться в конкретных специализированных функциях и что они полностью закрывают эту функцию и перепроверка и трата моего времени на эти направления и функции мне не нужны.

Точность - это ценность. Это то что позволяет получать больше профита меньшими вычислительными ресурсами и в целом меньшими затратами.
=====

Я давно понял что системы ИИ должны быть не столько умными сколько позволять на них положиться в определенных аспектах и высвободить свои ресурсы и траты на эти направления. Это как машина с автоматической коробкой - ты можешь на неё полностью положиться и полностью забыть про рычаг переключения передач. Это экономит мое внимание, позволяет больше внимания направлять на другие операции и быть полностью уверенным что автоматика полностью закрывает функцию переключения передач, без сбоев и ошибок.

Системы ИИ должны быть дальнейшим развитием концепции доспехов и оружия - от них требуется надежность и возможность положиться на них, они должны полностью закрывать определенные направления чтобы мы больше не тратили свое внимание и ресурсы на эти направления и могли больше сосредотачиваться на более целевых, что и дает нам боевое преимущество. А умение ИИ сочинять стишки и вести веселые беседы - это так себе ценность. Вернее для меня это вообще не ценность. Это бесполезность. Я не считаю что интеллект - это вот эти внешние признаки подобия с интеллектом человека. Способность сочинять стишки - это крайне десятое вторичное следствие от нашего собственного интеллекта. И если мы в системах ИИ делаем упор на подобие вот этой нашей вторичной функции то мы затачиваем наши системы ИИ совсем не под то что нужно.
=====

LLM - это хорошее демо. Оно показывает что такие вещи в принципе оказываются возможны. Однако если вести речь о практической пользе - нужно теперь подумать как можно применить эту технологию для более практичных задач. И это должно быть связано со специализацией. Нужно обучать не на общемировых данных а на данных конкретного бизнеспроцесса или даже отдельной задачи или функции. Чем более узко заточенного специализированного агента мы обучаем тем качественней он делает именно эту задачу, при этом гораздо-гораздо меньшими затратами ресурсов.

Общий ИИ - ложное направление. Дорого и неэффективно. Чем более общий тем более нереалистично, не практично и не осуществимо. На практике мы скорей всего получим очередную итерацию систем ИИ. Которые да - в очередной раз переформатируют рынок, изменят профессии. Но таких очередных этапов может быть бесконечность - предела нет. А мечты об общем ИИ - не более чем фантазии тех кто не понимают о чем говорят. Или скорей намеренно вводят в заблуждение (втюривание товара лохам)

[BDK]

За человеком так или иначе остается выбор - какие именно функции и задачи выделить и принять значимыми. Под что обучать и специализировать агента. Какую систему специализированных агентов выстраивать. И именно этот выбор полностью определяет твое преимущество или проигрыш перед конкурентами.

Удачный выбор задач - равно выделение в реальности очень точных сущностей которые могут быть выражены как функции и задачи.

Рынок будет искать вот эти сущности. Разные игроки будут выстраивать свою систему специализаций. Это будет конкурирующая эволюционирующая экосистема. Никакого общего ИИ полученного в один момент не будет. Это будет разношерстное многобразие которое будет последовательно эволюционировать. И это будет еще более сложное и еще более разношерстное многообразие чем то многообразие конкурирующих продуктов как мы видели когда либо в истории рынка раньше. Ни о каком окончательно закрытом и завершенном вопросе ИИ нет и речи - он станет еще менее завершенным. Наоборот - это открытие ящика Пандоры.

[BDK]

Что такое сущности которые ищет рынок? Вот например такая вещь как видеокарта. Кто нибудь мог подумать в 80-е что понятие "видеокарта" станет мощным божеством вокруг которого вращается рынок? В 80-х видеокарта это была всего лишь мелкая вторичная плата внутри компьютера. Но реальность расставила приоритеты так что именно понятие "видеокарта" которое затем эволюционировало в понятие "GPU" стало ключевым в мире вычислительных технологий.

Вот именно тот кто раньше других обнаруживает такие сущности и обходит конкурентов. Такие сущности есть во всем. И их потенциально бесконечность. Это как виды в природе - почему природа выбрала в основном симметричные тела, с парой глаз, с конечностями и т.д. и т.п. - это крайне трудно предсказать. Это эволюция нащупывает путем проб и ошибок.

Удачные решения.

Конкурентов обходит не тот кто затрачивает больше ресурсов а тот кто находит более удачные решения - которые позволяют получить больше профита меньшими затратами ресурсов.

phpBB [video]

[BDK]

Сила нашего, человеческого интеллекта в том что мы оперируем удачными сущностями. Распознавание этих сущностей скорей всего зашито в нашем мозгу генетически и сформировано эволюционно. Все механизмы обучения в течении жизни носят вспомогательный характер и не играют основную роль в формировании интеллекта. Вернее способность обучаться это тоже эволюционно сформированная способность. И обучаясь мы не просто обучаемся всему подряд а тоже выделяем значимые сущности, которые в свою очередь предзаложены генетически.

Так например распознавание лиц - предзаложено генетически. То есть лицо - это сущность распознавание которой в нас уже предзаложено от рождения, позже мы дообучаемся делать это более эффективно но базовое распознавание лиц есть у нас от рождения. У животных бывают предзаложены и другие конкретные сущности. Например теленок антилопы после рождения уже через несколько часов умеет стоять на ногах и бегать. То есть сущности которые необходимо распознавать нейросетям чтобы эффективно управлять мышцами ног и распознавать ситуации связанные с потерей и сохранением равновесия которые при этом возникают - они предзаложены. Нейросети не могли бы обучиться с нуля за несколько часов.

У человека в отличие от животных предаложены более высокоуровневые сущности. Не о том как стоять на ногах а на какие аспекты в информации обращать внимание, сложная система интересов-мотиваций которая позволяет мозгу эдекватно доосваивать реальный мир в процессе обучения, но этот процесс не мог бы быть эффективным если бы в нас изнначально не были предзаложены какие-то базовые понятия на что обращать внимание, к чему проявлять интерес и в каких направлениях осваивать навыки.

Наш интеллект не возникает с чистого листа в течение жизни - все миллионы лет эволюции до нашего рождения формировали его. И скорей всего это очень сложная система. Попытки повторить это в машине простыми методами машинного обучения слишком наивны. Мы повторяем какие-то очень явные видимые свойства нашего интеллекта, но мы не знаем сколько всего еще остается не видимым и неизвестны для нас в нас самих, что мы не можем повторить в машине. Поэтому идея об ИИ который придет нам на смену она наивна. Заменить нас он не сможет. Дополнить - да. Или убить - это тоже возможно. Но не заменить.

[BDK]

LLM это один из тысяч возможных типов ИИ. Вовсе не единственный, не лучший и не абсолютный. Конкурирующие типы будут появляться как грибы после дождя.

Что касается меня у меня своя парадигма ИИ но я не хочу ею делиться а хочу использовать только для себя. По сути это как вооружение ниндзя - каждый клан создавал своё уникальное и не делился техниками с другими. Только в таком виде это имеет смысл. Кто разбалтывает свои техники тот теряет свое конкурентное преимущество.

Пожалуй самая глупая идея 20-го века это была идея коммунизма, всеобщего равенства и универсальных стандартов. В реальности ничего из этого не работает. Эволюция напрямую связана с разнообразием, конкуренцией и уникальными решениями которых нет у других. .

Хочешь подняться - создавай своё уникальное, держи в секрете от конкурентов и старайся обойти их своими методами.

Идеи всеобщности, равенства, единых стандартов и единой парадигмы и картины мира - очень сильно засрали людям мозги вообще по всему миру а в совке особенно. Абсолютно не жизнеспособная даже не утопия а просто чушь. И вычистить эту чушь из своих мозгов не так просто. Мало кто догадывается что это в принципе путь. А те кто догадались сталкиваются с трудностью - то что вжилось в мозги очень сильно не так просто вытравить.

Кто сумеет тот и победит.

[BDK]

В целом же концепция ИИ проста - создание виртуальной модели некой реальной обстановки и связь виртуальной модели с реальной обстановкой.

SCADA системы давно реализуют этот принцип.

Вопрос лишь в сложности модели, ее адекватности реальной обстановке, и надёжности связи (в это так же входит адекватность связи между реальностью и моделью)

Связь в обе стороны - отображение реальной обстановки в свойствах модели и управление реальной обстановкой через управление параметрами модели

Каким уже образом это сделано - алгоритмами ли, нейросетями ли или ещё как угодно - дело десятое. Главное чтобы выполнялся описанный принцип

Что касается рассуждений - это просто любого рода функции выполняемые над моделью. Опять же - алгоритмы ли, нейросети ли или какая-то семантическая или логическая обработка - тут бесконечность разнообразия подходов.

Что-то там вычислили на модели - результаты применились к реальной обстановке. Всё. Предельно просто.

А есть ли там душа у машины или только жопа - это оставим тратить время лохам.

[Андрей Карпишин]

Искусственный интеллект обретает здравомыслие: новый метод заставил нейросети сомневаться в своих ответах

Команда исследователей из МИСиС и МФТИ с коллегами разработала новый метод, который значительно повышает надежность нейронных сетей, обучая их эффективно распознавать объекты и ситуации, с которыми они не сталкивались в процессе обучения. Предложенный подход, названный Identity Curvature Laplace Approximation (ICLA), позволяет искусственному интеллекту более точно оценивать собственную неуверенность, что является критически важным шагом для создания безопасных систем в таких областях, как беспилотный транспорт, медицинская диагностика и финансовый мониторинг.

https://naked-science.ru/article/column ... nnyj-int-o

[BDK]

Блять так бесят эти заголовки для лоховья.

суть же в чём - вся эта шняга с нейросетями это примитивнейшая вещь. Это даже не интеллект ни разу. Это функция. Интересная и полезная если применять ее с умом. Но блять эти разрисуют как буд-то это невесть что и как буд-то оно даже мыслит. Нет ну понятно что специалиста это в заблуждение не введет. Но ведь даже большинство начальников не специалисты и они ведутся на всю эту макркетинговую шнягу, и принимают решения которые напрямую определяют направление бизнеса. А это крайне-крайне вредно.

Это вот на что похоже - на толпы наркоманов. Они залили глаза этими препаратами и смотрят мультики в голове. А в реальности дела начинают идти всё хуже и хуже потому что не остается тех кто может видеть картину трезво и принимать адекватные решения.