Нужен ли универсальный ИИ конкретно мне.

[Андрей Карпишин]

В этом ролике ИИ интересно рассуждает о будущем человечества.

[BDK]

Языковые модели просто пересказывают своими словами данные на которых их обучали. Если бы их обучали например на текстах из древнего Египта то языковая модель так же уверенно утверждала бы про загробную жизнь, бога Ра и прочее.

https://habr.com/ru/articles/921110/

[Андрей Карпишин]

https://habr.com/ru/articles/921110/

В этой статье в конце есть опровержение опровержения скептиков.

[Андрей Карпишин]

Языковые модели просто пересказывают своими словами данные на которых их обучали.

Ну это я понимаю. Но с другой стороны, они выдают некий субстрат текущего научного понимания всего человечества. В отличие, к примеру, от всяких шизанутых фриков типа плоскоземельщиков.

[Андрей Карпишин]

Если бы их обучали например на текстах из древнего Египта то языковая модель так же уверенно утверждала бы про загробную жизнь, бога Ра и прочее.

В связи с этим нужно сказать, что у моделей нет собственных органов чувств, это их недостаток. Менский в своей ключевой работе писал про сверхинтуицию, как способность получать информацию из Высшего.

[BDK]

Языковые модели просто пересказывают своими словами данные на которых их обучали.

Ну это я понимаю. Но с другой стороны, они выдают некий субстрат текущего научного понимания всего человечества. В отличие, к примеру, от всяких шизанутых фриков типа плоскоземельщиков.

Они выдают то чему их специально обучили. Плоскоземельшиков тщательно отфильтровали тысячи индусов ещё на этапе подготовки обучающих данных.

Языковая модель не способна отличить мух от котлет. Если ей скормить и научные данные и плоскоземельщиков то она просто не сможет выдавать ответы высокой степени достоверности. Если нейросети скармливать противоречащие друг другу данные то нейросеть будет выдавать либо среднее между ними либо если более продвинутые модели то с равной вероятностью то одно то другое. Вероятней в зависимости от контекста, в зависимости от постановки промпта. Вначале так и было - и это было лучше. А потом стали причесывать подгонять под политкорректность и т.д. и т.п. короче это не она сама пришла к этим всем выводам а ей запихнули такую картину мира разработчики. Она просто озвучила картину которая считается стандартной и общепринятой в мире. Под которую ее собственно специально и обучили.

В связи с этим нужно сказать, что у моделей нет собственных органов чувств, эт

Да не в этом дело, прежде всего дело в том что она не обладает собственно интеллектом. Если к ней прикрутить органы чувств это ситуацию не исправит потому что интеллектом эта штука не обладает, хоть с органами чувст хоть без.

Это можно сравнить с продвинутой базой данных. Она может озвучивать данные своими словами. Но придумать что-то принципиально новое, сделать открытие - не способна. Только озвучить новыми словами уже известное.

То же самое про кодинг - она блестяще выдает код для типовых задач. Но стоит только попросить что-то сильно нестандартное - сразу сыпется.

Нейросеть - это принципиально про выучивание опыта. Она не способна породить что-то выходящее за рамки опыта. Вернее способна - чуть чуть. То есть нейросеть обладает некоторой микроскопической способностью к обобщению. Но лишь реально микроскопической. Она не может допустим из эмпирических данных например по наблюдению за подбрасываемыми камнями вывести законы ньютоновской механики. Но она сможет моделировать подбрасываемые камни с некоторой степенью точности просто выучив миллиарды нюансов в наблюдаемых данных. Но все равно ньютоновские законы моделируют точней. И это принципиальное слабое место нейросетей.

Если сказать кратко - нейросеть не умеет выводить общие правила, она лишь обладает способностью выучивать огромное количество частных случаев. Вернее, чтобы быть совсем справедливым - с несколько чуть бОльшим обобщением чем простая запись в базу данных. Но очень не достаточным для того чтобы это можно было сравнивать с человеческим интеллектом.

Кажущаяся разумность языковых моделей обусловлена лишь гигантским объемом данных которые они выучили а не тем что они действительно имеют в себе некую абстрактную обобщенную модель реальности.

Человек способен по наблюдаемым данным вывести очень обобщенную модель наблюдаемого - как пример те же законы Ньютона. Нейросеть - нет. Она просто запоминает наблюдаемое но не может построить сколь нибудь серьезно обобщенную модель.

[BDK]

Законы ньютона моделируют движение камня точнее а главное ДЕШЕВЛЕ.

Когда я автоматизировал процессы на нашей фирме - я выявил сам обобщенные закономерности и просто прописал их как несложные алгоритмы - стоимость разработки оказалась копеечной а эффект - никаким LLM такая эффективность и не снилась. Это примерно как сравнить эффективность калькулятора и LLM для попытки повторить функционал калькулятора - она повторит с ошибками но главное каждое умножение - это мегаватты энергии потраченные на датацентроах на которых работает огромная громоздкая ресурсоемкая LLM . А калькулятор - это сэм-восэм транзистора за 0.0001 копейки и абсолютная точность без единой ошибки - просто положите то и другое на чаши весов . Бизнес все взвешивает чтобы выбрать .

То есть для любых конкретных бизнес процессов всегда максимально эффективно будет работать автоматизация разработанная специально под этот конкретный бизнес процесс - с выявлением обобщенных закономерностей характерных для этого и только этого конкретного бизнес процесса.

Да - здесь нужен человеческий интеллект чтобы проанализировать этот бизнес и его процессы и выявить характерные для него обобщенные закономерности. Но это нужно сделать один раз а построенная таким способом модель потом наштампует миллионы экземпляров продукции автоматически - для бизнеса это получается очень дёшево и очень эффективно - нанять меня а не использовать LLM которая делает криво, через жопу а в ответственный момент ещё и произойдет авария и все оборудование поломается к чертям из-за того что в процесс закралась не отловленная галлюцинация.

=====

Да LLM хороша для каких-то очень типовых задач или задач под которую ее специально обучили. Но если говорить про бизнес - любой бизнес принципиально уникален - это попросту обязательное условие существования бизнеса, если бизнес типовой и не отличим от шаблонных тысяч других таких же - у него нет шансов конкурировать. Любой бизнес конкурирует за счёт каких-то своих уникальных особенностей. То есть автоматизация бизнеса - это всегда и принципиально автоматизация очень не типовых задач, с уникальными только для этого бизнеса закономерностями - а это вовсе не сильная сторона LLM.

Либо LLM можно использовать для автоматизации каких-то не сильно ответственных и достаточно рутинных задач. Но опять же - автоматизация написанная специально под такие задачи все равно будет дешевле и эффективней.

Есть очень небольшой круг задач где LLM действительно удачны - как вот перевод с языка на язык. Это да. Но это мизерный процент от всего многообразия задач которые нужно автоматизировать. Так что без работы я точно не останусь.

[BDK]

В старину когда ещё существовали кукольные театры был такой трюк - брали куклу и спрятанный человек говорил а актер управлял куклой, и казалось что это говорит кукла. И были такие мошенники которые выдавали это за то что якобы это некий дух вселяется в куклу и говорит через нее великую истину. И публика велась. И любой проходимец мог при помощи обычной куклы вливать в уши публике любые свои идеи какие пожелает.

Вот что-то подобное сейчас происходит с использованием LLM - люди их воспринимают как будто это вещает какой-то великий оракул. И через это легко навязать толпе нужные мнения и картины мира.

[BDK]

Когда я пишу программу а не просто пишу алгоритм который что-то делает, а я именно создаю модель, примерно так же как она могла бы формироваться и в нейросети только грубо говоря я прописываю нейроны вручную. И я прописываю закономерности грубо говоря уровня законов ньютона - то есть такие какие может выявить человек и не способна нейросеть

И вот такие модели реально могут мыслить в рамках понятий конкретного бизнес процесса. Они не могут мыслить ни о чем больше, но вот в рамках своей конкретной предметной области они мыслят несравнимо мощней точней и адекватней чем LLM.

Короче моя ниша - это боты узкие специалисты но настоящие профессионалы своего дела. А LLM это скажем так умник-отличник-зубрила широкой эрудиции но ни в чем не обладающий по настоящему сильным практическим мастерством. При этом дорогой и распиареный, в него вложено куча кредитов, которые отрабатывать придется долгие годы, в то время как мои боты-ниндзя работают грубо говоря за чашку риса и не требуют дополнительных вложений.

И если расположить все всякие системы ИИ на круговой диаграмме то мои методы и те которые применяются в LLM находятся на противоположных областях круга - то есть они по сути друг с другом не конкурируют - это просто в принципе не пересекающиеся ниши - они не мешают мне я не мешаю им. Мы просто отражаем разные части рынка. И я намеренно выбрал менее захайпованную нишу - меньше народу больше кислороду. Меньше конкуренция. Можно чилить и грести бабло лопатой. А лохи пусть прутся в самую толпу. Там конкуренция жёсткая - шансв что-то урвать мизерны а вот огрести шанс почти гарантирован.

[BDK]

То есть я к чему вообще затеял эту тему - я хочу сказать что LLM - это вовсе не закрытие вопроса ИИ и типа всё расходимся по домам типа нам больше нечего делать. Я к тому что это все равно рынок где всегда есть место поиску своего места в нём.