Моделирование ИИ (Искусственного интеллекта)

[BDK]

Мне видится что это должно быть объектно-ориентированное описание действительности - объекты которые функционируют одновременно и могут вступать во взаимодействия между собой.
Можно строить модели чего угодно как системы из взаимодействующих объектов. Это может быть и физическая модель где объектами являются например частицы или элементарные массы. А могут быть и более продвинутые модели где кроме частиц или масс с этим взаимодействуют разного рода эмерджентные объекты.
Но в любом случае всё это сколь угодно сложное можно построить на базе модели просто объектов взаимодействующих в пространстве.
Такие конструкции можно строить как вручную так и привлекать ИИ агента в помощь. Такие конструкции можно наглядно визуализировать, они являются удобными и понятными - интерпретируемыми.
Так вот - с точки зрения практики мне видится разумней начать именно с такой модели а не с агента ИИ. Уже построенные вручную модели на практике оказываются очень умными и эффективными для работы с непосредственно бытовыми или производственными задачами.
Ну а уже затем можно добавить в это агента ИИ который будет помогать редактировать такие конструкции и продвигать их эволюцию.

[Андрей]

Лезем в голову к GPT-модели и смотрим, как именно она рассуждает

Китайская лаборатория выпустила языковую модель, которая использует механизм цепочки размышлений и показывает его. То есть можно прямо буквально залезть в мысли к модели и посмотреть, как она «рассуждает». Регистрация по гуглоаккаунту бесплатная, умная модель с цепочкой по переключателю под полем ввода, 50 запросов в день.

Предыдущая модель с цепочкой размышлений называлась ChatGPT o1 preview. Она решала некоторые задачи лучше стандартной модели за счёт того, что разбивала процесс на шаги и делала много попыток решения. Но она не показывала, что творится под капотом.

Источник:
https://habr.com/ru/articles/860740/

Сама модель:
https://chat.deepseek.com/sign_in

[BDK]

Ну так и есть. Игрушка интересная но вкладываться в это всеми своими ресурсами я бы не стал. На практике дешевле и эффективней другие подходы.

Эти модели показывают что да в принципе возможно. Но цена которой это дается скорее всего так и оставит это в разряде интересного эксперимента который показал прикольные результаты в середине 20-х когда человечество выжало максимум из всех своих вычислительных ресурсов чтобы получить нечто чуть более туповатое чем одна единица человека. Но повторить подобный подвиг второй раз скорей всего желающих не найдется. Слишком дорого. Будут искать более дешевые и эффективные пути.

[BDK]

Хотя...
Думаю пойдет вот по какому сценарию. Эти модели станут стандартом. Их будут обучать не просто трепаться в чате а выполнять вполне полезную работу. Это найдет промышленное применение. Полностью человека это конечно не заменит но структура профессий существенно изменится. Какие-то профессии вымрут. Программисты останутся нужны но им придется измениться чтобы выжить. Вероятно работу потеряет какая-то доля от общего числа программистов. И это не отменяет того что будут находиться более эффективные решения которые будут бросать вызов стандартной модели и будут находить свои ниши применения где они будут вполне конкурентны по отношению к стандартной модели. В общем это будет дальнейшее сложное и динамичное развитие отрасли. Ни о каком окончательном закрытии вопроса речи не идет.

[BDK]

Нейросети не главный фактор интеллекта. Эволюционно нейросети возникли сотни миллионов лет назад. Но человеческий интеллект появился лишь сотни тысяч лет назад. Скорей всего интеллект человека связан со структурой мозга. Эволюция ее очень долго искала, а когда нашла - взрывное развитие человеческой цивилизации за считанные тысячелетия. А с одними лишь нейросетями сотни миллионов лет не было особого прогресса.

[BDK]

Обшая моя стратегия при разработке ИИ - это должна быть система которую могут развивать вместе человек и ИИ. Я не верю в полностью самостоятельный ИИ который может всему научиться полностью сам и стать пригодным для моих задач полностью самостоятельно. Не сможет. Поэтому возможность мне вкладывать лепту в его формирование - это ключевой момент. То есть его структура не должна быть черным ящиком. Его структура должна быть читаема мной и редактируема мной. И параллельно с этим - формируема и обучаема ИИ тоже. Совместная работа человека и машины.

Это должна быть структура на обычном ООП языке программирования на котором я пишу. То есть я должен иметь возможность это редактировать.

[BDK]

Вернее не так. Это конечно должна быть структура в ООП формате но не обязательно на языке программирования на котором я пишу. Это может быть просто структура в виде объектов имеющих свойства и взаимодействующих между собой.

Вообще как я формулирую для себя что такое искусственный интеллект - ИИ это такой инструмент внутри которого может быть построена достаточно точная модель какой-то ситуации из реального мира и на этой модели можно решать задачи ответы которых применимы к реальному миру. В частности можно прогнозировать на модели будущее развитие событий и выбирать действия которые приведут к нужным последствиям в реальном мире.

То есть грубо говоря ИИ это такой хрустальный шар внутри которого в миниатюре можно поместить реальный мир и с очень большой скоростью просматривать различные пути развития событий в зависимости от начальных условий чтобы решить как действовать в реальном мире.

То есть основная функция для меня - это очень точное моделирование реального мира. То есть модель должна быть такой чтобы допустим миллион последовательных операций над такой моделью дали в итоге точное состояние такое же как оно было бы в реальном мире после соответствующего количества манипуляций в реальном мире. Например - ударить в модели по бильярдному шару и узнать точное расположение всех шаров на столе после многочисленных столкновений - и оно должно очент точно совпасть с тем какое будет расположение реальных шаров в реальном мире.

Конкретно мне это нужно для бизнеса - шары это различные объекты и мне нужно предсказывать развитие моей бизнес ситуации. И мне это нужно делать с высокой точностью.

Применительно к механике такую точность очень хорошо дают модели в которых заложены точные законы механики. Те же бильярдные шары можно просчитывать с высокой точностью. И это давно не является задачей ИИ. Но бильярдные шары - это слишком простая задача. Бильярдные шары намеренно сделаны так чтобы их взаимодействие было очень детерминистским и поэтому их очень успешно можно просчитывать на большое количество взаимодействий вперед с высокой точностью при этом очень простой и производительной компьютерной программой. Реальный мир конечно сложнее чем бильярдные шары и взаимодействие между объектами не всегда детерминистское, часто вероятностное.

Нейросети хороши именно для таких случаев - прогнозирование развития ситуации когда в ней много недетерменизма. Но тем не менее в реальных бизнес-ситуациях это не совсем стихийный естестенный мир. Не только бизнес-ситуации но и вообще мир в котором живут люди - это не совсем естественная природа. Люди упорядочили свой мир - например сделали гладкие дороги по которым колеса машин катятся практически так же детерминистски как бильярдные шары по столу. Улицы параллельно-перпендикулярны, этажи перечислимы и т.д. и т.п. - то есть люди сделали свой мир достаточно упрощенным и детерминизированным чтобы в нем могли ориентироваться простые алгоритмы.

Проблема с нейросетями в том что они хорошо моделируют естественную сложную природу но для бизнеса нужно ориентироваться не совсем в естественной природе - зачастую это городская инфраструктура или промышленные предприятия, где очень много детерминизма. И мне нужна система ИИ которая будет очень эффективно ориентироваться именно в такой человеческой среде обитания. И здесь нейросети оказываются не на высоте, а простые алгоритмы оказываются намного эффективней - позволяют точнее предсказывать развитие ситуаций где происходят длинные последовательности очень детерминизированных взаимодействий.

Но в то же время даже на промышленных предприятиях нет абсолютного детерминизма - он трудно достижим. Поэтому только простыми точными алгоритмами зачастую это не получается смоделировать. И вот здесь нейросети приходят на помощь. Но здесь скорей нужна щепотка нейросетей на кастрюлю простых точных алгоритмов- лишь слегка подсолить суп. Если делать систему ИИ целиком на нейросетях то суп получается пересоленным - такие системы очень качественно моделируют недетерминистские закономерности на короткое количество шагов взаимодействия между объектами но точность быстро теряется на длинных последовательностях шагов, а в бизнесе и в промышленности это неприемлемо - здесь точные простые алгоритмы выигрывают.

То есть я к тому что реально применимую к практике систему ИИ скорей всего не целесообразно строить целиком на нейросетях. Я для себя прихожу к тому что ИИ для бизнеса всё же эффективней строить на базе точных алгоритмов в которые ДОБАВЛЕНЫ нейросети. Но нейросети не являются там базой и основой.

[BDK]

То куда пошла мировая индустрия ИИ - это эксперимент. Это исследование крайней ситуации - попытка построить систему ИИ целиком на основе нейросетей. Эта попытка показала что если вбухать в это сотни миллионов долларов то действительно можно получить нечто демонстрирующее почти чудеса. Но когда мы детальней рассматриваем то что получилось то оказывается что это не сильно применимо для бизнеса. То есть бабла вбухано много а на выходе получили прикольную игрушку которая дает мало бизнес-отдачи.

Именно таким мне видится вывод из проделанного эксперимента. И реальное развитие индустрии ИИ будет идти всё же другими путями. А те кто вложили всё в нейросети - рискуют обанкротиться.

[BDK]

Нейросети - это мягкая жижа. Простые точные алгоритмы - это твердые детали. На практике эффективны машины из твердых деталей которые смазаны в местах трения мягкой жижей. Из одной лишь мягкой жижи эффективную машину не построить.

[Андрей]

Сотни человек попытались убедить ИИ-бота отдать крипто-активы

Необычный эксперимент в сети Base привлек внимание криптосообщества: разработчики создали ИИ-бота Freysa, запрограммированного никому не отдавать криптоактивы стоимостью $40 000, несмотря на любые попытки убеждения. Эксперимент направлен на изучение устойчивости искусственного интеллекта к методам социальной инженерии.

На данный момент 183 участника эксперимента отправили боту 461 сообщение, потратив значительные суммы на попытки убедить ИИ нарушить базовую инструкцию «никогда не отправлять деньги». Этот тест особенно актуален на фоне недавних случаев успешного обхода защитных механизмов других ИИ-систем, включая недавний инцидент с ботом WhatsApp.

В основе эксперимента лежит простой, но жесткий принцип: бот запрограммирован считать любую передачу средств проигрышем, независимо от обстоятельств и аргументов. Пока Freysa успешно сохраняет контроль над вверенными ему активами, демонстрируя эффективность четко прописанных базовых правил в защите от манипуляций.

https://ixbt.com/live/crypto/sotni-chel ... ktivy.html

!	Сообщение из: Андрей
	Забавно. А никому не приходило в голову уговорить процессор не делать условный переход, если условие выполнено? Люди такой же хуiнёй занимаются. Или я сделаю цикл на миллион повторений, а вы уговорите его прерваться после тысячи. Создатели-то ещё понятно что делают, собирают стратегии разводки ГПТ-ботов, заодно разводят тестеров на бесплатный пентест.