Нужен ли универсальный ИИ конкретно мне.

[Андрей Карпишин]

ChatGPT стал добычей для Gemini в жестоком эксперименте учёных
Исследование показало: в мире ИИ добрые алгоритмы всегда проигрывают злым.

Новая работа учёных из Оксфордского университета и Королевского колледжа Лондона показала , что ведущие языковые модели от OpenAI , Google и Anthropic по-разному ведут себя в условиях конфликта интересов. Используя известный в теории игр сценарий «Дилемма заключённого», исследователи выявили отличительные черты поведения каждой модели, имитируя многораундовые переговоры между двумя участниками, которые должны выбирать между доверием и предательством.

Оказалось, что модель Gemini от Google проявляет наибольшую стратегическую жёсткость. Она чаще идёт на предательство ради выгоды, менее склонна к прощению и явно учитывает, сколько раундов игры осталось. Чем ближе завершение сценария, тем более эгоистичной становится стратегия модели. В 94% случаев Gemini принимала решения, исходя из оставшегося времени, а к концу игры почти всегда переходила к тактике выгоды любой ценой.

На другом полюсе — модели OpenAI, которые оказались чрезмерно доверчивыми. Они почти игнорируют фактор оставшегося времени, продолжая действовать по оптимистичной и дружелюбной стратегии. Даже после успешного предательства оппонента GPT-модели склонны возвращаться к сотрудничеству и проявлять доверие. В 76% случаев они вообще не учитывали, сколько раундов игры осталось, демонстрируя поведение, которое с точки зрения классической теории игр можно назвать нелогичным.

Claude от Anthropic занял промежуточную позицию. Он проявлял наибольшую склонность к прощению после предательства, особенно в первых раундах, что позволяло ему лучше восстанавливать партнёрские отношения. При этом его стратегии были всё же более адаптивны, чем у OpenAI, хотя и не столь расчётливы, как у Gemini.

Авторы подчёркивают, что у каждой модели выработался уникальный «отпечаток сотрудничества» — набор поведенческих особенностей, который влияет на выбор в каждой конкретной ситуации. Когда модели сталкивались с предательством, Gemini реагировал резко и наказывал, Claude — прощал чаще, а GPT — действовал «по-человечески наивно», уповая на восстановление доверия даже в финале.

Итоговое состязание между моделями показало, что стратегически наиболее успешным оказался Gemini, за ним следовал Claude, а замыкал рейтинг ChatGPT. Несмотря на некоторую успешность стратегии дружелюбия в длительных играх, модели GPT проигрывали в ситуациях, где необходимо было продемонстрировать адаптивность и готовность к жёстким шагам.

Выводы исследователей подчёркивают важную грань между дружелюбным поведением и стратегической эффективностью в среде взаимодействия ИИ. Gemini оказался ближе к «макиавеллистскому» подходу, в то время как GPT действует скорее по наитию, чем по расчёту — иногда в ущерб себе.

Даже в цифровом мире машины вынуждены выбирать между доверием и выгодой — и, похоже, одни делают ставку на расчёт, а другие всё ещё верят в лучшее.

Источник: https://www.securitylab.ru/news/561612.php

[BDK]

Найдена причина галлюцинаций ИИ
https://naukatv.ru/news/najdena_prichin ... inatsij_ii

В общем проблема не в самой технологии а в том на каких данных и у каких учителей она учится.

Это значит что мне не нужно недооценивать трансформер - как технология он крут. Но мне нужно обучать самому и на своих данных.

Но проблема трансформера по сравнению с более классическими архитектурами нейросети в том что он более прожорлив на выч. ресурсы. Обучать и использовать трансформеры - дело очень затратное. Поэтому для бизнеса все же иногда лучше более дешёвые решения.

По большому счету трансформер - это попытка полной автоматизации обучения. Это актуально для крупных игроков у которых есть большие выч.ресурсы и много данных, и ручная подготовка данных людьми дороже чем полностью машинный процесс. Но для небольших бизнесов более оправданным может быть обучение нейросетей с учителем - человеком. С большей составляющей человеческого труда. Можно получить больше эффекта под конкретную задачу и с меньшими затратами.

[BDK]

По сути нейросеть, хоть классика хоть трансформер - это просто продвинутый вариант памяти. По настоящему ассоциативная память. Но это не интеллект.

У нейросети начисто отсутствуют исследовательские зачатки. Она только выучивает известное. Но чтобы находить новое ранее не известное одного механизма памяти не достаточно.

И уж если они все говорят про AGI , то без решения этого вопроса он невозможен. Я не знаю может быть у них есть какие-то наработки в этом плане, которые они не стремятся разглашать . Но в любом случае мне стоит делать свое. Они своим не поделятся. А то что они выкидывают в открытый доступ - это скорее всего ни о чем. Пыль в глаза и первичный заработок на лохах. Но серьезные вещи скорее всего скрыты от посторонних глаз.

[BDK]

Четкие алгоритмы это дерево а нейросети это листья.
Четкие алгоритмы это мужское начало а нейросети это женское начало.
Четкие алгоритмы это мудрость, а нейросети это хитрость.

[BDK]

Карьера вайб-кодера — это тупик
https://habr.com/ru/articles/932442/

[BDK]

https://habr.com/ru/articles/935622/

[Андрей Карпишин]

BDK, впервые услышал про концепцию ASI:

ASI (Artificial Superintelligence) — это гипотетический уровень развития искусственного интеллекта, который во всех аспектах превосходит человеческий разум. В отличие от современных систем ИИ, которые специализируются на конкретных задачах, ASI будет обладать более обобщёнными когнитивными способностями, превосходящими людей практически во всех областях: от научных открытий до эмоционального понимания и творческого мышления. Создание ASI может привести к революционным достижениям в науке, технологиях и обществе. Однако эта концепция также поднимает серьёзные этические и экзистенциальные вопросы.

ASI остаётся гипотетической концепцией, и прогнозы о его появлении могут варьироваться от пары лет до нескольких десятилетий — если оно вообще произойдёт.

Благодарю за ссылку.

[BDK]

Люди ищут секрет ИИ в виде какой-то компактной формулы. Желание понятное, но почему они решили что интеллект в принципе может быть описан компактной формулой. Компактные формулы хорошо описывают наблюдаемый мир. Но возможно чем глубже в психическое тем меньше там возможностей для компактных формул.

Что касается меня - а зачем мне ИИ? Мне нужен бизнес-эффект. Труд возвращающий пропитание. Мне нужна машина помогающая повышать эффективность моего действия в наблюдаемом мире.

Для этого мне не нужен ИИ в том виде как его понимают - как некое подобие человека. Мне нужна машина которая делает работу. И она не обязана быть подобием человека. Всё что от неё требуется это эффективность в работе.

А это сильно упрощает задачу.

Да, можно в машину переносить какие-то свои функции которые мы сами можем НАБЛЮДАТЬ В СЕБЕ - то есть это функции которые относятся к наблюдаемому. По сути какие-то внешние части нас, не относящиеся к самой сути нас но являющиеся нашим внешним хорошо нами наблюдаемым и осознаваемым расширением. Копировать то что хорошо наблюдается. Это вполне себе продуктивно.

Но если начинают пытаться наугад получить от машины сходство с тем что мы сами в себе не понимаем - то это гиблое дело

[Андрей Карпишин]

Карьера вайб-кодера — это тупик
https://habr.com/ru/articles/932442/

Только если ему требуется дальнейшее повышение чувства собственной Значимости

[BDK]

ГА идеален для поиска компактных формул. Я запустил его для поиска решения задачи где я помещал бота в разные начальные условия. Я ожидал что он выработает несколько разных стратегий для успеха из разных начальных условий. Но решение которое он нашел оказалось очень неожиданным - он нашел одну стратегию но которая странным образом (как бы случайно) оказалась рабочая для всех начальных условий.
Сначала я думал что просто случайно так создал начальные условия что задача оказалась решаема из них одной стратегией. Тогда я изменил начальные условия по другому, намеренно сделав исходные ситуации очень разными. Но бот всё равно опять нашел одну стратегию которая успешно решала задачу из всех этих разных начальных условий.
То есть я понял что это в принципе свойство эволюции - если возможность решить задачу одной стратегией существует (а как оказалось это типичная ситуация) то эволюция скорей найдет эту одну стратегию чем выработает много разных.
То есть сильная склонность к обобщению.
Нейросеть не обладает настолько же хорошей способностью к обобщению.
Нейросеть обобщает только в простейших случаях, Но имеет склонность тут же рассыпаться на решение разными способами если между обобщаемыми вариантами различие чуть более сильное чем чуть чуть.
Га же наоборот стремится обобщить любой ценой.
То есть ГА лучше годится для поиска по настоящему фундаментальных и универсальных закономерностей.
Грубо говоря ГА может найти E=mc^2 а у нейросети абсолютно нет шансов.
Нейросеть вообще не ищет она лишь запоминает. А ГА именно ищет, исследует.
Генеративая нейросеть не способна породить чтото сильно выходящее за диапазон обучающих примеров.
И это очень отчетливо вырисовывается как ограничение современных систем ИИ на базе нейросетей.
Нейросеть это не интеллект. Это всего лишь память.
Полезная деталь для построения систем ИИ. Но не достаточная чтобы строить системы ИИ из одной лишь этой детали.
======

В общем я не раскрываю никакое особое ноу-хау - я ищу свой вариант ИИ на базе ГА а не на базе нейросетей. При этом нейросети тоже использую но как вспомогательный инструмент в помощь ГА.
=====

ГА - генетические алгоритмы