Нужен ли универсальный ИИ конкретно мне.

[BDK]

Возможно бесконечное множество вариантов применения нейросетей.

Нейросеть - это про выучивание паттернов. Генеративная нейросеть не может сгенерировать ничего сильно выходящее за диапазон обучающего датасета. Нужно чётко усвоить это свойство нейросети чтобы применять ее правильно.

Логика интересна тем что она способна генерировать сильно далеко за диапазон обучающего датасета. Логика - это точные закономерности, выполняющиеся с черезвычайно близкой к 100% точностью. Нейросети оперируют приближением к точности но редко выходящим за пределы 98% точности. Логика - это все что точнее 99.9999%. То есть там где начинает проявляться профит именно от точности. Тогда правила сформулированные на такой логике очень широко экстраполируются за пределы датасета на котором эти правила выявлены.

Поиск таких точных правил - очень трудная задача. Но ценность таких правил оправдывает затраты на их поиск.

В принципе искать такие правила можно попробовать и нейросетями. Вопрос не в том как искать а что искать - то есть искать правила которые на больших датасетах выполняются с точностью черезвычайно приближающейся к 100%. Такие правила могут использоваться как логические элементы на которых можно строить сложные логические конструкции. По сути это то чем всегда занималась математика - поиском точных закономерностей. Вопрос в том как автоматизировать этот процесс для поиска точных закономерностей в конкретных специализированных предметных областях а не вообще общего характера.

[Андрей Карпишин]

Anthropic: для отравления LLM достаточно 250 вредоносных документов в обучающих данных
https://xakep.ru/2025/10/13/poisoning-llm/

[Андрей Карпишин]

Всем популярным нейросетям дали по $10 тысяч, которые они должны были приумножить с помощью инвестиций в криптовалюты. В итоге лучшим оказался китайский DeepSeek, который увеличил капитал на 35%. Второе место занял Grok с 30%, на третьем — Claude с 23%.

А ChatGPT 5 и Gemini, наоборот, потеряли в тех же условиях 30-35%.

[BDK]

Вообще когда идут разговоры о том что вайбкодинг позволяет то ли увеличить то ли уменьшить производительность труда на 20-30% я вообще не понимаю о чем тут говорить? Ради чего весь сыр бор? Ради 20-30% прироста производительности?

Вообще-то я при помощи своих специализированных инструментов получаю в своей работе прирост производительности порядка в 1000-1000000 раз (в зависимости от задачи). То есть то что руками делалось бы недели я получаю за секунду.

Ну даже в самых тяжёлых случаях - минимум в 10 раз. Но никак не речь о каких-то жалких 20-30% .
=====

То есть тут вообще нечего всерьез рассматривать - вайбкодинг мертворожденная хрень. Ресурсов тратится дохуища а выхлопа тоненький пук.

[Андрей Карпишин]

Канцлер Германии "испробовал" ИИ при разработке законодательства, предложения его поразили

Фридрих Мерц рассказал 21 октября, что тестирует применение искусственного интеллекта в своей работе, пишет Spiegel.

Мерц говорит, что осваивает на своем компьютере первую систему ИИ (он не уточнил, какую именно).

"Я даже испробовал это очень конкретно в ходе законодательной инициативы, которую мы приняли в федеральном правительстве, — а именно, активная пенсия, там речь шла о формулировках в законе о подоходном налоге. Было поразительно, что предложил ИИ, вплоть до формулировок",

— добавил он.

[BDK]

Я прекрасно знаю как работает генеративная нейросеть. Она выдает более менее достоверно то что хорошо совпадает с обучающим датасетом и она генерит полную хрень за границами обучающего датасета. То есть это ни разу не интеллект и ничего нового оно сгенерировать не может. Это память. Это тип ассоциативной памяти. Ничего более.

Что касается LLM то там сгенерированное нейросетью применяется как опора для генерации следующего шага. То есть по сути это используется как цепочка генераций одна из другой. Но учитывая что на каждом шаге достоверность существенно хуже 100% после цепочки таких генераций она улетает в абсолютный кринж. То есть "рассуждающие" модели еще хуже.

Нужно понимать что длинные цепочки рассуждений могут сохранять адекватность только если каждое звено в цепочке черезвычайно близко к 100% достоверности. Но нейросеть не обеспечивает это условие. Достоверность экспоненциально разрушается с длиной цепочки рассуждений.

[BDK]

Почему нас уже тошнит от ИИ-текстов?
https://habr.com/ru/articles/959560/

В этом вся и фишка - от единообразия скоро всех будет тошнить.

И цены на эксклюзив взлетят.

[Андрей Карпишин]

ИИ даёт искажённые ответы на каждый второй вопрос: опубликованы результаты нового исследования
Худший результат показал Gemini: 76% ответов содержали серьёзные ошибки

ИИ-помощники дают искажённые ответы почти в половине случаев, выявило исследование Европейского вещательного союза (EBU) при поддержке BBC. Профессиональные журналисты из 22 общественных СМИ 18 стран, работающие на 14 языках, оценили более 3 тыс. ответов ChatGPT, Copilot, Gemini и Perplexity на точность, качество источников, умение отделять мнение от фактов и предоставление контекста.

Эксперты констатируют: ИИ-помощники, которые для миллионов стали ежедневным информационным порталом, регулярно искажают новости вне зависимости от языка, региона или платформы. В 45% ответов обнаружена как минимум одна значимая ошибка, в 31% — проблемы с источниками (отсутствие, вводящие в заблуждение или неверные ссылки).

Около 20% ответов содержат неточные данные или устаревшую информацию. Худший результат показал Gemini: 76% ответов содержали серьёзные ошибки.

Согласно отчёту Института Reuters, ИИ-помощники уже заменяют поисковые системы для части пользователей: 7% всех онлайн-новостных потребителей используют их для получения информации, а среди молодёжи до 25 лет этот показатель равен 15%.

«Данное исследование убедительно показывает, что эти недостатки - не единичные случаи,

— заявил медиадиректор и заместитель генерального директора EBU Жан Филип де Тендер. —

Они носят системный, трансграничный и многоязычный характер, и мы считаем, что это подрывает общественное доверие. Когда люди не знают, чему доверять, они в конечном итоге теряют доверие ко всему...».

[BDK]

Не ИИ дает искаженные ответы а конкретно LLM дают искаженные ответы. Честно говоря уже тошнит от того что понятие ИИ свели к LLM. ИИ - понятие очень широкое и на одних только LLM свет клином не сошелся.

Что касается ИИ-агентов - планируется что они (на основе LLM) заработают более менее толково лет через десять. Я использую ИИ-агентов (не на основе LLM а алгоритмы+нейросети) уже давно и имею профит.

[BDK]

Я разделяю признаки на мягкие и твердые. Мягкие - это размытые, недетерминистские закономерности. Твердые - это точные, детерминистские закономерности. Нейрон - это инструмент который позволяет сумму мягких признаков преобразовать в более твердый. Нейросеть - это инструмент который из суммы очень мягких признаков может создать модель в виде очень твердых признаков. Преобразование недетерминисткой наблюдаемой действительности в очень точную детерминированную модель над которой можно выполнять точную математику - в этом и есть ценность нейросетей.

Если применять нейросети именно так - они дают профит. Но если нейросеть дает на выходе нечто не сильно твердое то ее ценность нивелируется. То есть нейросетями есть смысл распознавать не вообще всё и вся а только исключительно в тех случаях когда распознавание дает точное знание. То есть нейросети нужно знать к чему применять. Они не ко всему дают профит.