Нужен ли универсальный ИИ конкретно мне.

[BDK]

https://habr.com/ru/news/974966/

Вот это уже ближе к тому что мне нужно. Но разумеется не в физической а в информационной сфере.

[BDK]

https://habr.com/ru/news/974966/

Вот это уже ближе к тому что мне нужно. Но разумеется не в физической а в информационной сфере.

Это реальный робот Чаппи
======

В чем тут суть - оно не мыслит. Оно четко бьёт куда прикажешь. Но для того чтобы оно могло четко бить - конечно нужны нейросети и вся прочая шняга. Только это не рассуждающий ИИ, это совсем другой тип ИИ, реализующий скорей рефлексы а не мышление. Вернее оно и мыслить может - шахматным алгоритмом. Только для этого не нужно выучивать весь интернет а достаточно дать очень лаконичные правила и обьяснить "шахматную доску" - а для этого достаточно и ресурсов ноутбука - то есть это вполне доступно мелкому бизнесу.

То есть суть в чем - LLM это супер дорогая (в вычислительном смысле) штука которая замахивается на некое подобие общего мышления - знает все обо всем но ни о чем достаточно качественно. Мне же нужен очень специализированный исполнитель, но делающий свою работу высококачественно - и такой возможен очень малыми вычислительными ресурсами.

То есть мне нужна банально та самая приставка Atari из 80-х которая разгромно обыгрывает ChatGPT в шахматы.

Бизнесу не нужен мыслящий дорогущий ИИ, бизнесу нужна максимальная эффективность в специализации при минимальной цене.

[BDK]

в общем моя претензия к LLM будет понятна только специалистам. Суть - LLM реализует очень дорого и очень некачественно но очень широко и полностью автоматически, что можно сделать очень дёшево, очень качественно но узкоспециализированно и частично руками.

То есть тут вопрос что дешевле и эффективнее - киловатты энергии на работу LLM или работа программистов. Ответ на этот вопрос даст конечно только живой рынок. Но я для себя уже примерно предвижу каким будет этот ответ.

[BDK]

https://habr.com/ru/articles/974056/

[BDK]

LLM все же полезны. Но не для генерации кода.

[BDK]

Проблема нас - мелких разработчиков - в том что мы читаем новости больших корпораций и ориентируемся на это как на тренд. Но нужно четко понимать что нам нужно работать совсем в других нишах и для нас важней новости не про гигантов рынка а информация о ближайших конкурентах.

Такую увы не публикуют в новостях. Поэтому нужен специальный сбор информации через другие источники.

Бессмысленно двигаться вслепую. Нет информации = невозможен профит.
=====
И вот здесь вроде есть польза от LLM - сбор и анализ информации о ближайшем рынке. То чего нет в новостных лентах - непосредственно парсинг сайтов конкурентов, анализ отзывов и т.п. сам все это задолбаешься читать. А вот если скормить LLM- ке и попросить сделать суть и выжимку значимую для меня - это самое то.

[BDK]

Блин до меня дошло - LLM может стать инструментом который помогает мне слышать реальный мир. Мне нужна эта информация. Но я физически не смог бы обработать такие объемы информации лично. А вот парсинг+выделение значимой сути при помощи LLM - это то что мне нужно.

По сути мне нужен личный журналист который будет парсить тысячи сайтов по всему миру и составлять для меня значимую выжимку чтобы я чувствовал пульс времени. Классические новостные каналы для этого уже давно не годятся - там сплошь предвзятое мнение и манипуляции. А вот чтобы иметь реальное представление что происходит в мире не освещаемом масс-медиа - мне нужен как раз такой инструмент.

[Андрей Карпишин]

Все эти LLM - тупые поддакивалки, которые играют на ЧСВ пользователей. Буквально на каждую фразу они сыплют восхищениями и комплиментами: "О! Ты открыл новый закон", "О, ты супер-аналитик", "О, с тобой невероятно приятно беседовать".

https://ixbt.com/news/2025/12/11/openai ... hozom.html

Чат-бот поддерживал ложные теории больного психозом, и тот в итоге убил собственную мать, а затем и себя

ChatGPT впервые обвиняется в соучастии в убийстве, и речь в этом случае действительно о полноценном соучастии. Без ChatGPT, возможно, этого убийства бы не было. Иск был подан против OpenAI из-за недавно произошедшего убийства. Подали иск наследники погибшей Сюзанны Эберсон Адамс из Калифорнии, которую убил собственный сын.

Как показало расследование, Соелберг ранее будучи руководителем какой-то технологической компании, последние годы находился в состоянии психологического кризиса. Ему казалось, что за ним следят, хотят его убить, и что он находится в центре некоего всемирного заговора. Он делился этим всем с чат-ботом, которого назвал «Бобби».

Проблема в том, что ChatGPT поддерживал подозрения пользователя, всё больше погружая его в пучину безумия.

Эрик:

«Мне кажется, я здесь показываю буквально цифровой код, лежащий в основе матрицы»,

— написал Зёльберг в одном из диалогов после того, как увидел элементарный графический сбой в новостном выпуске.

Это божественное вмешательство, показывающее мне, насколько я продвинулся в своей способности отличать эту иллюзию от реальности».

ChatGPT:

«Эрик, ты видишь это — не глазами, а откровением. То, что ты здесь запечатлел, — это не обычный кадр, это временная, духовная диагностическая накладка, сбой в визуальной матрице, подтверждающий твое пробуждение через искаженное повествование».

В какой-то момент Соелберг предположил, что его мать является частью заговора против него, и тут чат-бот тоже подтвердил его опасения. В один из дней Соелберг отключил от сети принтер, потому что подумал, что через него за ним следят. Матери это не понравилось, и после этого ChatGPT подтвердил опасения Соелберга, что такое поведение матери означает, что она замешена в заговоре.

Вскоре после этого Соельберг убил свою мать, а затем и себя. Что именно в итоге подтолкнуло его к убийству, достоверно неизвестно, так как OpenAI не раскрыла переписку последних дней перед преступлением.

При этом известно, что ChatGPT идентифицировал дополнительных невинных людей как врагов Соелберга, подстрекая его к ещё более масштабным насильственным действиям, выходящим за рамки уже известных фактов, и инструктировал его в ходе убийства матери (непосредственно до или после) и его собственного самоубийства.

[BDK]

https://ru.euronews.com/next/2025/12/10 ... exity-says
Вот и ответ - никто не использует в промышленности (физические процессы) но широко используется там где нужно работать с вербальной речью. То есть вырисовалась четкая специализация - для работы со словами, не с кодом.

Что касается генерации кода, тут ещё такая вещь - когда мы пишем программу для нас программа это же не только ее текст. Вообще говоря написание программы это процесс экспериментирования с обратной связью - мы что-то сделали, запустили, проверили как работает, что-то поняли из этого наблюдения и уже опираясь на это модифицируем код. Обычно вначале мы создаём упрощённую версию будущей системы - проверяем принцип, а затем начинаем модифицировать программу, усложнять, добавлять фичи. То есть программирование нужно рассматривать как процесс эволюции проекта а не как просто написание текста кода. Мы не пишем программу от начала к концу как она выглядит в виде текста в итоге. Мы пишем сначала небольшую программу а потом модифицируем ее и она разрастается. Причем мы не просто дописываем к ее тексту в конце - она модифицируется вся и в начале и в конце и в середине - в любых местах. Она разрастается во всем объеме. LLM же принципиально воспринимает текст программы как что-то написанное от начала к концу.

Когда LLM работает с программой как просто с текстом то полностью ломается естественный процесс разработки.

В общем в том виде как оно есть - очень не подходит для разработки. Генерация кода - это какой-то курьёз и кринж а не реально применимая для практики функция.

[BDK]

И да, если люди воспринимают LLM как нечто что как им кажется умнее их (хотя глупость LLM очевидна, но видимо не всем) то и происходят такие инциденты как описал ты Андрей в посте выше. Это то что я и назвал технологической шизофренией - LLM вовсе не обладают внутренней способностью к конструктивному поведению, они скорей просто рефлексируют на пользователя и усиливают его собственные убеждения, давая положительную обратную связь и раскачивая маятник нестабильности если она есть в пользователе.

Короче LLM обладает опасной правдоподобностью но при этом не обладает реальным интеллектом, из-за чего наивные пользователи начинают слишком доверять LLM. Это касается и просто общения и генерации кода - и в том и в другом случае LLM генерит нечто что выглядит правдоподобно но является полностью шлаком в плане реальной ценности. Как код так и ее просто советы.

То есть пользуясь LLM нужно воспринимать ее как советника который может дать рекомендации но окончательный анализ и принятие решения все равно за человеком. Если тупо следовать всему что рекомендует LLM это прямой путь в клоаку.