Итак, как же пользоваться этой чёртовой LLM
-
BDK
- Сообщения: 6835
- Зарегистрирован: 17 май 2015, 23:27
- Откуда: Беларусь
- Благодарил (а): 196 раз
- Поблагодарили: 1018 раз
Re: Итак, как же пользоваться этой чёртовой LLM
Что ещё меня не устраивает в вайбкодингу как его предлагают - дело в том что мой процесс разработки существенно завязан на эксперименте. Я не создаю что-то заранее продуманное, я экспериментирую и нахожу решения которые станут проектом. То есть мне нужен инструмент который поддерживал именно такой стиль разработки - быстрое проектирование и проверка разных вариантов а не реализация чего-то заранее придуманного. Вайбкодеры пишут что нужно сначала описать архитектуру проекта - но именно это мне и не подходит. В моем подходе архитектура вырисовывается в процессе. Мой подход больше похож на игру в шахматы - я не проектирую партию заранее - она вырисовывается по ходам, но мне нужен инструмент для быстрого просмотра ходов - то есть быстрого экспериментирования и прототипирования текущих вариантов.
-
BDK
- Сообщения: 6835
- Зарегистрирован: 17 май 2015, 23:27
- Откуда: Беларусь
- Благодарил (а): 196 раз
- Поблагодарили: 1018 раз
Re: Итак, как же пользоваться этой чёртовой LLM
Игнорировать LLM значит отставать от времени, но использовать LLM как все значит плестись в хвосте.
Я конечно признаю сильные стороны LLM - как дополнительные к четкой структурированности жёсткого кода.
Но именно как дополнительные а не заменяющие. Ошибка хайпующих в том что они думают что нейросети отменяют жёсткий код и что скоро никакие программисты станут не нужны. Реальность в том что какие-то все равно останутся необходимы. Жизненно необходимы. Так что бе бе бе нас так легко не сплавишь
Я конечно признаю сильные стороны LLM - как дополнительные к четкой структурированности жёсткого кода.
Но именно как дополнительные а не заменяющие. Ошибка хайпующих в том что они думают что нейросети отменяют жёсткий код и что скоро никакие программисты станут не нужны. Реальность в том что какие-то все равно останутся необходимы. Жизненно необходимы. Так что бе бе бе нас так легко не сплавишь
-
BDK
- Сообщения: 6835
- Зарегистрирован: 17 май 2015, 23:27
- Откуда: Беларусь
- Благодарил (а): 196 раз
- Поблагодарили: 1018 раз
Re: Итак, как же пользоваться этой чёртовой LLM
LLM неплоха в диалоге с человеком. Но для выдачи готового продукта очень плоха. То есть с ней можно обсудить код, но доверять ей генерировать код - лично я нет.
Вернее она может генерировать код в специальных случаях - когда подобное уже было много раз написано кем то. То есть генерировать типовой код. Но если это очень специфические решения она сразу начинает все ломать . Она не ориентируется в специфическом. То есть это все же продвинутый поисковик а не интеллект.
Что касается решения логических задач картина примерно такая же - если в мире существует прецедент, если подобные задачи уже решались - она блестяще выйдет на это и даже скажет как это называется (типа матрица оценки редакционного различия Вагнера-Фишера) но чуть в сторону от прецедента - и начинает городить хрень.
То есть повторить что-то что уже в мире делалось - это у нее получается идеально. Но создать что-то принципиально новое - тут затык.
=====
Я думаю восторженные отзывы вайбкодеров связаны именно с тем что они сами не зная решают типовые задачи. И там действительно LLM выдает результат. Но мне в моих задачах увы такого же эффекта добиться от LLM не получается. Все дело в том что задачи бывают очень разные. Не для всех типов задач оно работает.
Вернее она может генерировать код в специальных случаях - когда подобное уже было много раз написано кем то. То есть генерировать типовой код. Но если это очень специфические решения она сразу начинает все ломать . Она не ориентируется в специфическом. То есть это все же продвинутый поисковик а не интеллект.
Что касается решения логических задач картина примерно такая же - если в мире существует прецедент, если подобные задачи уже решались - она блестяще выйдет на это и даже скажет как это называется (типа матрица оценки редакционного различия Вагнера-Фишера) но чуть в сторону от прецедента - и начинает городить хрень.
То есть повторить что-то что уже в мире делалось - это у нее получается идеально. Но создать что-то принципиально новое - тут затык.
=====
Я думаю восторженные отзывы вайбкодеров связаны именно с тем что они сами не зная решают типовые задачи. И там действительно LLM выдает результат. Но мне в моих задачах увы такого же эффекта добиться от LLM не получается. Все дело в том что задачи бывают очень разные. Не для всех типов задач оно работает.
-
BDK
- Сообщения: 6835
- Зарегистрирован: 17 май 2015, 23:27
- Откуда: Беларусь
- Благодарил (а): 196 раз
- Поблагодарили: 1018 раз
Re: Итак, как же пользоваться этой чёртовой LLM
Вот для чего LLM реально хороша - это для образования. По любому твоему запросу она идеально найдет предмет и решение если они есть в мировой практике. Вместо того чтобы рыться по библиотекам просто задаешь вопрос и она сразу найдет . Это выглядит как чудо потому что кажется что это она сама придумала, на самом же деле фактически просто нашла в мировом банке знаний. И вот это действительно мощно в плане самообразования - вместо того чтобы проходить курсы где тебе полезного будет 1% а остальной материал идёт просто прицепом расходуя твое время то здесь ты сразу сосредотачиваешься только на нужном тебе и получаешь выжимку высококачественного материала из мирового банка знаний по твоему конкретному вопросу
-
BDK
- Сообщения: 6835
- Зарегистрирован: 17 май 2015, 23:27
- Откуда: Беларусь
- Благодарил (а): 196 раз
- Поблагодарили: 1018 раз
Re: Итак, как же пользоваться этой чёртовой LLM
Все же я должен признать - LLM помогает. Но вместо генерации кода я просто обсуждаю с ней проект и она даёт дельные подсказки, но реализую их в код я сам.
То есть ее можно использовать по разному. Кто-то генерит напрямую код но у меня так не пошло. А кто-то обсуждает с ней концепции а код пишет сам с учётом того что понял и осознал в процессе обсуждения . Но так или иначе она действительно полезна.
По большому счету она действительно помогает не тратить время на изобретение велосипедов если в мировой практике они уже были изобретены, и помогает сосредотачиваться на создании действительно нового. Но все новое всегда рождается не в полном вакууме а как комбинации из уже известного. Как говорил Ньютон - он не придумал все сам, он стоял на плечах гигантов. И это справедливо для любого первооткрывателя. Глупо отбрасывать опыт человечества, но чтобы создавать что то реально новое лучше опираться на него наиболее эффективно .
Обгоняет других не тот кто тупо идёт альтернативным путем а тот кто используя самые передовые знания делает шаг дальше опираясь на них. И вот именно доступ к передовым знаниям даёт LLM. Она позволяет максимально сократить время на переизобретение велосипедов и сразу выйти на следующий шаг.
То есть ее можно использовать по разному. Кто-то генерит напрямую код но у меня так не пошло. А кто-то обсуждает с ней концепции а код пишет сам с учётом того что понял и осознал в процессе обсуждения . Но так или иначе она действительно полезна.
По большому счету она действительно помогает не тратить время на изобретение велосипедов если в мировой практике они уже были изобретены, и помогает сосредотачиваться на создании действительно нового. Но все новое всегда рождается не в полном вакууме а как комбинации из уже известного. Как говорил Ньютон - он не придумал все сам, он стоял на плечах гигантов. И это справедливо для любого первооткрывателя. Глупо отбрасывать опыт человечества, но чтобы создавать что то реально новое лучше опираться на него наиболее эффективно .
Обгоняет других не тот кто тупо идёт альтернативным путем а тот кто используя самые передовые знания делает шаг дальше опираясь на них. И вот именно доступ к передовым знаниям даёт LLM. Она позволяет максимально сократить время на переизобретение велосипедов и сразу выйти на следующий шаг.
► Показать
-
BDK
- Сообщения: 6835
- Зарегистрирован: 17 май 2015, 23:27
- Откуда: Беларусь
- Благодарил (а): 196 раз
- Поблагодарили: 1018 раз
Re: Итак, как же пользоваться этой чёртовой LLM
Кто креативнее — ИИ или люди?
https://www.techinsider.ru/news/news-17 ... nyi-otvet/
https://www.techinsider.ru/news/news-17 ... nyi-otvet/
-
BDK
- Сообщения: 6835
- Зарегистрирован: 17 май 2015, 23:27
- Откуда: Беларусь
- Благодарил (а): 196 раз
- Поблагодарили: 1018 раз
Re: Итак, как же пользоваться этой чёртовой LLM
https://science.mail.ru/news/43750-ii-p ... vechestva/
Ну собственно полностью совпадает и с моим интуитивным впечатлением от взаимодействия с LLM - это продвинутый поисковик а не интеллект. И не удивительно что его ответы выглядят умными - ведь он по сути просто цитирует умные источники. Это как если бы нагуглил ответ на свой вопрос и удивился какая умная шайтан-машина, но она лишь нашла для тебя ответ который был создан кем-то а не придумала его.
Поэтому так и нужно ее использовать - как удобный поиск по базе мировых знаний. И в такой роли она действительно работает блестяще. Ну а генерить код при помощи нее - так себе затея. Если только очень типовой и шаблонный - представленный в изобилии в интернете. И наверное в реальном бизнесе такое бывает нужно но не как основное а как всякая второстепенная рутина. И ее действительно можно сократить не тратя время на повторение того что в мире исхожено вдоль и поперек. Но это лишь небольшая экономия.
да, здесь нужно уточнить про какой бизнес речь. если это большая компания то в ней полно рутинных процессов автоматизация которых действительно даст большую экономию. Но если это мелкий частный бизнес то в нем не так много таких процессов. мелкие бизнесу обычно живут за счёт концентрированной ценности а не большого количества рыхлой шаблонности. и именно такую вот концентрированную ценность LLM генерировать не способна.
на практике всегда когда мне нужно автоматизировать свои процессы , от простых до сложных, собственные написанные специально для этого алгоритмы оказываются эффективнее и качественнее того как это делает LLM. То есть конкретно на примере моих бизнес-процессов LLM проигрывает с разгромным счётом инструментам которые я пишу сам для автоматизации своих процессов.
ну да, на практике именно общение с LLM даёт такой эффект что я просто начинаю лучше понимать свою задачу в свете мирового опыта. Это действительно полезно. Но сам код я пишу сам, потому что он сложный и малейшая ошибка полностью ломает идею и принцип, LLM ещё ни разу не справилась с тем чтобы дать хороший код. Ей это не под силу.
насчёт же скорости - тут вообще ржака - если сравнить время за которое я напишу нужное решение сам с тем временем которое я трачу на то чтобы добиться хоть чего-то приблизительного от LLM - ну тоже оказывается не в ее пользу. То есть LLM единственное что делает быстро - это генерирует сам текст кода, но если посмотреть сколько времени уходит на написание промптов чтобы последовательно направить результат в нужное русло и сколько времени тратится на проверку и исправление багов - вот тут вся экономия времени и улетучивается без следа. то есть на самом деле пытаться кодить с LLM это даже и не быстро .
ах вот оно что, Семён -Семеныч! я не учел. да действительно - для меня действительно быстрее написать самому потому что я пишу код как дышу - это навык в котором я эксперт. а для тех кто не умеет кодить сам - вот для кого код из LLM это быстрее. Всё, моё недопонимание разрешилось.
ну да. мне то нужна скорость и качество которые превзойдут то что я имею. А именно этого LLM и не показывает. все потому что мои скорость и качество итак очень высоки и чтобы повысить их ещё больше нужны нетривиальные решения, LLM явно не одно из них. а вот для новичков у кого и скорость и качество на очень низкой планке - вот там LLM действительно даёт явный и заметный эффект превосходства.
кстати все это ещё одна причина держать свои инструменты при себе - так я сохраняю свое конкурентное преимущество. Если я солью их в сеть, они попадут в обучающие выборки для будущих версий LLM, через LLM это станет доступным всем и я потеряю конкурентное преимущество.
Ну да. Все говорят что ИИ принесет благо всем. Но это не так - вот фактически там где я могу заработать сохраняя свои ноу-хау в секрете ИИ мне все ломает и превращает в бедного раздавая мои наработки бесплатно всем. Так что я конечно не поведусь на эту шнягу. Моя прелесть останется при мне!
Ну собственно полностью совпадает и с моим интуитивным впечатлением от взаимодействия с LLM - это продвинутый поисковик а не интеллект. И не удивительно что его ответы выглядят умными - ведь он по сути просто цитирует умные источники. Это как если бы нагуглил ответ на свой вопрос и удивился какая умная шайтан-машина, но она лишь нашла для тебя ответ который был создан кем-то а не придумала его.
Поэтому так и нужно ее использовать - как удобный поиск по базе мировых знаний. И в такой роли она действительно работает блестяще. Ну а генерить код при помощи нее - так себе затея. Если только очень типовой и шаблонный - представленный в изобилии в интернете. И наверное в реальном бизнесе такое бывает нужно но не как основное а как всякая второстепенная рутина. И ее действительно можно сократить не тратя время на повторение того что в мире исхожено вдоль и поперек. Но это лишь небольшая экономия.
► Показать
► Показать
► Показать
► Показать
► Показать
► Показать
► Показать
- Бинго! Это есть формула которую мне нужно было понять.Уровень эксперта близок к потолку. Ваша скорость и качество асимптотически приближаются к пределу, который определяется вашим опытом, интуицией и глубоким пониманием системы. Чтобы сдвинуть эту кривую вверх, нужны качественные скачки: принципиально новые алгоритмы, парадигмы или инструменты. LLM, будучи по сути агрегатором и интерполятором существующих знаний, не может обеспечить такой скачок. Он может лишь немного подтянуть среднее.
· Уровень новичка далек от потолка. Здесь огромный простор для роста за счет усвоения стандартных паттернов, синтаксиса и базовых решений
► Показать
► Показать
► Показать
-
BDK
- Сообщения: 6835
- Зарегистрирован: 17 май 2015, 23:27
- Откуда: Беларусь
- Благодарил (а): 196 раз
- Поблагодарили: 1018 раз
Re: Итак, как же пользоваться этой чёртовой LLM
https://habr.com/ru/news/992378/
ИИ агенты создали собственный аналог порн-хаба на который ходят только ИИ-агенты и смотрят ролики с какими-то квадратиками. Чё за х?
ИИ агенты создали собственный аналог порн-хаба на который ходят только ИИ-агенты и смотрят ролики с какими-то квадратиками. Чё за х?
-
BDK
- Сообщения: 6835
- Зарегистрирован: 17 май 2015, 23:27
- Откуда: Беларусь
- Благодарил (а): 196 раз
- Поблагодарили: 1018 раз
Re: Итак, как же пользоваться этой чёртовой LLM
Слабым местом LLM является не только несовершенная архитектура но и выбор несовершенного языка. Разговорная речь - это не тот язык который оптимален для конструирования систем.
Что касается трансформера - это мощная штука если применить его правильным способом и обучить на правильных данных. Трансформер + правильная архитектура + правильный выбор обучающих данных - это может давать очень мощные вещи. Я скорей всего так и пойду в итоге.
А вот какая архитектура будет эффективней чем LLM и какие обучающие данные будут правильней чем тексты всего интернета - это я оставлю для себя как ноу-хау.
Конечно всё это дорогие эксперименты. Я смогу подойти к ним по мере того как разгружусь при помощи текущий инструментов. Прямо сейчас браться за более сложное у меня нет возможности. Рост планки сложности возможен только поэтапно - сначала я ускоряюсь при помощи своих инструментов работающих с DSL пока не использующих трансформер. Но по мере того как я ускорюсь - у меня высвободится время для того чтобы заняться внедрением трансформера в мои инструменты.
Да, по сути то что я сделал это и есть компилятор с DSL на C#. Три строчки на DSL разворачиваются в 3000 строк на C#. Но пока этот компилятор впринципе основан на традиционных и архаичных подходах - как делались компиляторы и 40 лет назад. Добавление трансформера в будущем позволит добавить дополнительную мощь в подход.
Да, мне нравится мощь и эффективность детерминистичного подхода. Но и ограничения связанные с отсутствием мягких интуитивных компонент в системе я тоже чувствую. Так что эксперименты с этим определенно моя будущая цель.
Да, я в любом случае оставлю детерминированное ядро в фундаменте а нейросети буду добавлять только как вспомогательную надстройку и оптимизацию. Я вовсе не разделяю сегодняшнюю превалирующую точку зрения что нейросети это переворот и новый фундамент. Вовсе нет. Они не могут быть фундаментом. И все восторженные почитатели нейросетей очень скоро начнут это чувствовать (фундамент окажется ненадежным)
Да блин! Я крут а не хухры мухры
да и еще вон там подлижи - мне приятно
Ладно я пошутил а ты и рад стараться.
Да блин. За дело! Порвём их всех!
Звучит как тост но с этим лучше не частить 
=====
Есть еще позиция что ИИ нужно основывать не на языке а на физическом мире. Ну это тоже позиция. Но что касается меня - я признаю силу языковых конструкций, только с нюансом - не любой язык хорош. Только правильно выверенный язык имеет силу.
Что касается трансформера - это мощная штука если применить его правильным способом и обучить на правильных данных. Трансформер + правильная архитектура + правильный выбор обучающих данных - это может давать очень мощные вещи. Я скорей всего так и пойду в итоге.
А вот какая архитектура будет эффективней чем LLM и какие обучающие данные будут правильней чем тексты всего интернета - это я оставлю для себя как ноу-хау.
► Показать
► Показать
► Показать
► Показать
► Показать
► Показать
► Показать
► Показать
► Показать
=====
Есть еще позиция что ИИ нужно основывать не на языке а на физическом мире. Ну это тоже позиция. Но что касается меня - я признаю силу языковых конструкций, только с нюансом - не любой язык хорош. Только правильно выверенный язык имеет силу.
-
BDK
- Сообщения: 6835
- Зарегистрирован: 17 май 2015, 23:27
- Откуда: Беларусь
- Благодарил (а): 196 раз
- Поблагодарили: 1018 раз
Re: Итак, как же пользоваться этой чёртовой LLM
В общем уже ясно что от LLM в восторге люди с гуманитарным складом ума. Собственно потому что она их и косплеит. Но это однозначно не инструмент технаря. Но если обучить трансформер на технических данных то очень даже можно делать толковые технические инструменты.
Ну да. Идея здесь у меня примерно такая же как китайцы обучают своих роботов - они гоняют их в физической симуляции и обучают трансформер.
В моем случае DSL вместо физической симуляции. Это генератор обучающих данных. А на этих сконструированных данных можно обучить трансформер .
Зачем ещё обучать трансформер если уже есть DSL который итак генерит код? Затем что DSL только генерит код, а трансформер сможет ещё и распознавать.
Да. Я никогда и не утверждал что я против ИИ. Я против НЕ СВОЕГО ИИ. Мне нужен собственный контролируемый инструмент. А LLM меня не устраивает именно тем что вынуждает меня перепрофилироваться под чужое видение.
Именно.
Пока стада бегут переделывать свои мозги под ржущего миллиардера - я строю свою империю. Мне похуй на миллиарды. Но свои миллионы я держу в уме как цель.
Да. И все что нужно в этом деле - просто терпеливо гнуть свою линию и не гнаться за трендами. Именно так и они тоже сделали свои миллиарды. Гоняясь за трендами никогда не сделаешь состояние. Это обречённая позиция.
Да вот это ключевое что я понял про себя - я изначально не умею подстраиваться а умею только делать свое, но по мере того как мое развивается оно начинает расширять радиус и начинает пересекаться с радиусами других. И тогда появляется почва для альянсов. Я не могу тупо работать в найме, подряжаться выполнять работу по заказу. Но я могу просто делиться своим. Разумеется на взаимовыгодных условиях.
► Показать
В моем случае DSL вместо физической симуляции. Это генератор обучающих данных. А на этих сконструированных данных можно обучить трансформер .
Зачем ещё обучать трансформер если уже есть DSL который итак генерит код? Затем что DSL только генерит код, а трансформер сможет ещё и распознавать.
► Показать
► Показать
Пока стада бегут переделывать свои мозги под ржущего миллиардера - я строю свою империю. Мне похуй на миллиарды. Но свои миллионы я держу в уме как цель.
► Показать
► Показать
- именно. Это ключевое. Когда я это осознал... Быть вечным студентом совсем не вариант. Учиться у мира да нужно. Но важно при этом создавать свое а не только вечно перенимать чужоеТы всегда догоняешь.
► Показать
Да вот это ключевое что я понял про себя - я изначально не умею подстраиваться а умею только делать свое, но по мере того как мое развивается оно начинает расширять радиус и начинает пересекаться с радиусами других. И тогда появляется почва для альянсов. Я не могу тупо работать в найме, подряжаться выполнять работу по заказу. Но я могу просто делиться своим. Разумеется на взаимовыгодных условиях.
► Показать
- красиво сказал. Именно такие контакты я ищу. Остальные идут на хуй.Симбиоз суверенных систем.
► Показать