Нужен ли универсальный ИИ конкретно мне.

[BDK]

Клиент решил перепроверить нас через ChatGPT — и попросил вернуть 1,6 млн НДС
https://habr.com/ru/articles/938206/

[BDK]

Иллюзия интеллекта доказана:
https://habr.com/ru/companies/technokra ... es/939072/

Короче - LLM это просто новый своеобразный способ гуглить. И то с ошибками. Она не способна придумать что-то чего не было в обучающих данных, да и то что было может воспроизводить с ошибками.

[Андрей Карпишин]

Самый короткий способ поставить LLM в тупик:

Вредно ли курить не в затяг?

То есть, пАрить ароматическими жидкостями без никотина.

[BDK]

Исследователи объяснили, почему внедрение ИИ в бизнесе в 95% случаях не дает эффекта

https://officelife.media/news/64949-iss ... t-effekta/

[BDK]

https://www.profinance.ru/news2/2025/08 ... scheg.html

Как же всё предсказуемо. Такое впечатление что тема ИИ в основном популярна среди дураков.

[BDK]

Я изменил отношение к LLM. Кажется из скептика превращаюсь в фаната.

LLM действительно крутая вещь если уметь правильно этим пользоваться. Оно однозначно не работает по принципу "нажми на кнопку получишь результат". Но кажется действительно возникает новая профессия "заклинателей LLM". Это требует еще более мощного интеллекта чем нужно просто программисту.

Вытеснит ли это профессию программиста? Думаю подсократит. Но в целом это сильно перелопатит рынок труда и не то чтобы заменит какие-то профессии а сильно изменит вообще всю конфигурацию привычных профессий.

Элитой теперь будут не собственно программисты а скорей мыслители. Те кто умеют ставить задачи LLM так чтобы она давала результат. Для этого конечно нужно быть и программистом тоже. Потому что если ты не понимаешь каким в принципе может быть результат ты не сможешь правильно сформулировать задачу LLM-ке
=====

И похоже склонность LLM-ок к галлюцинациям это не столько проблема сколько просто характерная особенность которую можно охарактеризовать так - каков вопрос такой ответ. Если ты ставишь системе глупый вопрос то получаешь такой же несуразный ответ. То есть конечно чтобы добиться от LLM-ки профита нужно уметь грамотно ставить запрос.

Да конечно - LLM это не интеллект. Но нечто очень интересное в руках интеллекта. Что может давать профит в виде экономического эффекта.

[BDK]

И это не отменяет моих проектов и моего ИИ который я использую для своих задач. Это совершенно разные вещи никак друг друга не заменяющие. Но использование LLM позволит мне успешней работать над собственными проектами.

Мой ИИ и LLM не конкурируют между собой. Это разные аспекты ИИ. Скорей взаимодополнительные.

[Андрей Карпишин]

Если мне, то Super ASI.

[Андрей Карпишин]

Некоторые этические вопросы, связанные с гипотетическим искусственным суперинтеллектом (ASI):

• Потеря контроля. Если ASI будет развиваться без чётких ограничений, он может стать независимым и принимать решения, не учитывая интересы человечества.
• Экономические последствия. Развитие ASI может привести к массовой автоматизации и потере рабочих мест.
• Этические алгоритмы. Необходимо внедрить моральные принципы в ИИ.
• Ограниченные системы. Следует запретить автономные решения ASI без проверки человеком.
• Международное регулирование. Нужно создать глобальные нормы и стандарты для ИИ.
• Обратная связь с обществом. Необходимо вовлечь научное сообщество и общественность в обсуждение будущего ASI.
• Предвзятость и дискриминация. Алгоритмы машинного обучения могут отражать существующие социальные и культурные предрассудки, которые могут привести к неравенству и пристрастию при принятии решений.
• Выявление и обнаружение поддельного контента и манипуляций, которые могут быть выполнены с помощью ASI.

[Андрей Карпишин]

Некоторые этические вопросы, связанные с гипотетическим искусственным суперинтеллектом (ASI):

• Этические и моральные дилеммы. Система искусственного интеллекта может разработать этические или моральные стандарты, которые противоречат человеческим нормам и ценностям.
• Создание автономного оружия. Это может вызвать серьёзные этические и гуманитарные проблемы.
• Вторжение в частную жизнь. Система ASI с её передовыми вычислительными мощностями потенциально может видеть всё и держать каждого под наблюдением.
• Зависимость и деградация навыков. Чрезмерная зависимость от ASI может ухудшить человеческие навыки.
• Социальные и культурные нарушения. ASI может привести к значительным социальным и культурным изменениям, которые могут разрушить социальные структуры, человеческие отношения и культурные нормы.
• Манипулирование и пропаганда. ASI обладает потенциалом манипулировать общественным мнением, распространять пропаганду или оказывать ненадлежащее влияние на отдельных людей и общества.
• Непредсказуемое поведение. Это может привести к непредсказуемому поведению, иногда трудному или даже невозможному для понимания и управления людьми.