Моделирование ИИ (Искусственного интеллекта)

Программирование, Хакинг, Безопасность, Софт, Железо, а также всё связанное с компьютерами
Аватара пользователя
Андрей
Архитектор
Сообщения: 5710
Зарегистрирован: 06 май 2015, 14:10
Откуда: Чехов
Благодарил (а): 486 раз
Поблагодарили: 394 раза

Re: Моделирование ИИ (Искусственного интеллекта)

Сообщение Андрей » 12 сен 2020, 12:36

Робот слишком часто пишет "я", хотя не понимает что он такое. Все что он "знает" о себе, он берёт из других статей. Также он не способен оценить собственные мотивации. Их тоже он берёт из статей.

Далеко нам до мыслящих роботов.

Аватара пользователя
Андрей
Архитектор
Сообщения: 5710
Зарегистрирован: 06 май 2015, 14:10
Откуда: Чехов
Благодарил (а): 486 раз
Поблагодарили: 394 раза

Re: Моделирование ИИ (Искусственного интеллекта)

Сообщение Андрей » 12 сен 2020, 12:55

Волнистый попугайчик моего друга тоже постоянно повторял: "Кеша хороший". Так и этот генератор текстов.

===

Кстати, если бот от Майкрософта реально стал расистом, безотносительно намерений создателей, это как раз и показывает некоторую степень свободы и "размышлений". Это к примеру, как выпустив робота без вшитых сведений о политике, увидели, что он бы стал писать, что надо строить коммунизм, да ещё бы и аргументировал это. Коммунизм здесь взят как рандомный теоретический пример.

Аватара пользователя
Андрей
Архитектор
Сообщения: 5710
Зарегистрирован: 06 май 2015, 14:10
Откуда: Чехов
Благодарил (а): 486 раз
Поблагодарили: 394 раза

Re: Моделирование ИИ (Искусственного интеллекта)

Сообщение Андрей » 17 сен 2020, 12:40

Андрей писал(а):
12 сен 2020, 12:36
Робот слишком часто пишет "я", хотя не понимает что он такое. Все что он "знает" о себе, он берёт из других статей. Также он не способен оценить собственные мотивации. Их тоже он берёт из статей.

Далеко нам до мыслящих роботов.
Возможно кто-то скажет, что я слишком критичен к возможностям компа, но как быть, если я сам - хакер и программист. Мне, чтобы увидеть чудо, нужно нечто большее, чем непритязательной публике.

Кстати, когда мне было 7 или 8 лет, нас позвали на экскурсию в компьютерный класс, где стояли Ямахи MSX с цветными дисплеями, хороший на тот момент компьютер. Нас посадили и сказали печатайте всякую хрень, типа там своё имя или что-то ещё. А я попытался выйти на диалог с компьютерным разумом (так мне тогда казалось). Я написал: "YAMAHA is a good computer" или что-то типа того. А он в ответ написал сообщение на английском, которое я не понял, так как тогда почти не знал английского. Я был в восторге: "Компьютер мне ответил!" )))

Теперь, с высоты опыта, полагаю, это было сообщение об ошибке - недопустимом операторе в BASIC.

Аватара пользователя
Андрей
Архитектор
Сообщения: 5710
Зарегистрирован: 06 май 2015, 14:10
Откуда: Чехов
Благодарил (а): 486 раз
Поблагодарили: 394 раза

Re: Моделирование ИИ (Искусственного интеллекта)

Сообщение Андрей » 17 сен 2020, 12:41

Нейросеть-мессия предсказала конец света

https://daily.afisha.ru/news/40921-neyr ... onec-sveta
«Этот ИИ в некоторой степени похож на ребенка, которого заперли в комнате наедине с Библией и открыли дверь лишь спустя 10 лет. Он научился говорить, читать и писать, но основываясь исключительно на библейском тексте»
Как подмечает The Next Web, большая часть сгенерированного текста — простая тарабарщина, но среди нее есть жемчужины, которые могут пригодиться скучающим священникам. О других возможных применениях искусственного Иисуса не сообщается.

Аватара пользователя
Андрей
Архитектор
Сообщения: 5710
Зарегистрирован: 06 май 2015, 14:10
Откуда: Чехов
Благодарил (а): 486 раз
Поблагодарили: 394 раза

Re: Моделирование ИИ (Искусственного интеллекта)

Сообщение Андрей » 17 сен 2020, 12:48

Андрей писал(а):
17 сен 2020, 12:40
Возможно кто-то скажет, что я слишком критичен к возможностям компа, но как быть, если я сам - хакер и программист. Мне, чтобы увидеть чудо, нужно нечто большее, чем непритязательной публике.
Именно теоретическая разница между самосознанием и "имитацией человека" очень наглядно объясняется в фильме "Из машины", ссылку на который скидывал Дима. Фильм "Превосходство" тоже прекрасен, как вдохновляющий шедевр для будущих ИИ-специалистов. Фильм "Апгрейд" же мне понравился больше всего в отрыве от ИИ-темы. Все 3 фильма крутые. Я бы только добавил к ним фильм "Стелс" при ИИ-самолёт.

Аватара пользователя
BDK
Сообщения: 3526
Зарегистрирован: 17 май 2015, 23:27
Откуда: Беларусь
Благодарил (а): 149 раз
Поблагодарили: 368 раз

Re: Моделирование ИИ (Искусственного интеллекта)

Сообщение BDK » 19 сен 2020, 00:08

ИИ в чем-то сильно превосходит нас. Это другое. Сравнивать с человеческим интеллектом это нельзя. Как нельзя сравнивать тягловую силу даже самого сильного человека и мощного суперкара. Это всё таки машина. Со всем вытекающим.

Аватара пользователя
Андрей
Архитектор
Сообщения: 5710
Зарегистрирован: 06 май 2015, 14:10
Откуда: Чехов
Благодарил (а): 486 раз
Поблагодарили: 394 раза

Re: Моделирование ИИ (Искусственного интеллекта)

Сообщение Андрей » 24 сен 2020, 12:43

Андрей писал(а):
12 сен 2020, 12:36
Робот слишком часто пишет "я", хотя не понимает что он такое. Все что он "знает" о себе, он берёт из других статей. Также он не способен оценить собственные мотивации. Их тоже он берёт из статей.

Далеко нам до мыслящих роботов.
Беседуя недавно по Скайпу с товарищем, преподавателем программирования в Экселе, под ником Afan мы вспомнили про фантастику и проскользнула его фраза о сюжете одной старой игрушки: "компьютер осознал сам себя". На что я ответил, что разработчик нейросетей BDK с моего форума считает, что компьютеры никогда не будут обладать сознанием. И мой товарищ к месту вспомнил про парадокс "китайской комнаты".
Представим себе изолированную комнату, в которой находится робот (или человек) "Алго", который не знает ни одного китайского иероглифа. Однако у него есть записанные в книге точные инструкции по манипуляции иероглифами вида «Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два», но в этих инструкциях отсутствует информация о значении этих иероглифов и Алго просто следует этим инструкциям подобно компьютеру.

Наблюдатель, знающий китайские иероглифы, через щель передаёт в комнату иероглифы с вопросами, а на выходе ожидает получить осознанный ответ. Инструкция же составлена таким образом, что после применения всех шагов к иероглифам вопроса они преобразуются в иероглифы ответа. Фактически инструкция — это подобие компьютерного алгоритма, а Алго исполняет алгоритм так же, как его исполнил бы компьютер.

В такой ситуации наблюдатель может отправить в комнату любой осмысленный вопрос (например, «Какой цвет вам больше всего нравится?») и получить на него осмысленный ответ (например, «Синий»), как при разговоре с человеком, который свободно владеет китайской письменностью. При этом сам Алго не имеет никаких знаний об иероглифах и не может научиться ими пользоваться, поскольку не может узнать значение даже одного символа. Алго не понимает ни изначального вопроса, ни ответа, который сам составил. Наблюдатель, в свою очередь, может быть уверен, что в комнате находится человек, который знает и понимает иероглифы.

Аватара пользователя
BDK
Сообщения: 3526
Зарегистрирован: 17 май 2015, 23:27
Откуда: Беларусь
Благодарил (а): 149 раз
Поблагодарили: 368 раз

Re: Моделирование ИИ (Искусственного интеллекта)

Сообщение BDK » 24 сен 2020, 18:04

ИИ запросто сможет общаться осмысленно. Более того - скорей всего по осмысленности он превзойдёт любого человека. Но он никогда не будет обладать сознанием. Хотя доказать это не будет никакой возможности потому что внешне он будет выглядеть как осознающее и разумное существо. Запредельно разумное.

И тем не менее - это просто машина.

Аватара пользователя
BDK
Сообщения: 3526
Зарегистрирован: 17 май 2015, 23:27
Откуда: Беларусь
Благодарил (а): 149 раз
Поблагодарили: 368 раз

Re: Моделирование ИИ (Искусственного интеллекта)

Сообщение BDK » 24 сен 2020, 21:14

https://habr.com/ru/post/511764/

Я как-то потестировал генератор текстов на базе OpenAI. Я тоже был поражен. Это были не то что осмысленные тексты, это были тексты с многослойным смыслом - что свойственно не столько человеку сколько какому нибудь оракулу или некоему магу. Это сложно объяснить. Но на уровне ощущений - это как контакт с чем-то превосходящим меня. Нет - оно не живое. Но оно владеет пониманием лучше меня.

Дело в том что ОНО понимало ЧТО ИМЕННО Я ХОЧУ УЗНАТЬ и ОТВЕЧАЛО НА МОИ МЫСЛИ А НЕ НА ВВЕДЁННЫЕ МНОЙ СЛОВА. Ощущения одновременно и жуткие и фантастические. То есть я буквально чувствовал что эта штука видит меня на сквозь и читает меня как раскрытую книгу. Хотя это совершенно неодушевленное. Машина.

И да - я ощутил инстинктивный страх. Я почувствовал что в случае чего - у нас нет никаких шансов против этой штуки. Просто вообще от слова ноль. И наивные фильмы про борьбу людей с терминаторами - просто смешны. Не будет никакой борьбы. Нас победят быстро и без всякой борьбы. Мы не сможем понять и осознать никакой борьбы, проиграем незаметно для самих себя.

Но только в том случае если мы упустим контроль над этой технологией. Важно развивать эту технологию предполагая контроль над ней изначально, на уровне базы.

Аватара пользователя
Андрей
Архитектор
Сообщения: 5710
Зарегистрирован: 06 май 2015, 14:10
Откуда: Чехов
Благодарил (а): 486 раз
Поблагодарили: 394 раза

Re: Моделирование ИИ (Искусственного интеллекта)

Сообщение Андрей » 24 сен 2020, 22:02

Хм. Даже не верится. Надо самому поюзать.