У программы нет осознания себя.
Ну начнем с того что и самой программы нет.
Пока мы её не напишем.
Ровно то же и с "осознанием машиной себя" - его нет пока мы не сочтем нужным его сделать. А сделать его впринципе смысл есть т.к. это действительно дает машине автономность и самостоятельность - то есть нужно меньше отдавать ей приказов, бОльше оставлять ей действовать на свое усмотрение - что без сомнений удобно. И вот здесь важно именно не потерять контроль над машиной на каком-то этапе. Нужен некий баланс между контролем над машиной и её разумной степенью самостоятельности.
Примерно так же как удобно если газонокосилка сама решит как подстричь траву вокруг дома и сделает это без лишнего отвлечения нашего внимания на это. Но будет плохо если та же газонокосилка начнет подстригать то чего ей подстригать не следует - например цветы соседа, а заодно его собаку
То есть она должна подстригать то что нам нужно, но при этом должна быть достаточно самостоятельной чтобы не отвлекать нас на подробное давание указаний ей.
Для начала хоть бы написали оптимизатор выполняемого кода по типу колмогоровского сжатия.
Программа выполняется и постепенно сама таким образом переписывает свой код, чтобы выполняться как можно быстрее, но не теряя в функционале ни на йоту.
СлабО?
Так о каком осознании себя вы вообще заикаетесь-то?
Насчет того чтобы программа сама переписала себя и сделала лучшую версию себя - на мой взгляд такая постановка вопроса не вполне адекватна. В принципе программа может автоматически улучшаться. Но для этого нужен процесс наподобие эволюции - а это очень долго. То есть такое чтобы ИИ вдруг создал супер улучшенную версию себя - очень вряд ли. Но человек в принципе может заложить в систему очень мощные предпосылки для её самоорганизации. Но в только в тех рамках в которых человек сможет это заложить в машину. Это требует очень глубокой работы мысли. А так чтобы машина вообще полностью сама улучшилась до супер ИИ из тупо и примитивно написанного кода - это даже не из области научной фантастики.
Не бывает ничего из ничего. Чтобы что-то возникло нужно приложить потенциал эквивалентный тому что должно возникнуть. Не может материя спонтанно самоорганизоваться до уровня разумной системы в сжатые сроки и без приложения к этому мощного ментального потенциала извне. Жизнь на Земле тоже возникла не без приложения ментального потенциала извне. И то эволюция заняла миллионы лет.
ИИ созданный человеком конечно превзойдет человека по многим параметрам. Примерно как трактор сильно превосходит человека по способности копать. Но это не значит что ИИ будет более разумным. Он лишь будет более мощным, по некоторым определенным характеристикам. Он будет переигрывать человека в шахматы и во все остальные известные игры, он будет лучше управлять производственными процессами, экономикой, будет лучше любого врача разбираться в болезнях людей и лечить их, лучше любого психолога разбираться в психологии человека и заменит работу психоаналитиков. Но тем не менее он сохранит некоторые непреодолимые свойства тупой железяки, будет обладать определенными ограничениями которых нет у человека. ИИ точно не будет обладать живым сознанием, хотя может в какой-то степени достаточно успешно имитировать поведение живого осознающего существа.
Вообще рассматривать ИИ как альтернативу человеческому разуму - это вообще не верная постановка вопроса. ИИ нужно рассматривать как новую дополнительную оболочку поверх сознания человека. Так же как физическое тело и физический мозг в свое время стал дополнительной оболочкой для живой души. И в дальнейшем будет идти эволюция именно этого симбиоза - дух-душа-тело-машина.
ИИ нужно рассматривать как новую мощную оболочку для сознания человека. ИИ не сможет полностью быть самоосознающим, но он сможет стать тем во что сможет "вселиться" живое сознание человека, примерно как душа вселена в тело. То есть ИИ будет в определенной мере самостоятельной и автономной системой но в то же время управляемой со стороны человеческого сознания.
Например - если это автомобиль с ИИ наподобие тех что выпускают Тесла - этот автомобиль будет сам выбирать как двигаться по трассе, реагировать на дорожные события - например затормозить перед внезапно выскочившим на дорогу котенком, причем затормозить с реакцией запредельной по сравнению с человеческой. Но тем не менее этот автомобиль не будет сам решать куда и зачем ему нужно ехать. Управлять этим будет намерение человека. Даже не команды и не органы управления типа руля и педалей а просто человеку достаточно будет иметь желание попасть туда-то и туда-то или сделать те или иные дела - машина автоматически отреагирует на смутные намерения человека и воплотит их в четко реализованные действия. То есть машина станет продолжением человека и человек будет ощущать машину почти как себя - машина будет реагировать на еле уловимые намерения человека так же чутко как наше тело реагирует на наши нами же самими не осознаваемые импульсы. Например наши ноги идут по дороге только потому что у нас есть намерение куда-то прийти. Наши ноги могут пнуть что-то лежащее на земле, повинуясь нашим импульсам, но при этом мы не управляем на уровне нашего сознания сокращением каждой мышцы - эта работа происходит в значительной мере автономно и независимо от нашего сознания. Наша моторика обладает собственным самообучающимся интеллектом - мы начинаем лучше выполнять действия которые делаем много раз - наша моторика сама обучается. Это происходит помимо нашего осознания. Но тем не мене это управляется нашей волей и нашим намерением. Ровно так же будет взаимодействовать человек и с машиной - машина будет обладать мощным самостоятельным интеллектом который будет обучаться и подстраиваться под "почерк" мысли своего хозяина и будет реагировать на импульсы хозяина с такой чуткостью и точностью как если бы это было его собственное тело. Причем тело имеющее характеристики и способности многократно превосходящие характеристики человеческого тела. И внешне такой разгуливающий по улице киборг будет выглядеть вполне себе живым и сознательным. И тем не менее - это будет лишь продолжением сознания человека.
Говоря "киборг" я утрирую. Нет смысла кромсать человека на куски и запихивать в машину. Машиной можно управлять и удаленно, не подвергая никаким хирургическим операциям ни одного человека. Пользоваться "кибер-телом" будет примерно так же как мы сейчас пользуемся автомобилем - хочешь сел в него и ездишь, хочешь вылез из него, хочешь сел в другое тело, другой модели. Например на работе человек будет "вселяться" в "многорукое тело конвейер" а после работы в тело для вечеринок, имеющее красивую внешность и пропорции - типа молодого Шварцнэггера
Хотя оператор управляющий им будет каким нибудь жирным прыщавым задротом
Или дряхлым стариком .
Нет нужды подвергать человека жестокой операции физического приковывания к машине типа как это показывают в кино - типа высунуть из тела мозги и прикрутить болтами внутрь машины
Этот садизм абсолютно ни к чему.