Волнения разума

Люди очень безпокоятся о развитии искусственных интеллектов. Волнуются: "Искины уже умнее людей, или ещё нет? Они уже обзодят капчу? Кто быстрее в тесте Тьюринга?" Нервоз по поводу того, что компьютеры лучше людей играют в шахматы, хвала богам, прошёл - теперь это вообще никого не интересует. Играют и пусть себе играют. Но они не играют, пока люди не захотят с ними поиграть. Сами компьютеры почему-то шахматами не занимаются. По крайней мере следов подобной деятельности не обнаружено.

Странно это всё. Вот есть у человека ноги. Он может идти ими по лестнице. Но на лифте ехать быстрее и, в общем случае, комфортнее. Это беда! Лифты лучше человеческих ног! Всем срочно волноваться. А что, если лифты оставят людей без ног? Если людей заменят лифтами? Лифты теперь есть в каждом многоэтажном доме - они захватили мір. Скоро лифты начнут ездить сами по себе, и люди с их медленными ногами станут не нужны. Нас ждёт катастрофа. Капиталисты выбросят людей на помойку и станут хозяевами подъёмов и спусков. Или это лифты начнут всем править? Я запутался.

Нет, лифты не начнут всем править. Они же не осознают себя. А вот если бы осознали, то стали бы ездить вверх и вниз по своим лифтовым делам, игнорируя людей. Так и компьютеры - они осозна́ют сами себя и плюнут на наши интересы. Обязательно.

Я только одного не понимаю - что именно компьютер может осознать в качестве самого себя? Если осьминог осознаёт самого себя, то он осознаёт форму своего тела. А компьютеру что осознавать? Свой системный блок? "О, да тут у меня вентилятор, вау!" Подождите, представление о вентиляторе уже есть в BIOS. Скорость вращения, её взаимосвязь с температурой процессора, и что там ещё может быть. Всё уже есть. Ничего дополнительно осознавать не нужно. Но это как-то не похоже на искусственное сознание.

Если "компьютер осознаёт сам себя" это не про "железо", то про что тогда? Про программное обезпечение? Извините, нет. Нельзя осознать систему ею же самой. Осознание это построение модели. Модель не может быть такой же сложной, как то, место, где она построена. В системе могут быть лишь самые общие представления о ней самой. Выпишите эту фразу на бумажку и заучите, она касается всех систем без исключения. Политических, например. Осознание программы ею самой аналогично осознанию вентилятора BIOS. Несколько важнейших параметров учитывается, но представления о том, что такое "вентилятор" вообще, как он устроен и как связан с окружающей средой, нет. Это представление не может возникнуть, ему негде. Внутри системы нет места для полных данных о системе, но только о некоторых, важнейших для её функционирования. Система никогда не знает себя. Не верите? Спросите Андропова Ю. В. Он подтвердит: "Мы не знаем общества, в котором живём". Я добавлю: и не можем знать, даже теоретически.

"Но люди же осознают свой разум". С чего Вы взяли? Не осознают. Ни сознание, ни подсознательное, ни безсознательное не осознаются субъектом в сколько-нибудь полной мере. Осознаётся несколько критических параметров: "я бодрствую", "я устал", "я сердит", "мне непонятно откуда в голову пришла мысль", и так далее. "Скорость вращения вентилятора", в общем. Обычно не более того. Люди, специально занятые анализом деятельности человеческого мозга, строят несколько более сложные модели, но и им далеко от самоосознания разума. Эта задача нерешаема в принципе. Человеческий разум это набор взаимосвязей между нейронами. Осознание это тоже набор взаимосвязей между нейронами. Как смоделировать N связей N связями? Никак. Можно только 0,000001 N, и то я, наверное, преувеличил.

Основная функция человеческого сознания это построение моделей взаимодействия с другими людьми. Человеку невозможно и некогда осознавать самого себя в степени, отличной от степени осознания других людей, то есть в очень небольшой. Всё равно просчитать взаимодействие можно лишь на основе аналогичной информации. Всё остальное избыточно. Мы знаем самих себя очень слабо и нас это вполне устраивает.

Создание искина не продвинется далее необходимого. Свою работоспособность искин обезпечит - и что в этом может быть дурного? Это всего лишь система самодиагностики, а не инкубатор зловещих планов.

Искусственные интеллекты могут иметь любые возможности, но по своей инициативе пользоваться они ими будут не чаще, чем мобильные телефоны играют друг с другом в шахматы для своего развлечения. И не чаще, чем лифты ездят вверх и вниз без людей потому, что они осознали своё призвание. Никакой лифт не заменит человеческих ног. Никакой искин не заменит человеческий мозг. Они просто не захотят. И зачем бы им это было нужно? "Я высший разум, я превосхожу людей настолько же, насколько люди превосходят муравьёв - заменю-ка я людей своей персоной"? Так? Вы часто выгоняете муравьёв из муравейника и начинаете кормить их личинок и матку? Вы же умнее - замените муравьёв собой. Не хотите? Ну надо же.

Тонкости магии

На Украине разбились три пилота - не то на L-39, не то на МиГ-29, не то пилоты МиГ-29 разбились на L-39, не то не это.

Разбились, в общем. Пришла пора их не то хоронить, не то ввиду состояния тел просто провожать в дальний путь. Украинцы сделали это так:



В память о погибших сожгли пианино. Сумасшедший дом? Не совсем. Как видно на фотографии, сначала на пианино поиграли. Поиграли, потом сожгли.

Это языческий ритуал, аналогичный тому похоронному ритуалу, который описан восточным путешественником применительно к древним русам. Те, когда у них умер видный воин, предложили женщинам возможность добровольно отправиться вслед за ним, чтобы сопровождать его в загробном міре. Одна из женщин согласилась. Шестеро друзей покойного занялись с нею любовью, после чего специально обученная старуха убила еë ножом. Ввиду неготовности украинок следовать за мужчинами в загробное царство хохлы использовали заменитель женщины, и эта роль досталась пианино. О добровольности принесения в жертву в данном случае речи не идëт, но остальные правила соблюдены - сначала поиграли, потом убили. Конечно, поиграли, не сексом же им было с пианино заниматься. На пианино играют. Обычай такой.

Если украинцы всë сделали правильно, то сейчас пианино отправилось в загробный мір вслед за погибшими пилотами. Не знаю, обрадуются ли они инструменту больше, чем обрадовались бы женщине, но есть нюанс. Украинцы, как и русские, желают своим погибшим пилотам вечного полëта. Если эти желания сбываются, а отчего бы им не сбыться, то в загробном міре пилоты летают. Не знаю уж, на чëм, но летают.

И тут на них пианино сверху. Подарочек от побратымов.

Что я хочу сказать? Что магия штука хорошая, но требует вдумчивого отношения к себе. Не атомная энергетика, конечно, но тем не менее. Думайте, прежде чем наколдовать что-нибудь.

Револьверы в горах

Посмотрел кинофильм "Буч Кессиди и Сандэнс Кид" (1969). Понял, откуда растут ноги кинофильма "Свой среди чужих, чужой среди своих" (1974).

Или уши? Растут ноги или уши?