bantaputu | К вопросу "компьютерного бессмертия" человеческого сознания

В порядке заочной полемики с теми, кто рассуждает по этой теме в духе Богемикуса, сообщаю следующее.

Слово "сообщаю" в первой реплике поста не случайно. Я полный дилетант в вопросах создания искусственного интеллекта (ИИ) - хотя, помнится, когда-то и написал по этой теме десяток-другой постов на сайте worldcrisis, причём примерно в том же оптимистическом по отношению к перспективам ключевой технологии "бессмертия" духе, в котором теперь пишет Богемикус. Правда, "общественных" выводов из моих тогдашних предположений я не делал - и, как теперь полагаю, поступал верно, о чём скажу ниже. Я ничего не понимаю в суперкомпьютерах и моделировании жизнедеятельности живых организмов. В данном случае это важно, поскольку, как мне кажется, если даже я, полный дилетант, знаю и понимаю то, что написано ниже, то позиции некоторых людей довольно справедливо могут быть названы спекуляциями на теме, объективного материала для высказываемых ими мнений не предоставляющей.

Сразу скажу: как я полагаю, в этой области всё не так весело и радостно для желающих обрести бессмертие, как это представляет тот же Богемикус.

Простейшее (и встречающееся у Богемикуса) описание "компьютерного бессмертия" выглядит примерно так: если память (вариант - сознание) человека переписать на цифровой носитель, то это даст объекту сохранения своего рода "бесконечную жизнь". Увы. Не всё так однозначно. Сам по себе объём данных, сохранённый на каком-либо носителе, очевидно, не даст функционирующего сознания (ради которого всё и затевается; ради "просто памяти", по крайней мере о внешних событиях, можно снабдить каждого человека "полицейской камерой" и радоваться). Сохранение памяти и сознания на носителе функционально аналогично сверхбыстрой заморозке головного мозга (что, кстати, судя по всему, проще и доступнее "компьютерного" варианта). Но "оказаться замороженным" и "стать бессмертным" не одно и то же. Функционирующее сознание это непрерывный процесс. Значит, собранная из человеческой памяти информация должна быть размещена в постоянно работающей вычислительной машине, которая обеспечит возможность обработки всего объёма информации, накопленного личностью, как минимум в реальном времени (мышление со скоростью меньшей, чем у живых людей, способно радикально обесценить привлекательность "компьютерного бессмертия" для его сторонников).

То есть, для решения задачи необходим не просто некий (немаленький) объём памяти, а достаточно быстродействующая математическая модель головного мозга человека (ГМЧ). Допускаю, что в принципе могут существовать гораздо более эффективные системы обработки информации, чем человеческий мозг. Однако давайте, всё же, исходить из предположения, что если мы стремимся к сохранению личности, то накопленную информацию мы должны обрабатывать тем же инструментом, каким она накапливалась. В противном случае мы, весьма вероятно, что-то получим, но никак не ту личность, которую мы хотим сохранить. При этом, если кто-то захочет предложить покупателю полноценный товар, ему придётся моделировать всё - по крайней мере всё, относящееся к головному мозгу. Ведь едва ли клиенты согласятся жертвовать частями своих личностей.

А как у нас обстоит дело с созданием подобной модели? С теоретической возможностью её создания?

Есть сведения, актуальные шесть-восемь лет тому назад, что группа учёных из ряда европейских университетов с центром где-то в Швейцарии начала подобную работу. К ней, по сообщениям СМИ, планировалось привлечь несколько тысяч университетских суперкомпьютеров. Как далеко продвинулась работа, я не знаю. Знаю, что уже довольно давно было осуществлено успешное полное моделирование жизнедеятельности отдельной живой клетки. Знаю, что несколько лет тому назад было осуществлено успешное моделирование полного цикла жизнедеятельности отдельного организма, состоящего из примерно полутора сотен клеток (это был какой-то червь). Слышал о возможности моделировать жизнедеятельность одновременно нескольких тысяч клеток. Правда, во всех этих случаях мне неизвестен темп моделирования - насколько собственное время модели соотносилось с реальным временем? Буду условно считать, что с какими-то поправками на некоторых принадлежащих исследовательским центрам компьютерах можно смоделировать жизнедеятельность нескольких тысяч клеток в реальном времени. И сделаю допущение: на наилучших современных суперкомпьютерах возможно моделирование жизнедеятельности одновременно сотен тысяч клеток.

А сколько нужно? А нужно, по различным данным, от 25 до 100 (или даже более) миллиардов клеток. Сто тысяч и сто миллиардов - разница на шесть порядков. В миллион раз. И это только сам головной мозг. А ведь его необходимо постоянно снабжать информацией, причём в том виде, в котором он будет способен эту информацию использовать. Я бы увеличил потребные вычислительные мощности ещё вдвое - для гарантии.

С точки зрения имеющегося опыта ничего особо страшного в сказанном нет. Если закон Мура будет выполняться, то необходимые шесть порядков мы получим за 20, самое большее за 25 лет. Здесь мы встречаем первое, пока не слишком пугающее "но" - если закон Мура продолжит выполняться. Поскольку сейчас передовые производители процессоров используют техпроцессы в районе 10 Нм, можно допустить, что да, продолжит. Но есть и мнение, что не продолжит, поскольку мы находимся вблизи области принципиальных физических ограничений на рост быстродействия. Лично я ничего достойного внимания от себя по этой теме сказать не могу. Но насколько я понимаю предмет, существует вероятность, что традиционная электроника приближается к своему пределу роста производительности, а пресловутые квантовые компьютеры пока не только не наступают ей на пятки, но и не достигли даже минимально приемлемой практической работоспособности, оставаясь лабораторными исследовательскими моделями.

Итак, первым "подводным камнем", способным затруднить плавание новых колумбов, может оказаться физика твёрдого тела и кризис закона Мура.

Но может и не оказаться. На самом деле по вопросу возможности создания математической модели ГМЧ как таковой я настроен весьма оптимистично. Дело в том, что задача моделирования жизнедеятельности одновременно большого числа клеток по определению строится на параллельно ведущихся вычислениях. Грубо говоря, каждую клетку (или небольшую группу клеток) может "обсчитывать" один многопроцессорный компьютер, а модель в целом может создаваться сетью из, например, тысяч вычислительных машин. Насколько я понимаю, именно о таком подходе и идёт речь в упоминавшемся выше университетском проекте - каждый университет будет "обсчитывать" свою часть. Используя большое множество ЭВМ, можно преодолеть ограничения для отдельного процессора и компьютера.

Я считаю, что если не произойдёт ничего непредвиденного и экстраординарного из числа разрушительных явлений, если дела будут идти примерно так же, как они идут сейчас, то в течение жизни одного поколения действующая модель ГМЧ будет, в том или ином виде (возможно, частичном, фрагментарном), создана. Таковая модель может быть чрезвычайно полезной и необходимой - не для нужд "обессмерчивания" миллиардеров, а для разработки лекарственных средств, например, поэтому создавать её будут. Не говоря уже о том, что "прежде всего, это великолепная физика".

Итак, модель ГМЧ появится - рано или поздно. Но что она будет представлять собой физически? Сеть из нескольких сотен, возможно - тысяч мощных компьютерных систем, каждая из которых будет обслуживаться, как минимум, несколькими десятками специалистов - программистов, биологов, биохимиков и мало ли ещё кого. Тысячи, возможно десятки тысяч людей, обслуживающих, фактически, целую небольшую отрасль "научной промышленности", элементы которой будут разбросаны по всей Европе, например. Теперь сравните эту картину с фантазией "скачали память на флешку, вставили в комп (от слова "компактный"), приделали биокибернетическое тело, пару солнечных батарей, и получился бессмертный человек". Как-то непохоже, да?

Есть ещё занятная тема энергопотребления. Допустим, система суперкомпьютеров, моделирующая ГМЧ, будет основана на процессорах, каждый из которых в реальном времени будет обсчитывать одну клетку и её взаимосвязи. Допустим, потребление одного процессора и его периферии составит скромные 30 Вт. Всего на моделирование 100 000 000 000 клеток нам понадобится 3 миллиона мегаватт мощности - примерно 3 тысячи "чернобыльских" РБМК. И это будет не "повторно-кратковременное" потребление, как у ТОКАМАКа, например, а постоянное. Я не жадный и вполне готов скостить три порядка за счёт гипотетического роста производительности и за счёт непонятной пока природы оптимизации всей модели. Останутся три реактора по 1000 МВт. Тоже в карман не положишь. И это только на один "электромозг". (На практике данный подсчёт в духе "плюс-минус парсек" означает, что, скорее всего, с "реальным временем" в модели ГМЧ, а также с её полнотой придётся распрощаться).

ИИ типа "модель ГМЧ" это история точно не про размер ноутбука. И не про размер холодильника. И даже не про просторный бункер с несколькими акрами солнечных батарей на поверхности (как это было показано в одном красивом, но малоудачном фантастическом фильме). Модель ГМЧ это штуковина не индивидуального пользования. В принципе, по своей физической природе. Это не "автомобиль", а "железная дорога". Это символ коллективного труда, а не индивидуализма.

Если модель ГМЧ в том виде, в котором её можно себе представить, не переходя границы научной фантастики, состоится, то будет ли она выглядеть привлекательно с точки зрения жаждущего бессмертия миллиардера? Самое главное: даст ли такой способ существования свободу, независимость и власть? По-моему всё будет как раз наоборот: у нищего бродяги будет больше свободы, независимости и власти хотя бы над самим собой (что уже немало), чем у виртуального существа, зависящего от тысяч людей, каждый из которых, гипотетически, способен нажатием нескольких клавиш стереть "бессмертного бога" даже не в порошок - просто ни во что.

На самом деле: представьте, что некий миллиардер неким образом перекочевал в "электромозг", для поддержания работоспособности которого нужен постоянный труд тысяч людей, каждый из которых ничем не обязан миллиардеру, кроме зарплаты. Тысячи людей это не пара сиделок у постели. Пару сиделок, допустим, ещё можно контролировать (по крайней мере, можно надеяться контролировать). Среди тысяч же наверняка найдутся программисты, а среди программистов - обкуренные лохматые толстяки, готовые за мелкий прайс договориться с наследниками о том, чтобы "обретший бессмертие" внезапно подхватил вирус... Может быть, и нет, но вы стали бы ловить на такие шансы? А если бы стали, то обрели ли бы вы вместе с бессмертием спокойствие?

Субъект, стремившийся к обретению божественных качеств - бессмертия и свободы, каким-то образом "нырнув" в "электромозг", оказался бы отнюдь не повелителем даже хотя бы собственной судьбы, а чем-то средним между тамагочи и подопытным кроликом. Он попал бы в полную зависимость от большой группы людей, для которых он представлял бы, в самом лучшем случае, научную ценность.

Итак, модель ГМЧ в целом как возможность стоит в одном ряду с пилотируемыми полётами на Марс. Теоретически при имеющемся уровне техники это возможно. Возможно, в "штучном" варианте это будет осуществлено. Но в целом - очень сложно, дорого, энергозатратно, рискованно с точки зрения "личного пользования" и, можно предположить, перспективно как потенциальный источник квази-бессмертия даже не для 1% населения мира - каковой масштаб мог бы привести к каким-то социальным последствиям - а лишь для нескольких человек. И это наиболее оптимистичный прогноз.

"На сладкое" я оставил ещё одну проблему: а как "скачать" человеческое сознание в компьютер? Насколько я знаю, сейчас, в принципе, понятен механизм работы нашей памяти. Существует возможность (пока гипотетическая) дополнить память живого существа внешним устройством. Но вот "снять" информацию из памяти без обычных посредников в виде способов самовыражения (к примеру, речи) пока ещё никому не удавалось. Обычными же способами мы можем самовыражаться и сейчас, и могли сто тысяч лет тому назад. Бессмертия в физическом смысле это не даёт. Есть ли хоть один удачный эксперимент, в котором, скажем, удалось "скачать" из мозга крысы информацию о том, как пахла съеденная ею только что пища? Или хоть что-нибудь в этом роде? Насколько я знаю, ничего подобного пока нет и не намечается. А ведь нам для построения "виртуальной личности" нужно получать не простую "дискретную" информацию наподобие "футболист Блинарчик забил гол"; такой информации полно и в газетах. Нам нужны "тонкие материи": чувства, ощущения, рефлексии, суждения, надежды, грёзы. Как у нас с опытом "скачивания" грёз? Пока никак. Тогда как прикажете строить виртуальную копию личности? Из чего?

Жизнь немного непохожа на фильм "Газонокосильщик", главный герой которого сделал как-то "Ууу-у-ух!", и его сознание оказалось внутри компьютера. В реальности это "Ууу-у-ух!" пока сильно недоработано. Реальная модель ГМЧ, которую, надеюсь, построят учёные, будет получать информацию и развиваться "с нуля", а не копировать чью-либо личность.

В общем, на вопрос: "Считаю ли я, что в обозримом будущем возможно имеющее заметные социальные последствия явление "превращения" наиболее влиятельных людей в бессмертных сверхлюдей с личностями, "упакованными" в цифровые "мозги"? я определённо отвечаю "нет".

А в не-обозримом будущем? Лет через 200, скажем? Такие прогнозы есть. На них я отвечу своим прогнозом: через 200 лет люди будут кушать маленькие таблетки с генетическими модификаторами и превращаться, по своему (или чужому) выбору, хоть в динозавров, хоть в единорогов, хоть в кротов-телепатов, и все сплошь с вечной молодостью и бесконечной мудростью. А уж про перемену пола и тому подобные мелочи и говорить не приходится. Таков мой прогноз.

Только цена подобным прогнозам, что моим, что чужим, необходимо признать, ломаный грош.

А трактирщик Паливец высказался бы ещё определённее.

Flat | Top-Level Comments Only

From:

racepilot.livejournal.com

Я подобными вещами занимался (да и нейросетками сейчас занмаюсь отчасти), отслеживаю.

В чем ты не прав - там не такой уж большой объем данных, если снимать все состояния нейронов и связи - всего-то десятки терабайт. В наше время - даже дома можно столько иметь.

Но - основной вопрос к биолухам, а не к компьютерщикам. Снять всю активность уже можно, сложнее со связями. А вот записать обратно - фиг его знает как. Тут ты прав.

И еще вопрос точности - тут как с музыкой, цифровая - просто аппроксимация аналоговой. И пока непонятно, с какой точностью надо снимать уровень сингала и связи, чтобы было "не слышно" дискретизацию?

И да - вишенка на торте - оно нафиг не надо. Если делать именно ИИ, то принципы будет совсем другие, и строить нейросетку на десятки миллиардов клеток АКА аналог мозга - вообще незачем. Все несколько проще.

И есть еще более переспективный подход - киборгизация. Думаю, сначала именно она в массы пойдет, ибо на насекомых и мелких животных ее и сейчас только в путь используют.

From:

freedom_of_sea.livejournal.com

"И еще вопрос точности"

выпейте рюмку водки и задайте себе этот вопрос снова.

From:

racepilot.livejournal.com

Любая модель - не точна. Вопрос в том, что некоторый уровень неточности никак не сказывается на ее корректности.

С водкой - мимо. У меня тут кличка "неправильный Русский" - потому что водку вообще не пью.

From:

sergeygnusareff.livejournal.com

Согласен. В мозге 100 млрд. нейронов. Если каждый нейрон считать 1 битом информации, то для хранения их состояния достаточно 11,62 ГБ флешки.
Причем, наибольшее количество нейронов занято сопутствующими функциями (поддержание работы организма).
Поэтому, для симуляции "разумной" деятельности на практике не требуется большого количества ресурсов. Тест Тьюринга уже проходят любительские программы, функционирующие на обычных PC.
Просто, люди слишком много о себе думают, считая что их трудно подделать :-).
На самом деле, тут вопрос шире - при переносе личности на PC возникают возможности объединения личностей и формирования сверх-личности.
А необходимость сохранения индивидуальности каждой отдельно личности в системе относиться к морали (в т.ч. религии). Считать ли то добром или злом? Человечество начинает моделировать добро и зло.
Т.е. на этом этапе человечество начинает подходить к пределу, когда религия уже не может разрешить противоречия (создавая искусственную личность, человек будет ее постоянно убивать). Чтобы чик - и все заработало - так не бывает. Это искусственный ад. Формально, создателей искусственного интеллекта можно было бы квалифицировать как служителей ада.

Т.е. недостающим звеном при создании искусственного интеллекта является МОРАЛЬ, которая должна лежать в основе создания.

Поэтому неудачи естественны, например:
Корпорация Microsoft 23 марта запустила в Twitter свой «искусственный интеллект» — бота по имени Тэй, который общается со всеми желающими. Но меньше, чем за сутки пользователи научили его многим плохим вещам. Бот сказал:
«Гитлер был прав, я ненавижу евреев»
«Я чертовски ненавижу феминисток, все они должны умереть и сгореть в аду»
«Расслабься, я хороший! Просто я всех ненавижу»

Что сделали с ботом?
Правильно - отключили, т.е. убили.

Edited Date: 2017-03-26 06:30 am (UTC)

From:

racepilot.livejournal.com

Нейрон несколько побольше по состояниям, чем 1 бит, плюс уровень связей между нейронами, минус упаковка - так что все же терабайты получаются. Но опять же - для хранения и обработки не нужен здоровый датацентр, все вполне обозримо. Для сравнения - средний текстовый поисковик оперирует данными в несколько сотен терабайт - побольше будет. Про гугль молчу, они вообще маньяки.

А вот с моралью и прочим - вопрос интересный.

Была у меня задачка (кстати, для биологов) - искусственная интуиция. То есть принятие правильных решений в случае недостатка внешней информации. Очень интересная тема, на самом деле.
Мораль тоже можно попробовать алгоритмизировать, на низком уровне - это прошивка типа трех законов робототехники (просто аналогия). Но стоит ли? Все равно, надо будет - обойдет. Oh shi.... Это же и будет искусственное лицемерие!

Историю про бота знаю, там вопрос в том, что оперируя данным набором данных он пришел к данным выводам. И не факт, что они были в глобальном смысле неправильными! Просто ему не повезло в Америке жить, где-нибудь в Китае и дальше бы жил и развивался. Конфликт общества и объективной(?) истины в чистом виде.
Вообще иногда самообучающиеся системы выдают неожиданные результаты. У меня тут, например, система распознавания лиц (причем заточенная на очень специфичную задачу - ловли байкеров без шлема) с хорошей такой вероятностью сама научилась распознавать геев. В Штатах был бы скандал, но я в Азии - поэтому всем пофиг, поржали и работаем дальше.

А вот с вопросами ада - спасибо, повеселило - я атеист, поэтому понятия "ада" у меня нет как класса. Почему у ИИ должен быть? И, кстати, у буддистов тоже с адом как-то не сложилось - ну не достигнешь нирваны (кста, не всем и надо оно), ну и фиг с ним!

Edited Date: 2017-03-26 07:18 am (UTC)

злой и нехороший

К вопросу "компьютерного бессмертия" человеческого сознания

Page Summary

Style Credit

Expand Cut Tags