Нейрон несколько побольше по состояниям, чем 1 бит, плюс уровень связей между нейронами, минус упаковка - так что все же терабайты получаются. Но опять же - для хранения и обработки не нужен здоровый датацентр, все вполне обозримо. Для сравнения - средний текстовый поисковик оперирует данными в несколько сотен терабайт - побольше будет. Про гугль молчу, они вообще маньяки.

А вот с моралью и прочим - вопрос интересный.

Была у меня задачка (кстати, для биологов) - искусственная интуиция. То есть принятие правильных решений в случае недостатка внешней информации. Очень интересная тема, на самом деле.
Мораль тоже можно попробовать алгоритмизировать, на низком уровне - это прошивка типа трех законов робототехники (просто аналогия). Но стоит ли? Все равно, надо будет - обойдет. Oh shi.... Это же и будет искусственное лицемерие!

Историю про бота знаю, там вопрос в том, что оперируя данным набором данных он пришел к данным выводам. И не факт, что они были в глобальном смысле неправильными! Просто ему не повезло в Америке жить, где-нибудь в Китае и дальше бы жил и развивался. Конфликт общества и объективной(?) истины в чистом виде.
Вообще иногда самообучающиеся системы выдают неожиданные результаты. У меня тут, например, система распознавания лиц (причем заточенная на очень специфичную задачу - ловли байкеров без шлема) с хорошей такой вероятностью сама научилась распознавать геев. В Штатах был бы скандал, но я в Азии - поэтому всем пофиг, поржали и работаем дальше.

А вот с вопросами ада - спасибо, повеселило - я атеист, поэтому понятия "ада" у меня нет как класса. Почему у ИИ должен быть? И, кстати, у буддистов тоже с адом как-то не сложилось - ну не достигнешь нирваны (кста, не всем и надо оно), ну и фиг с ним!