> вот только объективной истины нет
Это так. Зато есть более-менее объективные законы природы.

> Поэтому, в любом случае, искусственный интеллект будет строить выводы на основе заведомо ограниченных данных, поэтому и выводы будут верными только в узком диапазоне.
Ровно, как и человек и, более того, человеческое общество.
Вообще интересный вопрос, придет ли он к таким же выводам, или к другим.

> Столько информации можно закачать в искусственный интеллект только если он будет обладать объемом памяти, сравнимой с информационным объемом вселенной.
А вот тут ошибка. Есть много типов мышления, и нас в свое время в универе учитывали пользоваться другим. Не обязательно помнить все факты, достаточно включать достоверные факты в свою картину мира и помнить ее. Ну и ссылки на факты как бонус. На порядок более компактно и удобнее в использовании, правда?

> Отсюда следует очень простой вывод - если при создании искусственного не заложить логические аксиомы морали, он заведомо сделает неверные выводы (прикончить человечество, например).
Вот не обязательно. Мораль появилась несколько позже, чем разум - и ничего, не самоуничтожились. Она для самоорганизации важна, обсуждали парой постов назад, а индивидууму для выживания - не очень.

Кстати, это меня натолкнуло на другую проблему, и вот как ее решать - я пока не знаю.
Собственно - кроме мышления есть еще инстинкты и несознательные реакции на раздражители (причем и то, и другое - уникально для индивида). Вот их откуда брать (и как снимать и восстанавливать данные) - хороший такой вопрос.