"Конфликт общества и объективной(?) истины в чистом виде." - вот только объективной истины нет. Есть текущая более-менее точная/неточная оценка истины.
Истина включает историю человечества и вселенной начиная от момента создания (включая информацию о том, сколько цивилизаций возникло, погибло и что было этому причиной). Столько информации можно закачать в искусственный интеллект только если он будет обладать объемом памяти, сравнимой с информационным объемом вселенной.
Поэтому, в любом случае, искусственный интеллект будет строить выводы на основе заведомо ограниченных данных, поэтому и выводы будут верными только в узком диапазоне. А глобальные выводы (о нужности/ненужности человечества и т.д., что так волнует человека) он сможет сделать с весьма слабой степенью достоверности.
При этом глобальные выводы человечеством уже сделаны и заложены в мораль, которую многие считают лицемерием (действительно, мораль - это аксиомы, следование которым можно считать лицемерием, так как причин этому поведению нет, а доказательство аксиом морали которых возможно только через кровавые конфликты, возникающие при нарушении/изменении морали).

Отсюда следует очень простой вывод - если при создании искусственного не заложить логические аксиомы морали, он заведомо сделает неверные выводы (прикончить человечество, например). Т.е. верите ли Вы в ад или нет, создание свободного искусственного интеллекта, не обремененного аксиомами морали, однозначно приведет к исполнению пророчества священного писания обо апокалипсисе.
Вот такая вот "божественная" ирония. Убежденные атеисты могут способствовать исполнению пророчеств, в которые они не верят.