Искусственный нейрон, видимо, сложнее 1 бит. С учетом связей - сложнее, но не в тысячи раз. Но по сути он - бит. А его состояние 0 или 1 определяется связями.
"Для создания компьютерной модели крошечной бактерии Mycoplasma genitalium потребовалось написать 28 независимых взаимодействующих друг с другом модулей, симулирующих процессы живой клетки и оперирующих 1.900 параметрами. Для описания их поведения использовались 900 различных научных отчетов. Сложность модели высока: лишь для процесса деления одноклеточного требуется 10 часов симуляции, а на выходе получается полгигабайта данных." - это относиться к полному моделированию физического объекта. Если построить точную математическую модель ботинка с учетом расположения всех атомов и электронов - не хватит всех вычислительных мощностей человечества.
С разумом - намного проще. Не нужно моделировать все биопроцессы. Не нужно создавать помолекулярную модель тела с геномом (это -грандиозная вычислительная задача) - достаточно сделать модуль накопления опыта + модуль обучения. Это намного менее затратные процессы.
Зачем нам моделировать нейросистему управления глазом наподобие человеческого - это слишком сложно. Достаточно сделать систему управления камерами чтобы формировать 3д модель в памяти - этого достаточно, чтобы воспринимать графические образы. Чтобы произносить звуки - не нужна сложнейшая нейросистема управления киберязыком - достаточно копеечных динамиков, в которые можно подавать текстовые данные и т.д.

"И нам не подойдёт флешка - всё должно быть у нас в оперативной памяти." - подойдет любой носитель, просто тормозить будет больше. Можно даже распределенную сеть использовать или облако. Компьютер можно создать даже в виде камешков на песке, которые будут перекладываться по определенным правилам. Здесь вообще оперативной памяти нет. Носитель (оперетивный, долговременный) не важен.

Можно детально у racepilot узнать - он явно в технических деталях разбирается лучше меня.