Я понимаю, Вы лично себя считаете AGI™. Значит ИИ должен лично Вас повторять в архитектуре, только работать быстрее.
Ага: drink coffee; do stupid things faster with more energy.
Этот ИИ иметь все Ваши человеческие недостатки, будет совершать все Ваши косяки в миллиард раз чаще.
Косяки связаны с механизмом целеполагания через гормональную систему. Выключив "косяки", Вы скорее всего убъете весь функционал AGI™.
Нам оно надо?
Надо. Основная роль цивилизованного общества - непрерывно создавать себе проблемы. Заметьте, я сознательно не поставил запятую и не дописал вторую половину предложения "..., а потом героически их преодолевать".