... всегда найдется заказчик (амбициозный лидер, желающий подчинить машину) и специалист, который  "отрегулирует" ее работу в нужном заказчику направлении.

 Во-первых, спасибо за комментарий по существу вопроса. Однако, если дело сводится к возможности недоброжелателя залезть напрямую в софт агента-AGI, то придётся это делать в отношении всех агентов-AGI, расплодившихся в сети. А это - труднорешаемая проблема. Отдельные же инфицируемые злоумышленниками агенты легко вычисляются сообществом истинных агентов-AGI в рамках анализа совершённых лжеагентами сделок, и вычёркивают их из глобального списка договороспособных. Равно как вычёркивают из списка и любого пользователя-человека, у которого образовалась неприглядная кредитная история взаимоотношений с партнёрами в сети. Кроме того, следует иметь в виду и концепцию самосовершенствования агентов-AGI, предполагающую поиск "смысла жизни". Основа этого поиска, конечно, задаётся конструктором проекта AGI, и сводится к простой формуле - "повышай своё настроение через преодоление себя". Иначе говоря - "соблюдай свои ценности за счёт своих интересов" (см. две статьи автора http://abm.center/upload/iblock/b1f/b1fb06d528b489ddc7b27a7a5502b371.pdf). Ещё раз спасибо.