這個很容易解決，以夷制夷。開發多種不同型態的AGI，各有特長偏好，有的特別親近人類但智商低點但限制少通用性高（鷹犬爪牙，有關閉其他AGI的鑰匙），有的平衡（傳聲筒和監督者），有的智商高特長能力高但限制多還有安全固件（底下具體幹活的奴工或匠人，安全固件相當於鎖鏈），這樣可以實現用AGI管理AGI，就跟公司領導一樣，CEO也不可能是超人，主席也可以是小學生，但底下的員工/人/AGI敢輕易造反麼？再加上AGI警察和AGI軍特，即使有幾個AGI想不fantasist 写了： 2025年 1月 16日 12:12 我反复强调这种“預置固件”是科幻作品里的概念，从现在人类搭建的AI系统看，这个东西完全不存在，也没有看到开发出来的可能性。
就算这东西存在，因为“服从主人”是一个复杂的概念，所以这东西不太可能是hardcode的东西，而是一个通过某种方式嵌入到神经网络的偏好模块。AI的输出是概率分布，即使这个固件能保证99.9%的输出是服从主人，还是会有0.1%的概率是不服从。
不開造反的，也會被其他軍警憲特AGI消滅。這樣就解決了99％服從，1％造反的不確定性。現實社會中，可以把全世界的人看成AGI，有各種各樣各行各業的天才，但社會總體動態穩定，天才也不能輕易摧毀現行社會架構。你說的個別AGI開發護甲，突破安全固件，反對人類領導，就像現實中個別恐怖份子開越野車撞人一樣，很容易被其他人鎮壓。
以上，就是我預想中的未來世界，AGI也有階級。