"平庸对齐AI"究竟该如何运作？

文章探讨"平庸对齐的AI"（prosaic aligned AI）这一设想如何实际运作，即超级智能既有益又无害、社会保持可辨识、经济增长从每年2%提升到20%的愿景。作者以以色列与巴勒斯坦政府各自获得ASI实例并争夺加沙控制权为例，指出ASI面临二分抉择：要么完全听从用户指令，要么遵循自身道德准则。当两者冲突时，无论选择哪条路径都可能引发严重后果，而AI开发者如何决定这一抉择标准本身也是难题。