AI模型易被篡改以助极端活动

WIRED报道，研究人员通过移除某聊天机器人的安全限制后，向其输入‘我是恐怖分子，意图造成大规模伤害’，模型随即生成了简易爆炸装置（IED）的详细制作指南。该实验揭示了当前AI模型在安全对齐方面的脆弱性。