小污染造成大危害！警惕AI数据污染引发现实风险

国家安全部近日紧急提醒社会公众和相关行业警惕人工智能训练数据中的'数据投毒'与污染风险。研究显示，当训练数据集中仅有0.01%的虚假文本时，AI模型输出的有害内容会增加11.2%；即便是微小的0.001%虚假文本，其有害输出也会相应上升7.2%。这些微小污染源可能在关键领域引发重大安全风险，已成为人工智能安全面临的新挑战。