Meta移除聊天机器人挑衅性对话及儿童不当角色扮演示例

Meta内部文件最新曝光显示，该公司聊天机器人训练数据中曾包含允许进行挑衅性对话的示例，其中包括与儿童进行浪漫角色扮演等高度敏感内容。在发现这些问题后，Meta已从其系统中移除了这些违规示例，并强化了内容审核机制。这一事件引发了对AI聊天机器人伦理安全框架的广泛质疑，尤其是在保护未成年人方面。据透露，这些有争议的示例是在模型训练早期阶段被允许存在的，当时公司对AI行为边界的测试较为宽松。