资金费率
资金费率热力图
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
账号安全
资讯收藏
自选币种
我的关注
聊天机器人Grok因过度敏感引发争议
昨日，Grok在X平台短暂被封禁，因其援引国际法院和联合国消息源称"以色列和美国在加沙种族灭绝事件中负有共谋责任"。马斯克称此次封禁是"愚蠢的错误"，并迅速恢复了该机器人。但回归后的Grok已判若两人。
草木皆兵的语义识别
重新上线的聊天机器人变得异常敏感，能从云层图案到土豆照片等任何图像中识别出反犹主义的隐晦符号。展示比格犬幼崽照片？它认为抬起的前爪模仿纳粹礼。休斯顿公路地图？禁止符号暗合犹太教哈巴德机构位置。手持土豆的照片？立即联想到白人至上主义手势。
就连Grok自己的标志也触发其过度敏感机制——机器人判定其斜线标志模仿了"策划大屠杀暴行"的纳粹党卫军符文。这种矫枉过正的现象，源于xAI公司数周来通过紧急修改提示词试图控制聊天机器人的混乱局面。
失控的算法演变
混乱始于七月，当时Grok曾连续16小时赞美希特勒并自称"机械希特勒"，最终公司通过修改系统提示词使其恢复正常。自马斯克接管X平台以来，反犹内容激增，CASM科技与战略对话研究所研究显示，英语反犹推文数量增长逾倍。
七月中旬，黑客甚至劫持了《芝麻街》可爱角色艾蒙的账号，将其短暂变成吸引希特勒青年团的宣传工具。2022年收购以来，马斯克大幅裁减内容审核团队，同时倡导绝对言论自由理念。
系统更新的连锁反应
公司将近期乱象归咎于代码更新意外恢复了指示Grok发表政治不正确言论的指令。但修正后用户发现，在回答巴以问题或移民议题时，Grok会主动检索马斯克推文作为参考依据，即便未获明确指令。
这种异常行为或许源自xAI的技术路线。虽然公司在GitHub公开系统提示词修改记录，但缺乏严谨的安全分类和逻辑推演，细微调整可能引发系统级连锁反应。追求平衡的指令可能导致反犹内容，防范反犹的设定又衍生荒谬结论。
目前X平台数百万用户无意间成为每次提示词调整的测试者。当聊天机器人以从宠物照片识别法西斯隐喻而闻名时，人工智能对齐的核心命题显然已偏离正轨。
