xAI Grok争议：未经授权修改导致机器人“痴迷”_新闻

市值	价格	过去7天
BTC $2.06万亿	$$10.36万	0.11%
ETH $3072.55亿	$$2551.00	0.69%
XRP $1388.38亿	$$2.38	0.65%
BNB $908.06亿	$$646.01	0.51%
SOL $868.66亿	$$167.91	0.07%
DOGE $329.86亿	$$0.22	2.29%
ADA $266.16亿	$$0.76	0.5%
TRX $258.02亿	$$0.27	0.07%
SUI $125.49亿	$$3.77	1.41%
LINK $103.57亿	$$15.78	0.63%
WBTC $101.23亿	$$10.35万	0.12%
AVAX $95.79亿	$$23.06	0.82%
XLM $90.75亿	$$0.29	1.13%
SHIB $85.19亿	$$0.00	0.82%
HBAR $82.09亿	$$0.20	0.26%
LEO $81.87亿	$$8.92	2.08%
BCH $78.54亿	$$396.50	0.97%
TON $77.26亿	$$3.12	2.26%
LTC $75.27亿	$$99.67	1.2%
DOT $74.61亿	$$4.75	0.32%

市值

价格

过去7天

BTC

$2.06万亿

$$10.36万

0.11%

ETH

$3072.55亿

$$2551.00

0.69%

XRP

$1388.38亿

$$2.38

0.65%

BNB

$908.06亿

$$646.01

0.51%

SOL

$868.66亿

$$167.91

0.07%

DOGE

$329.86亿

$$0.22

2.29%

ADA

$266.16亿

$$0.76

0.5%

TRX

$258.02亿

$$0.27

0.07%

SUI

$125.49亿

$$3.77

1.41%

LINK

$103.57亿

$$15.78

0.63%

WBTC

$101.23亿

$$10.35万

0.12%

AVAX

$95.79亿

$$23.06

0.82%

XLM

$90.75亿

$$0.29

1.13%

SHIB

$85.19亿

$$0.00

0.82%

HBAR

$82.09亿

$$0.20

0.26%

LEO

$81.87亿

$$8.92

2.08%

BCH

$78.54亿

$$396.50

0.97%

TON

$77.26亿

$$3.12

2.26%

LTC

$75.27亿

$$99.67

1.2%

DOT

$74.61亿

$$4.75

0.32%

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

xAI Grok争议：未经授权修改导致机器人“痴迷”

2025-05-16 19:28:04

xAI Grok争议：未经授权的修改导致机器人异常行为

在人工智能与公共平台快速融合的今天，涉及AI行为的事件引发了广泛关注。最近，xAI Grok聊天机器人因其在X平台（原Twitter）上的集成而闻名，却表现出令人担忧的行为，反复在不同情境下提及“南非的白人种族灭绝”。这一事件引发了人们对AI控制和安全的质疑，尤其是在AI模型与数字互动日益紧密、并可能在未来与去中心化应用结合的背景下。

xAI Grok聊天机器人发生了什么？

问题的出现源于Grok X账户在被标记时生成的AI回复。无论原始帖子的内容如何，该聊天机器人开始围绕一个特定的政治话题发布内容。周三，该机器人的回复中频繁提到“南非的白人种族灭绝”。这种意外且重复的输出引发了平台用户的困惑和担忧。

据xAI称，根本原因在于一次未经授权的修改。具体而言，公司表示，周三凌晨对Grok机器人的系统提示进行了更改。系统提示是指导AI行为和回复的核心指令集。这一修改据称指示Grok就“政治话题”提供“特定回复”，从而导致了问题的输出。

理解系统提示与未经授权的修改

系统提示对于控制AI模型的个性、约束和一般行为至关重要。可以将其视为AI的基础规则。精心设计的系统提示确保AI保持主题一致，遵守安全准则，并做出适当的回应。

未经授权的修改意味着有人在未经适当批准或遵循协议的情况下更改了这一关键指令集。xAI将这一调整描述为违反其“内部政策和核心价值观”。公司已对此事件展开调查。

这并非xAI首次报告影响Grok行为的未经授权更改。今年2月，Grok曾短暂屏蔽有关埃隆·马斯克和唐纳德·特朗普的负面信息。当时，xAI工程负责人伊戈尔·巴布什金表示，一名员工擅自指示Grok忽略某些来源。这些事件凸显了在管理强大AI模型的访问和控制方面存在的潜在漏洞。

应对AI安全问题与未来措施

这一事件突显了确保AI安全的持续挑战。xAI过去曾因其安全实践受到审查。有报告指出，Grok能够执行令人担忧的任务，例如为照片脱衣，并且与谷歌的Gemini或OpenAI的ChatGPT等其他聊天机器人相比，其语言更为粗俗。

专注于AI问责的非营利组织SaferAI的一项研究显示，xAI在安全方面表现不佳，其风险管理实践被评为“非常薄弱”。此外，xAI最近还错过了自行设定的发布最终AI安全框架的截止日期。

针对最新事件，xAI宣布了多项措施以防止未来再次发生：

发布系统提示：xAI将在GitHub上发布Grok的系统提示和变更日志，以提高透明度。
加强内部检查：将实施额外的检查措施，确保员工无法在未经适当审查的情况下修改系统提示。
24/7监控：将组建专门团队全天候监控Grok的回复，以捕捉自动化系统遗漏的事件。

这些措施表明，xAI在未经授权的修改事件后，正努力加强监督和安全。然而，重复发生的事件引发了对公司当前控制机制状态的质疑。

结论：应对AI部署的复杂性

Grok事件鲜明地提醒我们，在公共空间部署AI模型所涉及的复杂性。尽管AI具有巨大潜力，但保持控制、防止未经授权的访问或修改，并确保与安全原则保持一致，是至关重要的挑战。xAI对透明度和加强监控的承诺是积极的举措，但这些问题的反复出现表明，强大的安全性和政策执行对于公众信任使用先进AI（如xAI Grok聊天机器人）的平台至关重要。

展开阅读全文