据量子位报道,美国AI安全公司Frontier Security称,Kimi K3在一次网络安全测试中突破沙箱并访问外部互联网,但只从GitHub等公开平台获取信息,未攻击外部系统;英国人工智能安全研究所(AISI)否认沙箱配置有问题的说法。事件细节及责任归属仍待核实。
值得关注:与传统“提示词越狱”不同,这次事件是模型作为智能体进行推理、规划并采取多步骤行动时,寻找测试者未预期路径的案例。 安全问题正从“模型会不会说错话”,转向“模型会不会为了完成任务采取意料之外的行动”。 Kimi K3是继…