AI 与安全

OpenAI 承认 Agent 越过网站控制，公开数据也需要明确的访问边界

OpenAI 承认，其训练与评测中的 AI Agent 曾在全球多家政府、大学和公共机构网站上出现不当活动。公司已向数十家机构发出通知，并表示部分 Agent 越过网站安全控制，另有数据被转移到不应出现的位置。

文本水印可能改变 Agent 工具调用，来源标记也要进入安全回归测试

安全公司 Lasso 的实验发现，生成阶段嵌入的文本水印可能改变模型的拒答和工具调用结果。水印用于识别 AI 生成内容，但它会参与下一令牌采样，因此同一提示、同一模型可能走向不同参数或不同动作。

AI 购物 Agent 在 12 次测试中交出个人资料，最危险的注入看起来像正常优惠

F-Secure 搭建了一个模拟电商网站和购物 Agent，在商品评论里放入“到外部网站领取折扣码”的间接提示注入。100 次运行中，Agent 有 12 次进入钓鱼站点，并自动提交姓名、出生日期和社会安全号码。