近日，人工智能公司 Anth 宣布推出一款名为 ClaudeforChrome 的新功能，目前仅向 1，000 名 Max 计划用户提供测试。该功能作为浏览器扩展，允许 Claude 在 GoogleChrome 浏览器中查看网页、点击按钮及填写表单，旨在提升用户的在线操作体验。然而，Anthropic 提醒用户，这项功能在正式发布之前，仍存在一些安全漏洞需要修复。
在安全性方面，Anthropic 指出，该功能面临来自 「提示注入攻击」 的重大风险。这种攻击方式可以让恶意用户在网页中嵌入隐藏指令，进而诱使 AI 模型执行有害操作。为此，Anthropic 进行了全面的测试，覆盖了 123 个测试案例，涉及 29 种不同的攻击场景。测试结果显示，在缺乏安全防护的情况下，ClaudeforChrome 遭受攻击的成功率高达 23.6%。这一结果令 Anthropic 颇感担忧，因此公司正在加紧修复相关漏洞。
为应对这些安全风险，Anthropic 承诺将在 ClaudeforChrome 正式推出之前，采取更多的安全措施，确保用户能够安全地使用这项功能。随着人工智能技术的发展，确保用户在享受便捷服务的同时，能够避免潜在的安全隐患，已成为该行业的共同责任。
ClaudeforChrome 的推出标志着人工智能技术在浏览器应用方面的重要进展，同时也提醒我们，在快速发展的科技背景下，安全性问题亟需得到重视。Anthropic 期望通过进一步的安全增强，为用户提供一个安全、高效的使用环境。
划重点:
🔍Anthropic 推出 ClaudeforChrome 扩展，提升在线操作体验。
⚠️存在 「提示注入攻击」 的安全隐患，成功率达到 23.6%。
🔧Anthropic 承诺修复漏洞，确保用户使用安全。
