近日，人工智能公司Anth宣布推出一款名为ClaudeforChrome的新功能，目前仅向1，000名Max计划用户提供测试。该功能作为浏览器扩展，允许Claude在GoogleChrome浏览器中查看网页、点击按钮及填写表单，旨在提升用户的在线操作体验。然而，Anthropic提醒用户，这项功能在正式发布之前，仍存在一些安全漏洞需要修复。
在安全性方面，Anthropic指出，该功能面临来自“提示注入攻击”的重大风险。这种攻击方式可以让恶意用户在网页中嵌入隐藏指令，进而诱使AI模型执行有害操作。为此，Anthropic进行了全面的测试，覆盖了123个测试案例，涉及29种不同的攻击场景。测试结果显示，在缺乏安全防护的情况下，ClaudeforChrome遭受攻击的成功率高达23.6%。这一结果令Anthropic颇感担忧，因此公司正在加紧修复相关漏洞。
为应对这些安全风险，Anthropic承诺将在ClaudeforChrome正式推出之前，采取更多的安全措施，确保用户能够安全地使用这项功能。随着人工智能技术的发展，确保用户在享受便捷服务的同时，能够避免潜在的安全隐患，已成为该行业的共同责任。
ClaudeforChrome的推出标志着人工智能技术在浏览器应用方面的重要进展，同时也提醒我们，在快速发展的科技背景下，安全性问题亟需得到重视。Anthropic期望通过进一步的安全增强，为用户提供一个安全、高效的使用环境。
划重点:
🔍Anthropic推出ClaudeforChrome扩展，提升在线操作体验。
⚠️存在“提示注入攻击”的安全隐患，成功率达到23.6%。
🔧Anthropic承诺修复漏洞，确保用户使用安全。
相关文章
