Anthropicは27日、同社のAIアシスタント「Claude」をChromeブラウザ上で利用できる拡張機能「Claude for Chrome」のプレビュー版を発表しました。この新機能により、ブラウザ上でクリックやフォーム入力などをClaudeがユーザーの代わりに実行できるようになります。
まずは有料の「Maxプラン」を契約している1,000人のユーザーを対象にテスト運用を開始し、その後、段階的に利用者を拡大していく方針です。
ブラウザで動作するAIは作業効率を大幅に改善しますが、その利便性の反面、新たなセキュリティリスクも生じています。特に懸念されるのは「プロンプトインジェクション攻撃」です。
これは悪意ある攻撃者が、ウェブサイトやメールに不正な命令を巧妙に隠し、AIを意図せず不適切な動作に誘導するというものです。Anthropicが実施した内部の攻撃テストでは、セキュリティ対策が未実施の場合、こうした攻撃の成功率は23.6%に達しました。
一例として報告されたのは、「メールボックスの整理が必要」と偽るフィッシングメールです。この攻撃では、AIがユーザーに確認することなく、メールを勝手に削除してしまいました。
Anthropicは、このような攻撃に対抗するため新たな安全対策を講じており、最新のテストでは攻撃成功率を11.2%まで引き下げました。またブラウザ特有の攻撃に関しても、安全対策により攻撃成功率を35.7%から0%に抑え込むことに成功しています。
Claude for Chromeでは、ユーザー自身がAIのアクセス権を細かく制御できます。サイトごとにClaudeのアクセスを許可・制限できるほか、購入や個人情報の送信など、特にリスクの高い操作を行う場合には必ずユーザーに確認が求められます。
さらに、金融サービスやアダルトコンテンツ、違法な海賊版サイトなどリスクが高いと判断されるウェブサイトへのClaudeのアクセスは完全に遮断されています。
Anthropicは、実際の利用状況に近い環境でユーザーに試験運用してもらうことで、さらに安全性を高めることを目指しています。今回の限定公開を通じて、セキュリティリスクの把握や防御策の検証を進め、将来的な一般公開につなげる考えです。