マイクロソフトの新しいウィンドウズ11リコールはプライバシーの悪夢だ

マイクロソフトが発表したAIを搭載したWindows 11の新機能「リコール」は、多くの懸念を呼び起こし、多くの人が大規模なプライバシーリスクと、脅威行為者がデータを盗むために悪用できる新たな攻撃ベクトルを生み出したと考えている。

月曜日に開催されたAIイベントで明らかにされたこの機能は、過去に見た情報を「呼び出し」、簡単な検索で簡単にアクセスできるようにするものだ。

現在のところ、Snapdragon X ARMプロセッサを搭載したCopilot+ PCでのみ利用可能だが、マイクロソフトによると、互換性のあるCPUを開発するためにインテルやAMDと協力しているという。

Recallは、アクティブなウィンドウのスクリーンショットを数秒ごとに撮影し、ウィンドウズで行ったすべての操作をデフォルトで最大3カ月間記録する。

これらのスナップショットは、デバイス上のニューラル・プロセッシング・ユニット（NPU）とAIモデルによって分析され、スクリーンショットからデータが抽出される。データはセマンティック・インデックスに保存され、Windowsユーザーはスナップショットの履歴を閲覧したり、人間の言語クエリを使って検索したりできるようになる。

マイクロソフトによると、このデータはすべてユーザーのWindowsアカウントに紐付けられたBitLockerを使って暗号化され、同じデバイス上の他のユーザーと共有されることはないという。

これは楽しそうで面白そうだが、明らかなプライバシー・リスクや、マイクロソフトがこのデータをすべて食い物にするつもりなのかどうかという懸念が即座に持ち上がった。

しかしマイクロソフトによると、Recallはすべてのデータが暗号化された形式でユーザーのデバイスに直接保存されるように設計されており、この機能を有効にするかどうかや、どのアプリのスクリーンショットを撮ることができるかなど、ユーザーが完全にコントロールできるようになっているという。

Microsoftはまた、Microsoft EdgeのInPrivateウィンドウ（および他のChromiumベースのブラウザ）やDRMで保護されたコンテンツのスクリーンショットを作成しないと述べています。しかし、Firefoxのような他のブラウザのプライベートモードがサポートされるかどうかは確認していない。

月曜日のプレスイベントで、コーポレート・ヴァイス・プレジデント兼コンシューマー・チーフ・マーケティング・オフィサーのYusuf Mehdi氏は、マイクロソフトがリコールに関して非常に保守的なアプローチを取っていることをジャーナリストに保証した。

「私たちは、あなたのRecallインデックスをプライベートかつローカルに保ち、デバイスだけにセキュアに保つつもりです」とMehdi氏は言う。

「私たちは、AIモデルを訓練するためにその情報を使用することはありません。

さらにマイクロソフトは、Recallのデータはローカルでのみ利用可能で、クラウドには保存されないことも改めて強調した。”データはマイクロソフトによってアクセスされることはない “と同社は改めて述べている。

マイクロソフトはまた、全社的にリコール機能を無効にするために使用できるグループポリシーや、エンドユーザーがこの機能を無効にする方法など、より技術的な詳細を共有し始めている。

サイバーセキュリティの専門家と一般ユーザーはまだ懸念している

マイクロソフトの約束は、サイバーセキュリティ・コミュニティやその顧客を安心させるためにあまり役立っていない。この新機能に関する我々のツイートには90以上のコメントが寄せられたが、そのすべてが否定的なものだった。

では、なぜサイバーセキュリティの専門家、研究者、アナリストの多くがこの機能を心配しているのだろうか？

何よりもまず、大企業は自らの利益のためにユーザーのデータを悪用してきた歴史があり、リコールデータにアクセスしないと言うマイクロソフトをユーザーが信用するのは難しい。

ユーザーだけではない。英国のデータ保護機関である情報コミッショナー事務局（ICO）も、ユーザーのデータが適切に保護され、同社によって使用されないことを確認するため、マイクロソフトに連絡している。

「我々は、組織がユーザーに対してデータの使用方法について透明性を保ち、特定の目的を達成するために必要な範囲でのみ個人データを処理することを期待している。産業界は、製品を市場に出す前に、当初からデータ保護を考慮し、人々の権利と自由に対するリスクを厳格に評価し、軽減しなければなりません」とICOの報道声明は述べている。

「我々は、ユーザーのプライバシーを保護するためのセーフガードを理解するために、マイクロソフト社に問い合わせを行っている。

マイクロソフトがリコール・データにアクセスしないことを受け入れたとしても、この製品にはセキュリティとプライバシーに多大な影響がある。

マイクロソフトは、この機能がコンテンツのモデレーションを行なわないことを認めている。つまり、パスワード・マネージャー内のパスワードや、銀行のウェブサイト上の口座番号など、目についたものは何でも食い尽くしてしまうということだ。

また、ワードで機密契約書を書いている場合、その内容のスクリーンショットも作成される。もしあなたがPCを1台持っていて、それを他の人と共有しているのなら、あなたが見る写真やビデオに気をつけた方がいいかもしれない。

確かに、この機能でアプリのスクリーンショットをブロックすることはできるが、ほとんどの人は、この機能の設定をいじらずに、そのまま実行させるだろう。

これらの情報はすべてWindows 11のセマンティック・インデックスに保存され、権限の有無にかかわらず、PCにアクセスできる人なら誰でも簡単に検索できる。

しかし、これは氷山の一角に過ぎない。

もし、脅威行為者やマルウェアがあなたのデバイスに侵入した場合、これらのデータはすでにBitlockerによって復号化され、ハッカーがアクセス可能な状態になっています。

例えば、脅威行為者やマルウェアは、単純にRecallデータベースを盗み、分析するために自分のサーバにアップロードすることができます。この情報は、ユーザーを恐喝するために使われたり、認証情報が暴露された場合、ユーザーのアカウントに侵入する可能性がある。

サイバーセキュリティの専門家であるケビン・ボーモント氏も、マイクロソフト社を批判することで知られているが、この機能によって大規模な攻撃対象が生まれることに懸念を示し、キーロガーが “Windowsに組み込まれている “と例えている。

「PCに忍び込む悪意のあるソフトウェアであるインフォステーラー・マルウェアで歴史的に起こってきたことを見てみると、ローカルに保存されているブラウザのパスワードを自動的に盗み出すという方向に転換している」とボーモント氏は新しいブログ記事で説明している。

「言い換えれば、悪意のある脅威者がシステムにアクセスした場合、すでにローカルに保存されている重要なデータベースを盗んでいる。彼らは、CopilotのRecall機能によって記録された情報を盗むためにこれを拡張することができます。”

また、情報を盗むマルウェアだけでなく、TrickBotのようなエンタープライズをターゲットにしたマルウェアには、以前、オフラインで認証情報をクラッキングするために ドメインのActive Directoryデータベースを盗むモジュールが含まれていた。マルウェアが同じようなアプローチでRecallデータベースを盗み出すのを止める手立てはない。

マイクロソフトは、脆弱性や攻撃に対して、いったんデバイスが侵害されれば、すべての賭けは降り、セキュリティの境界線は窓から投げ捨てられるというスタンスを常に取ってきた。

基本的には、あなたが感染したか、ソーシャル・エンジニアリング攻撃に引っかかったのだから、これらの悪いことが起こるのはすべてあなたの責任なのだ。

しかし、マイクロソフトは、消費者データとコンピューティング・セキュリティの最大の管理者の一人であり、すでに危険な環境にさらなるリスクを持ち込むことは無責任である。

この機能がいかに重大なプライバシー・リスクであるかを延々と説明することもできるが、その代わりに、何よりもセキュリティを優先するというマイクロソフトの最近の公約から、この言葉を引用しておこう。

「セキュリティと他の優先事項とのトレードオフに直面した場合、答えは明確です。場合によっては、新機能のリリースやレガシーシステムの継続的なサポートなど、私たちが行う他のことよりもセキュリティを優先することを意味します」と、マイクロソフトのサティア・ナデラ最高経営責任者（CEO）はマイクロソフト社員に宛てた電子メールで述べている。

「マイクロソフトのサティア・ナデラ最高経営責任者（CEO）は、マイクロソフトの従業員に宛てた電子メールで次のように述べている。

Update 5/22/24: 本記事では、マイクロソフトがインテルとAMDと協力し、すべてのWindows 11デバイスに互換性を持たせようとしているとしているが、これは、互換性のあるCPUを作るためである。