AppleはiPhone上の児童ポルノ画像を自動的に検出する方法を計画している

メッセージによって性的に露骨な画像がぼやける場合があります

最初の機能はメッセージ アプリケーションに関するものです。家族の iCloud アカウントでは、家族の子供が性的に露骨な写真を受信したり、送信しようとしたりすると、画像がぼやけ、警告メッセージが画面に表示されます。

Appleはプレスリリースの中で、Messagesが機械学習をデバイス上で直接使用して添付ファイルを分析し、写真が性的に露骨であるかどうかを判断していると説明している。 iMessage はエンドツーエンドで暗号化されたままであり、Apple はスキャンされたメッセージにアクセスできません。

確かに最も注目を集める機能であるAppleは、ポルノ画像の自動検出機能を含む児童ポルノ対策の新たな対策を発表した。画像が同期されているか、iCloud に保存されている場合、検出は iPhone で直接行われます。検出された場合、Apple はこれらの画像を復号化し、ユーザーに警告することなく、調査に必要な識別要素を添えて当局に送信することができます。この機能は次の場所にデプロイされます。iOS15など現時点でアメリカでは。

自動検出はどのように機能しますか?

一連の文書の中で, Appleは、使用されている技術ソリューションについて詳しく説明しています。 Apple はデバイス上の画像をスキャンして、提供されている既知の写真のデータベースと一致するものがあるかどうかを確認します。国立行方不明児童・搾取児童センター。すべての照合はデバイス上で行われ、Apple は国立行方不明児童搾取児童センターのデータベースを「ユーザーのデバイスに安全に保存されている読み取り不可能なハッシュのセット»。

デバイス上に一致がある場合、デバイスは一致の結果を記録する暗号スイートを作成します。と呼ばれる技術分散された秘密その後、使用されます。これにより、iCloud 写真アカウントが違法コンテンツのしきい値を超えない限り、暗号スイート内のコンテンツが Apple によって解釈されることがなくなります。

Apple は、使用する特定のしきい値、つまり、暗号スイートの内容を解釈できるようになるまでに必要な一致の数を開示していません。ただし、そのしきい値に達すると、Apple はレポートを手動で確認して一致を確認し、ユーザーのアカウントを無効にして、国立行方不明児童搾取センターにレポートを送信します。

デバイス上のすべてをスキャンしますが、Apple はこの機能を iCloud 写真に保存されている写真にのみ使用します。完全にローカルに保存された画像は、このプロセスには関与しません。 Apple によると、このシステムはユーザーのプライバシーを尊重しています。

この機能にはすでに反対の声が上がっており、プライバシーにとって危険な前例となる可能性がある。 Qwant の法務マネージャー、ギョーム・シャンポー氏はこう疑問に思います。Appleが避けられない延長要求に抵抗できるかどうか。このような機能がフランスやヨーロッパで合法的に導入できるかどうかも確認する必要がある。

隔週木曜日の午後 5 時から 7 時まで開催されるショーにご参加ください。ロックを解除するによって制作されたフランアンドロイドなどヌメラマ！技術ニュース、インタビュー、ヒントと分析…またお会いしましょうTwitchでライブ配信するもしくは再放送でYouTube で！