Apple と児童ポルノ: 解決策よりも多くの疑問

iOS 15 と macOS Monterey の登場により、Apple は導入を開始します未成年者への性的虐待と闘うための新たな保護。善意ですが、残念なことに、最終的には比較的少ない結果しか得られず、多くの疑問が生じます。

2 つのまったく異なるツール

Apple が呼ぶものCSAMの検出（注ぐ児童性的虐待に関する資料) は実際には 2 つの別個のツールに分割されています。 1 つ目はメッセージ アプリケーションに関するもので、人工知能を使用して送受信された性的に露骨なコンテンツを識別するために、メッセージ アプリケーションを通過するすべての画像をスキャンできます。結果が陽性の場合、画像がぼやけて子供に通知されます。

これらすべては iPhone、iPad、または Mac 上で直接行われるため、画像は Apple に送信されません。さらに、これはファミリーアカウント内のお子様のデバイスにのみ影響し、お子様が 12 歳以下の場合にのみ保護者に通知されます。したがって、13 歳以降、子供は希望に応じて完全な裁量で問題の画像を見ることができます。

このアイデアは、小さな最愛の子の貞淑な目を保つためにはかなり興味深いものですが、それでも子供が別のメッセージング サービスではなくメッセージを使用する必要があります (WhatsApp、電報、シグナル、メッセンジャー...) そして、軽薄なスピーチに屈する可能性のある 13 歳以上の子供たちを実際には保護しません。さらに、一部のセキュリティ専門家は、プロセスのある時点でコンテンツがチェックされるため、これはエンドツーエンドの暗号化というメッセージングの約束に違反すると主張しています。

しかし、実際に疑問が生じるのは 2 番目のツールです。これは、iCloud に含まれるすべての写真をスキャンして、児童ポルノ コンテンツのデータベース (IBM によって提供される) と比較します。国立行方不明児童・搾取児童センター）一致が証明された場合には当局に報告します。 Apple は、法律に違反する写真のみが共有されるため、データのセキュリティが維持されることを保証します。

不満の波

この発表を受けて、一部の人がプライバシーの侵害とみなす行為に対して、いくつかの声が上がった。ティム・スウィーニー、創設者Epic Games は Apple を批判することがたくさんあることについて、たとえばこれを次のように説明しました。政府のスパイウェア』のマネージャー、ウィル・キャカート役で出演。ワッツアップ自社のメッセージング アプリケーションがそのようなシステムを決して採用しないことを保証する機会を利用した、NGO の電子フロンティア財団。

明確にしておきたいのは、児童への性的虐待は恐ろしいことであり、広く非難されていますが、これらの慣行と戦うには、不透明なブラックボックス以外にも方法があります。これが Apple の手法に対する主な批判です。 Apple が使用しているデータベースですが、ハッシュ化された（アルゴリズムによって読み取り不能にされています）には違法なコンテンツが含まれており、その内容を確認するために誰も復号化を試みることができません。したがって、理論的には、他の要素も含まれる可能性があります。

漏洩との戦いの真っ最中, Appleは、ソース元に遡るために、例えば自社製品の盗まれた画像をこのカタログに統合する可能性がある。同様に、政府は Apple にこのリストに他の要素を追加するよう強制する可能性があります。コンピューターサイエンス研究者のマット・ブレイズ氏は、今後はこうするだろうと断言する。この検出機能を他の種類の「悪質な」コンテンツにも拡張するよう、世界中の政府から Apple に多大な圧力がかかるだろう»。

で物事を明確にすることを目的とした文書, Appleはこれらのリクエストをすべて拒否することを約束し、他のコンテンツを識別するための有害な画像の挿入を避けるためにこのデータベースがシステムに統合されていると示唆しています...しかし、これについてはクパチーノの会社の言葉を信じる必要があります。さらに、ペガサス事件脆弱性の悪用を可能にするセキュリティ上のギャップが依然として存在することを示しました。

限定的な保護

したがって、この統合にはオンラインでの個人の自由に対するリスクがないわけではなく、残念ながら、児童ポルノとの戦いに非常に弱い影響しか及ぼさないリスクがあります。これらのツールの動作は詳細に規定されているため、最も悪意のある人でも心配することなくツールを回避して目的を達成することができます。たとえば、メッセージ アプリケーションによって送信された単純なリンクは Apple のツールによって分析されず、同じ種類のコンテンツにつながる可能性があります。

Will Cathcart 氏は、WhatsApp が 2020 年に 400,000 件の症例を報告したと指摘しています。国立行方不明児童・搾取児童センター, ユーザーからの報告に基づくだけで、毎月 300,000 を超えるアカウントが禁止されているとのことです。少し怖い数字ですが、それは認めなければなりません…

隔週木曜日の午後 5 時から 7 時まで開催されるショーにご参加くださいロックを解除するによって制作されたフランアンドロイドなどヌメラマ！技術ニュース、インタビュー、ヒントと分析…またお会いしましょうTwitchでライブ配信するもしくは再放送でYouTube で！