Appleは、ファミリー共有グループ内のお子様が、デバイス上のアルゴリズムによってヌードを含むと検出されたメディアの閲覧や送信から保護される仕組みを強化しました。iOS 18、iPadOS 18、macOS 15 Sequoia、watchOS 11以降、13歳未満のお子様は、警告が表示された後に進むためにスクリーンタイムのパスワードを入力する必要があります。ファミリー共有のアカウントで「コミュニケーションの安全」が有効になっている13歳から17歳のお子様には、引き続き警告のみが表示されます。この新しい要件により、家族の大人が送受信に適切と考えるものについて、親または保護者とお子様の間で新たな話し合いが生まれることになります。
Appleが、自社のOSとサービスを使用する子どもたちの安全と幸福を向上させるための機能を追加する計画を初めて発表した際、子どもの安全やLGBTQIA+の擁護団体、そして電子プライバシー団体から反発がありました。当初述べたように、いくつかの重要な団体は、Appleの計画によって一部の子どもたちがより大きな危害にさらされ、顧客に対するプライバシーの約束が破られる可能性があると感じていました（「Appleの子ども向け保護の拡大に関するFAQ」、2021年8月7日参照）。
Apple はすぐに当初の計画を撤回しました（「Apple、CSAM 写真スキャンからの撤退を説明」、2023 年 9 月 6 日参照）。その後 3 年間で、同社が展開した重要な変更は 1 つだけです。それが「コミュニケーションの安全性」です（「Apple、iOS 15.2、iPadOS 15.2、macOS 12.1 Monterey、watchOS 8.3、tvOS 15.2 をリリース」、2021 年 12 月 13 日参照）。これはファミリー共有内でのみ利用可能で、17 歳以下の子供が有効にできます。コミュニケーションの安全性は、画像と動画をデバイス上で分析し、送受信される通信で裸と思われるものを検出するものです。検出された場合、すべての子供に警告が表示され、13 歳未満の子供には、親、保護者、または信頼できる大人に相談するようにという追加の提案が表示されます。子供はこれらの警告を無視できます。
通信の安全性は、iOS 15.2、iPadOS 15.2、macOS 12.1、watchOS 9 のメッセージ内の画像に対してのみ最初に導入されました。iOS 17、iPadOS 17、macOS 13 Sonoma、watchOS 10 では、Apple は、AirDrop、連絡先ポスター、ビデオ、FaceTime ビデオメッセージなど、デバイスに応じて他の通信チャネルでビデオを検出する機能を追加しました。
Appleは2021年の最初の提案で、13歳未満のお子様の保護者に対し、お子様がセンシティブな画像を送受信した場合に通知を受け取るオプションを提供する予定でした。これらの画像は「性的性質」という、より刺激的な用語でラベル付けされていました。コミュニケーションセーフティの導入当初、Appleは一貫して「ヌード」または「裸の写真や動画」と表現していました。この表現変更により、ヌードは性的なもの、非性的なもの、あるいは定義が難しいものなど、様々な場合があり、これらの行為に対する価値判断が排除されました。（成人の裸の写真をすべて性的なものと解釈する人もいれば、画像に性的主題や性的意図があるかどうかを判断する際に文脈を重視する人もいます。）
この認識はアルゴリズムによって行われるため、誤検出が発生する可能性があります。例えば、プールで遊ぶ子供たちのシーンは、たとえ全員が水着を着ていたとしても「ヌード」と判定される可能性があります。また、肌の露出が映っている、あるいは映っているように見える動画が、実際にはヌードではない可能性もあります。このアルゴリズムは独自の技術で非公開であるため、外部からその精度を検証するには相当の労力が必要となるでしょう。
先週リリースされたオペレーティングシステムのバージョン（2024年9月16日の記事「Appleの2024年OSリリースへのアップグレードはいつすべきか」参照）から、13歳未満の子供は警告だけを受け取ることはなくなり、アカウントのScreen Timeパスコードも入力しなければならなくなる。これはAppleの興味深い決定である。Screen Timeは子供のアカウントに必須ではないものの、Appleはそれを推奨している。親が推測可能なパスコードを作成したり、子供に教えたりすれば、子供は親がScreen Timeレポートを通じて自分の行動をある程度把握していることを知ることになる。（Screen Timeパスワードがこのバイパスに使われた場合、親に通知されるのかどうかは私には分からないが、おそらくそうではないだろう。）
スクリーンタイムのパスワード要件は、Appleの当初の計画を覆すものです。2021年には、Appleは子供のデバイスが親を密告するという提案をしましたが、これはAppleと親の信頼の欠如を示していました。しかし、たとえ正当な理由があったとしても、この新しいアプローチには協議が必要です。13歳未満の子供は「ああ、そんなことしちゃだめ！」と思いとどまるか、スクリーンタイムのパスコードを持つ大人に相談する必要があるでしょう。これは、画像や動画にヌードが含まれていると誤ってマークされている場合、あるいは性的でないヌードに対する考え方が異なる文化や家庭において起こり得るシナリオです。
iOS 17、iPadOS 17、macOS 13 Sonoma、watchOS 10 以降では、17 歳未満のすべてのファミリー共有アカウントで「通信の安全」がデフォルトで有効になっています。ファミリー共有の所有者または親/保護者として設定されたアカウントは、iOS および iPadOS では「設定」>「ファミリー」 > 「お子様の名前」 >「スクリーンタイム」>「通信の安全」で、macOS では「システム設定」>「スクリーンタイム」>「ファミリーメンバー」>「お子様の名前」 >「通信の安全」で設定を切り替えることができます。
全体的に見て、この変更は、13歳未満の子供に新たなチェックポイントを提供する一方で、10代後半の子供にとってより困難で不快な思いをさせることなく、合理的であるように思われます。また、Appleを道徳やポリシーの強制執行機関にすることなく、保護者の手にコントロールを残すことにも繋がります。
Glenn Fleishman 氏は、Take Control Books の新著『 Keep Safe Using Mobile Tech』で、コミュニケーションの安全性とその他さまざまな個人の安全性について説明しています。