Apple a annoncé qu'elle adopterait un nouveau protocole : analyser automatiquement les iPhones et les iPads pour comparer les photos des utilisateurs recherchant du matériel d'agression sexuelle sur des enfants (CSAM). L'entreprise fait cela pour limiter la propagation du CSAM, mais ajoute également d'autres fonctionnalités "pour protéger les enfants des prédateurs qui utilisent des outils de communication pour les recruter et les exploiter", a expliqué Apple dans un article de blog. Pour l'instant, les fonctions ne seront disponibles qu'aux USA. Apple introduira une nouvelle fonctionnalité dans iOS 2 et iPadOS XNUMX (qui devrait être publiée dans les mois à venir) qui analysera automatiquement les images sur l'appareil d'un utilisateur pour voir si elles correspondent au contenu CSAM précédemment identifié, qui est identifié via des hachages uniques (par exemple , un ensemble de nombres cohérents entre des images en double, comme une empreinte digitale). La vérification du hachage est une procédure courante pour détecter les CSAM que la société de sécurité de sites CloudFare a mise en œuvre en XNUMX et est utilisée par Thorn, une organisation à but non lucratif de lutte contre le trafic sexuel d'enfants, l'organisation cofondée par Ashton Kutcher et Demi More. De plus, Apple a ajouté deux systèmes que les parents peuvent éventuellement activer pour les enfants sur leur réseau domestique : premièrement, l'analyse sur l'appareil dans l'application Messages, qui analyse les photos entrantes et sortantes à la recherche de contenus susceptibles d'être sexuellement explicites, qui seront troubles. par défaut, et un facteur facultatif peut alerter les parents liés au compte si le contenu est consulté. Apple permet également à Siri et Search d'afficher des ressources utiles si un utilisateur pose des questions sur le rapport CSAM ; Les deux entreront également en jeu lorsque les utilisateurs poseront des questions liées au CSAM, alertant l’utilisateur du potentiel nocif du matériel et lui indiquant des ressources d’aide. Il s'agit d'un aperçu de la façon dont, selon la propre description d'Apple, il intégrera un logiciel pour suivre le CSAM et contribuera à protéger les enfants contre la prédation en intervenant lorsqu'ils reçoivent (et envoient) des photos potentiellement inappropriées. Mais la perspective qu'Apple analyse automatiquement son matériel a déjà suscité des inquiétudes parmi les spécialistes de la technologie et les défenseurs de la vie privée ; nous le verrons maintenant.
Cela m'affectera-t-il ?
Si vous n'avez pas de photos avec CSAM sur votre iPhone ou iPad, rien ne changera pour vous. Si vous n'effectuez pas de requête Siri ou de recherche en ligne liée au CSAM, rien ne changera pour vous. Si votre compte iPhone ou iPad est configuré avec une famille dans iCloud et que votre appareil est désigné comme petit sur ce réseau, vous verrez des avertissements et des photos troubles si vous recevez des photos sexuellement explicites. Si votre appareil n'est pas lié à un réseau familial comme celui d'un enfant, rien ne changera pour vous. Enfin, votre appareil ne bénéficiera d'aucune de ces fonctionnalités si vous n'effectuez pas la mise à jour vers iOS XNUMX, iPadOS XNUMX ou macOS Monterey. (Ce dernier analysera probablement les photos iCloud pour CSAM, mais il n'est pas clair si l'analyse des messages pour les photos sexuellement explicites se produira également lorsque les utilisateurs de macOS Monterey utiliseront l'application.) Ces mises à jour sont uniquement destinées aux utilisateurs aux États-Unis, et on ne sait pas quand (ou si) elles seront déployées ailleurs, mais comme Apple les positionne comme des garanties, nous serions surpris s'ils ne les déploient pas aux utilisateurs. . . Dans d'autres pays.
Pourquoi Apple fait-il cela ?
D'un point de vue éthique, Apple donne simplement aux parents les moyens de protéger leurs enfants et de fournir un service à la société en limitant le CSAM. Comme l'entreprise l'a déclaré dans son blog, "ce programme est ambitieux et protéger les enfants est une responsabilité essentielle". Apple a protégé à plusieurs reprises les fonctionnalités de confidentialité de ses appareils et les prend en charge avec des mesures telles que l'optimisation des analyses sur l'appareil (plutôt que le téléchargement de données sur les serveurs de l'entreprise dans le cloud) et des communications cryptées de bout en bout, telles que des idées comme le suivi des applications. . Une transparence qui a commencé avec iOS cent quarante-cinq. Mais Apple a également fait l’objet de nombreuses poursuites au fil des années qui auraient conduit l’entreprise à mettre l’accent sur la confidentialité ; Par exemple, un défenseur des consommateurs de l'Union européenne a poursuivi le géant de la technologie en novembre XNUMX pour la pratique d'Apple consistant à attribuer à chaque iPhone un identifiant pour les annonceurs (IDFA) pour suivre les utilisateurs dans les applications, selon The Guardian. Cela a peut-être conduit Apple à donner aux utilisateurs plus de contrôle grâce à la transparence du suivi des applications, ou au moins à s'aligner sur les actions en cours de l'entreprise. LaComparacion n'a pas été en mesure de localiser un procès spécifique qui aurait conduit Apple à mettre en œuvre ces changements, mais il est possible que l'entreprise se protège de manière proactive en offrant aux jeunes utilisateurs davantage d'outils d'autoprotection et en supprimant CSAM sur ses serveurs iCloud et ses iPhones. de manière générale, ce qui pourrait probablement limiter la responsabilité d'Apple à l'avenir. Mais si vous pouvez supprimer le matériel CSAM, pourquoi ne le feriez-vous pas ?