Apple heeft aangekondigd dat de volgende versie van iOS vanaf iOS 15 automatisch door kinderen verstuurde berichten zal controleren en foto’s van gebruikers in iCloud zal scannen om kinderporno op te sporen en de verspreiding van dergelijke bestanden te voorkomen. Het initiatief heeft geleid tot massale protesten in het Westen. Tabloids hebben het bedrijf berispt omdat het onder plausibele voorwendselen de telefoons en persoonlijke foto’s van gebruikers wil hacken.
Sergey Kuzmenko, senior specialist in het testen van digitale producten bij het Centrum voor Digitale Expertise van Roskatchestvo
“Het probleem van seksuele uitbuiting van kinderen dat Apple probeert aan te pakken is zeer ernstig en acuut, zowel in de VS als in de rest van de wereld”. En de implementatie van de beeldanalysetechnologie – althans zoals het bedrijf die nu beschrijft – is ontworpen om zo privé en veilig mogelijk te zijn voor bezitters van Apple-apparaten”.
Voor zover kan worden begrepen, zal het op deze manier werken:
1 Het bedrijf controleert in het stadium van het berichtenverkeer of een kind een openhartige foto naar iemand stuurt, geeft dan verschillende waarschuwingen en stelt de ouders op de hoogte. Kinderbescherming in iMessage werkt alleen op gezinsaccounts met kinderen van 12 jaar of jonger, en moet handmatig worden geactiveerd. De informatie zou niet worden doorgegeven aan de autoriteiten.
2 Siri en Search zullen worden voorzien van lijsten met codewoorden en zoekopdrachten die verband houden met kinderporno, en gebruikers die dergelijke zoekopdrachten uitvoeren zullen dan een waarschuwingsbalk krijgen dat dergelijke interesses schadelijk zijn en links naar partnersites voor hulp. Het valt nog te bezien of informatie over dergelijke verzoeken met de autoriteiten zal worden gedeeld.
3 Het meest schandalige deel: bij het uploaden van foto’s naar iCloud als de functie is geactiveerd, gebeurt dat automatisch scant het neurale netwerk van het bedrijf de foto’s voor het uploaden en vergelijkt ze met een bestaande database van kinderporno. De foto’s worden gehasht d.w.z. omgezet in een reeks tekens die een buitenstaander niet kan ontcijferen en het algoritme vergelijkt ze met een database van soortgelijke tekenreeksen. Het proces verloopt automatisch, en alleen als er een match is met bekende patronen komt er een menselijke moderator aan te pas.
4 In het geval dat een gebruiker meerdere bekende afbeeldingen heeft of het incident van het downloaden van dergelijke foto’s zich herhaaldelijk voordoet, behoudt Apple zich het recht voor de gebruiker naar de bevoegde autoriteiten te verwijzen. Het bedrijf benadrukt dat als de gebruiker het uploaden heeft uitgeschakeld, het systeem niet werkt, en dat de functie de privé fotobibliotheek op het toestel niet controleert.
Het blijft natuurlijk de vraag of het bedrijf zich aan de verklaarde privacyregels zal houden, of de herkenningstechnologie werkelijk waterdicht is en of deze in de toekomst niet voor andere doeleinden zal worden gebruikt. In zijn huidige vorm wordt het potentiële systeem voor het herkennen van pedofiele rekeningen echter gezien als een pluspunt.
Er zij ook op gewezen dat de functie alleen in de VS wordt gelanceerd; in andere landen zal zij geleidelijk worden ingevoerd, rekening houdend met het plaatselijke wettelijke kader.
Wat voor commentaar heeft Roskachestvo gegeven over het Apple-schandaal?