Apple verdedigt controle op kindermisbruikfoto’s, ‘kwalijke zaak’ volgens privacygroep
Apple kondigde vorige week een nieuw systeem aan om foto’s van kindermisbruik te detecteren in de iClouds van Amerikaanse gebruikers. Dat zorgde voor ophef: sommige privacygroepen en beveilingsexperts bekritiseerden het plan. Ook het Nederlandse Bits of Freedom is er niet gerust op. Ondertussen verdedigt Apple zich.
Update
Apple zegt nu dat het bedrijf na feedback van klanten, rechtenorganisaties en onderzoekers meer tijd zal nemen om de software te verbeteren. Hoe lang dat precies gaat duren is niet duidelijk, maar Apple zegt "de komende maanden" bezig te zijn met de technologie.
Privacystichting Bits of Freedom noemt de ophef rond het plan van Apple terecht, en vindt dat ook Nederlanders zich zorgen moeten maken. Hoewel het controlesysteem nu alleen in de Verenigde Staten wordt geïntroduceerd, verwacht de stichting dat het ook naar Nederland komt.
‘Het is geen verstandig plan’, zegt woordvoerder Bér Engels. ‘Eigenlijk bekijkt Apple gewoon al je foto’s. Privacy houdt in dat je dingen voor jezelf kunt houden. Encryptie is een van de manieren waarop dat kan gebeuren, en je mag verwachten dat Apple encryptie versterkt, niet verzwakt - aangezien zij zich presenteren als de privacy-goeroe van Silicon Valley.’
Bits of Freedom wijst erop dat een geautomatiseerd systeem beslissingen zal maken die grote impact kunnen hebben op mensen. ‘Er kunnen altijd fouten ontstaan. Hierbij kun je opeens in het vizier van opsporingsdiensten of politie komen.’
Een kans van 1 op 1 biljoen
Apple publiceerde maandag een Frequently Asked Questions over de zaak, om bezorgdheid weg te nemen. Daarin stelt het bedrijf dat het systeem geen onschuldige mensen zal aanwijzen. De kans op een zogenaamde ‘false positive’ is 1 op 1 biljoen per jaar, zegt Apple, en als een automatische alarmbel afgaat, wordt die altijd nog gecontroleerd door een mens.
Misbruik van het antimisbruiksysteem
Apple reageert ook op het idee dat de controle gebruikt kan worden tegen foto’s van iets anders dan kindermisbruik - democratische protesten, bijvoorbeeld. ‘Ons proces is erop ingericht om te voorkomen dat het systeem iets anders dan Child Sexual Abuse Material detecteert,’ schrijft Apple. En als een overheid eist dat het systeem voor iets anders wordt gebruikt, dan zal de techreus dat altijd weigeren, is de belofte.
Maar volgens Bits of Freedom kan niemand garanderen dat de controle echt niet misbruikt zal worden. Woordvoerder Engels: ‘Door de werking van systeem is het heel moeilijk, zo niet onmogelijk om te verifiëren dat het alleen maar hiervoor gebruikt wordt.’