Företag skulle kunna polisa krypterade meddelandetjänster för eventuella övergrepp mot barn samtidigt som de bevarar integriteten och säkerheten för de människor som använder dem, sade statliga säkerhets- och underrättelseexperter i ett diskussionsunderlag som publicerades i går.
Ian Levy, teknisk chef för UK National Cyber Security Center (NCSC), och Crispin Robinson, teknisk chef för kryptoanalys vid GCHQ, hävdade att det varken är nödvändigt eller oundvikligt för samhället att välja mellan att göra kommunikationen “osäker som standard” eller skapa “säkra utrymmen för barnmisshandlare”.
De tekniska direktörerna föreslog i ett diskussionsunderlag, Tankar om barnsäkerhet på handelsplattformar, att skanningsprogramvara på klientsidan placerad på mobiltelefoner och andra elektroniska enheter skulle kunna användas för att polisera övergrepp mot barn utan att störa individers integritet och säkerhet.
Förslagen kritiserades i går av teknikföretag, kampanjgrupper och akademiker.
Meta, ägare till Facebook och WhatsApp, sa att de tekniker som föreslagits i tidningen skulle undergräva internet, skulle hota säkerheten och skada människors integritet och mänskliga rättigheter.
Open Rights Group, en internetkampanjgrupp, beskrev Levy och Robinsons förslag som ett steg mot en övervakningsstat.
De tekniska direktörerna hävdade att utvecklingen inom tekniken innebär att det inte finns ett binärt val mellan den integritet och säkerhet som erbjuds av end-to-end-kryptering och risken för att sexuella övergrepp mot barn inte identifieras.
De hävdade i tidningen att övergången till end-to-end-kryptering “i grunden bryter” de flesta säkerhetssystem som skyddar individer från material som övergrepp mot barn och som brottsbekämpande myndigheter litar på för att hitta och åtala brottslingar.
“Sexuella övergrepp mot barn är ett samhällsproblem som inte skapades av internet, och att bekämpa det kräver ett svar från hela samhället”, skrev de.
“Men onlineaktivitet tillåter på ett unikt sätt förövare att skala sina aktiviteter, men möjliggör också helt nya onlineskador, vars effekter är lika katastrofala för offren.”
Neural Hash på is
Apple försökte introducera skanningsteknik på klientsidan – känd som Neural Hash – för att upptäcka kända sexuella övergrepp mot barn på iPhones förra året, men lade planerna på obestämd tid efter ett ramaskri från ledande experter och kryptografiexperter.
En rapport av 15 ledande datavetare, Buggar i våra fickor: riskerna med skanning på klientsidan, publicerad av Columbia University, identifierade flera sätt som stater, illvilliga aktörer och missbrukare kunde vända på tekniken för att skada andra eller samhället.
“Skanning på klientsidan skapar till sin natur allvarliga säkerhets- och integritetsrisker för hela samhället, medan den hjälp den kan ge för brottsbekämpning i bästa fall är problematisk”, sa de. “Det finns flera sätt på vilka skanning på klientsidan kan misslyckas, kan undvikas och kan missbrukas.”
Levy och Robinson sa att det fanns en “ohjälpsam tendens” att betrakta end-to-end-krypterade tjänster som “akademiska ekosystem” snarare än den uppsättning verkliga kompromisser som de faktiskt är.
“Vi har inte hittat någon anledning till varför skanningstekniker på klientsidan inte kan implementeras på ett säkert sätt i många av de situationer som samhället kommer att stöta på”, sa de.
“Det är inte att säga att mer arbete inte behövs, men det finns tydliga vägar till implementering som verkar ha de nödvändiga egenskaperna för effektivitet, integritet och säkerhet.”
Möjligheten att människor felaktigt anklagas efter att ha skickats bilder som orsakar “falskt positiva” varningar i skanningsmjukvaran skulle i praktiken mildras genom flera oberoende kontroller innan någon hänvisning till brottsbekämpning, sa de.
Risken för “uppdragskrypning”, där skanning på klientsidan potentiellt skulle kunna användas av vissa regeringar för att upptäcka andra former av innehåll som inte är relaterat till övergrepp mot barn kan också förhindras, hävdade de tekniska cheferna.
Enligt deras förslag skulle barnskyddsorganisationer över hela världen använda en “konsekvent lista” över kända olagliga bilddatabaser.
Databaserna skulle använda kryptografiska tekniker för att verifiera att de bara innehöll bilder på barnmisshandel och deras innehåll skulle verifieras av privata granskningar.
De tekniska cheferna erkände att missbrukare kanske kan undvika eller inaktivera skanning på klientsidan på sina enheter för att dela bilder mellan sig utan upptäckt.
Däremot skulle förekomsten av tekniken på offrens mobiltelefoner skydda dem från att ta emot bilder från potentiella missbrukare, hävdade de.
Upptäcker grooming
Levy och Robinson föreslog också att köra “språkmodeller” på telefoner och andra enheter för att upptäcka språk som är associerat med grooming. Programvaran skulle varna och knuffa potentiella offer att rapportera riskfyllda konversationer till en mänsklig moderator.
“Eftersom modellerna kan testas och användaren är involverad i leverantörens tillgång till innehåll, tror vi inte att den här typen av tillvägagångssätt drar till sig samma sårbarheter som andra,” sa de.
2018 föreslog Levy och Robinson att tillåta regering och brottsbekämpande “exceptionell tillgång” till krypterad kommunikation, liknande att lyssna på krypterade kommunikationstjänster.
Men de hävdade att det är komplext att motverka sexuella övergrepp mot barn, att detaljerna är viktiga och att regeringar aldrig klart har fastställt “problemets helhet”.
“När vi publicerar det här dokumentet hoppas vi kunna korrigera den informationsasymmetrin och skapa en mer informerad debatt”, sa de.
Analys av metadata ineffektiv
Tidningen hävdade att användningen av artificiell intelligens (AI) för att analysera metadata, snarare än innehållet i kommunikation, är ett ineffektivt sätt att upptäcka användningen av krypterade tjänster från början till slut för bilder av övergrepp mot barn.
Många föreslagna AI-baserade lösningar ger inte brottsbekämpande myndigheter tillgång till misstänkta meddelanden, utan beräknar en sannolikhet för att ett brott har inträffat, heter det.
Eventuella åtgärder som brottsbekämpande myndigheter kan vidta, såsom övervakning eller arrestering, skulle för närvarande inte uppfylla den höga tröskeln för bevis som behövs för att brottsbekämpning ska kunna ingripa, sa tidningen.
“Längs den här vägen ligger den dystopiska framtid som skildras i filmen Minoritetsrapport“, tillade det.
“The Online Safety Bill är en möjlighet att ta itu med barnmisshandel som äger rum i industriell skala. Trots de andlösa förslagen om att lagförslaget skulle kunna “bryta” kryptering, är det tydligt att lagstiftning kan uppmuntra företag att utveckla tekniska lösningar och leverera säkrare och mer privata onlinetjänster.”
Säkerhetsräkning online
Andy Burrows, chef för onlinepolicy för barnsäkerhet vid barnens välgörenhet NSPCC, sa att tidningen visade att det är fel att antyda att barns rätt till onlinesäkerhet endast kan uppnås på bekostnad av integriteten.
“Rapporten visar att det kommer att vara tekniskt möjligt att identifiera barnmisshandelsmaterial och skötsel i krypterade produkter från ände till ände”, sa han. “Det är tydligt att hindren för skydd av barn inte är tekniska, utan drivs av teknikföretag som inte vill utveckla en balanserad uppgörelse för sina användare.”
Burrows sa att den föreslagna Online Safety Bill är en möjlighet att ta itu med barnmisshandel genom att uppmuntra företag att utveckla tekniska lösningar.
Förslag skulle “undergräva säkerheten”
Meta, som äger Facebook och WhatsApp, sa att de tekniker som föreslagits i tidningen av Levy och Robinson skulle undergräva säkerheten för end-to-end-kryptering.
“Experter är tydliga med att tekniker som de som föreslås i detta dokument skulle undergräva end-to-end-kryptering och hota människors integritet, säkerhet och mänskliga rättigheter”, säger en talesperson för Meta.
”Vi har ingen tolerans för utnyttjande av barn på våra plattformar och är fokuserade på lösningar som inte kräver påträngande genomsökning av människors privata samtal. Vi vill förhindra att skada inträffar i första hand, inte bara upptäcka den i efterhand.”
Meta sa att det skyddade barn genom att förbjuda misstänkta profiler, begränsa vuxna från att skicka meddelanden till barn som de inte är anslutna till på Facebook och begränsa möjligheterna för konton för personer under 18 år.
“Vi uppmuntrar också människor att rapportera skadliga meddelanden till oss, så att vi kan se det rapporterade innehållet, svara snabbt och göra hänvisningar till myndigheterna”, sa talespersonen.
Storbritannien pressar “oansvarigt”
Michael Veale, docent i digitala rättigheter och regleringar vid UCL, skrev i en analys på Twitter att det var oansvarigt av Storbritannien att driva på skanning på klientsidan.
“Andra länder kommer att rulla tillbaka på samma (felaktiga, opålitliga) teknik för att kräva sökning efter länkar till abortkliniker eller politiskt material”, skrev han.
Veale sa att de som delar material med sexuella övergrepp mot barn skulle kunna undvika skanning genom att flytta till andra kommunikationstjänster eller kryptera sina filer innan de skickas.
“De som förföljs för att de utövar normala, dagliga mänskliga rättigheter kan inte det”, tillade han.
Säkerhetssårbarheter
Jim Killock, verkställande direktör för Open Rights Group, sa att skanning på klientsidan skulle ha effekten av att bryta end-to-end-kryptering och skapa sårbarheter som kan utnyttjas av brottslingar och statliga aktörer i cyberkrigföring.
“Brittiska cybersäkerhetschefer planerar att invadera vår integritet, bryta kryptering och börja automatiskt skanna våra mobiltelefoner efter bilder som kommer att göra dem till “spioner i fickan”, sa han.
“Detta skulle vara ett enormt steg mot en övervakningsstat i kinesisk stil. Vi har redan sett Kina vilja utnyttja liknande teknik för att slå ner på politiska oliktänkande.”
Håll kontakten med oss på sociala medieplattformar för omedelbar uppdatering klicka här för att gå med i vår Twitter och Facebook
