Storbritanniens spioner kommer att behöva behärska artificiell intelligens för att motverka fientliga aktörer som "utan tvekan kommer att försöka använda [it] att attackera Storbritannien, enligt en ny rapport från Government Communications Headquarters (GCHQ).
Enligt rapporten skulle detta ske på många sätt, inklusive användning av deepfakes för att generera desinformation som kan påverka valprocessen, och störa nationell infrastruktur genom ökad användning av IoT-enheter (Internet of Things).
Deepfake-teknik, där artificiell intelligens används för att kartlägga en persons ansiktsdrag på en bild av en annan för att sprida desinformation, har ännu inte använts i valprocessen i någon märkbar utsträckning, men politiska personer som president Obama har presenterats i djupa falska videor.
Storbritanniens kritiska nationella infrastruktur har också lämnats osäker mot cyberattacker.
År 2018 sa Ciaran Martin, chef för Storbritanniens National Cyber ??Security Center (NCSC), att en stor attack mot Storbritannien är en fråga om "när, inte om." Användningen av IoT-enheter kan hackas i massor för att ge datorkraft för att rikta in sig på större system, eller användas som en gateway till mer känslig information.
Skadlig programvara kan använda artificiell intelligens för att dölja sig, säger rapporten.
När det gäller sekretess säger rapporten att användning av artificiell intelligens kan innebära att mindre data granskas av människor, men påpekar också att "graden av intrång är ekvivalent oavsett om data behandlas av en algoritm eller en mänsklig operatör." Rapporten säger också att utvecklingen av system för artificiell intelligens måste göras på ett sätt som vanliga människor skulle kunna förstå och bedöma dess risker beträffande dess ”felmarginaler och osäkerhet i samband med en beräkning.”
Rekommenderas av våra redaktörer
På områden som terrorismbekämpning säger rapportens författare att det finns "begränsat värde" i "prediktiv intelligens".
Istället kommer AI att användas för att söka igenom stora mängder data och låta människor i teorin göra bättre bedömningar.
Detta beror på att terroristattacker inte händer tillräckligt ofta för att tillhandahålla datamängder, och bakgrunden och ideologierna bakom dessa attacker är så varierade att det är svårt att konstruera en pålitlig modell.
"Antagande av AI är inte bara viktigt för att hjälpa underrättelsetjänster hantera den tekniska utmaningen med överbelastning av information.
Det är mycket troligt att skadliga aktörer kommer att använda AI för att attackera Storbritannien på många sätt, och underrättelsetjänsten kommer att behöva utveckla ny AI-baserad försvarsåtgärder, "berättade Alexander Babuta, en av författarna till BBC.
