(SDI Productions / iStock / Getty Images Plus)
När USA släppte två atombomber på Japan 1945 var det motiverat som ett sätt att rädda fler liv, trots den svimlande dödssiffran.
Och förespråkare hävdade att om inte amerikanerna hade utvecklat bomben skulle någon annan ha gjort det.
Robert Oppenheimer, atombombens far, tvivlade.
"Fysikerna har känt synd, och detta är en kunskap som de inte kan förlora."
Snabbt fram till 2020, och ingenjörer och datavetare kämpar med sina egna etiska problem.
Förra veckan New York Times rapporterade om Clearview AI, en liten ansiktsigenkänningsstart som "kan leda till en dystopisk framtid", medger en av dess investerare.
Enligt Tider, "du tar en bild av en person, laddar upp den och får se offentliga foton av den personen, tillsammans med länkar till var dessa bilder dyker upp." Genom att skrapa bilddata från Facebook, YouTube, Venmo och otaliga andra webbplatser utplånar systemet all känsla av integritet på internet.
Clearview AI har redan uppmärksammats av brottsbekämpning; mer än 600 byråer i USA har börjat använda det under det senaste året, enligt företaget.
"Verktyget kunde identifiera aktivister vid en protest eller en attraktiv främling på tunnelbanan och avslöja inte bara deras namn utan var de bodde, vad de gjorde och vem de kände," Tider skriver.
Det är naturligtvis .
Åtminstone bryter det potentiellt användarvillkoren för de sociala nätverken och webbplatserna Clearview skrapar, som Facebook.
Clearview-grundaren Hoan Ton-Det berörs inte.
"Många människor gör det", sa han till Tider.
"Facebook vet."
Facebook berättade för Tider det var att "granska situationen med Clearview." Peter Thiel, en Clearview-investerare, sitter i Facebooks styrelse.
Om Clearviews teknik bryter mot dessa villkor verkar polisen vara villig att använda ett verktyg som samlar in data utan ägarens tillstånd.
Och om de och de tekniska företagen i fråga inte kan stoppa detta intrång i privatlivet, vilken möjlighet har den genomsnittliga personen?
När tekniken utvecklas kommer detta att vara toppen av isberget; sättet du går, eller till och med din hjärtslag, kan användas för att identifiera dig.
Och i likhet med utvecklingen av atombomben betraktas sådana övergångar som oundvikliga.
"Lagar måste avgöra vad som är lagligt, men du kan inte förbjuda teknik", säger Kirenaga Partners grundare och Clearview-investerare David Scalzo.
Rekommenderas av våra redaktörer
Men de ansvariga kan placera etik och integritet framför vinst.
Det behöver inte vara oundvikligt att automatisering eller artificiell intelligens tar ditt jobb; att Google kommer att göra en sökmotor för den kinesiska regeringen; eller att din personliga information rutinmässigt läcks ut.
Dessa val görs av människor, inte av någon annan världskraft.
Teknik utvecklas för snabbt för att effektivt kunna kontrolleras genom reglering - hur nödvändigt det än är - så det är upp till VD: ar, chefer och ibland anställda att avvisa projekt som så lätt kan användas för skadliga ändamål.
Vänster okontrollerat kan företag som Clearview och deras kunder oåterkalleligt förändra hur människor lever sina liv offentligt.
