(SDI Productions / iStock / Getty Images Plus)
Da USA kastede to atombomber mod Japan i 1945, var det berettiget som en måde at redde flere liv på trods af den svimlende dødstall.
Og talsmænd argumenterede for, at hvis amerikanerne ikke havde udviklet bomben, ville en anden have gjort det.
Robert Oppenheimer, far til atombomben, var i tvivl.
"Fysikerne har kendt synd; og dette er en viden, som de ikke kan miste."
Hurtigt frem til 2020, og ingeniører og computerforskere kæmper med deres egne etiske vanskeligheder.
Sidste uge, den New York Times rapporterede om Clearview AI, en lille opstart af ansigtsgenkendelse, der "kan føre til en dystopisk fremtid", indrømmer en af ??sine investorer.
Ifølge Tider, "du tager et billede af en person, uploader det og får vist offentlige fotos af den person sammen med links til, hvor disse fotos dukkede op." Skrabning af billeddata fra Facebook, YouTube, Venmo og utallige andre websteder udelukker systemet enhver følelse af privatlivets fred på internettet.
Clearview AI har allerede tiltrukket sig retshåndhævelses opmærksomhed; ifølge virksomheden har mere end 600 agenturer i USA begyndt at bruge det i det forløbne år.
"Værktøjet kunne identificere aktivister ved en protest eller en attraktiv fremmed i metroen og afsløre ikke kun deres navne, men hvor de boede, hvad de gjorde, og hvem de kendte," sagde Tider skriver.
Det er det selvfølgelig .
I det mindste bryder det potentielt servicevilkårene for de sociale netværk og websteder, Clearview skraber, som Facebook.
Clearview-grundlægger Hoan Ton-Det er ikke bekymret.
"Mange mennesker gør det," sagde han til Tider.
"Facebook ved."
Facebook fortalte Tider det var "at gennemgå situationen med Clearview." Peter Thiel, en Clearview-investor, sidder i Facebooks bestyrelse.
Hvis Clearviews teknologi overtræder disse vilkår, ser politiet ud til at være villige til at bruge et værktøj, der indsamler data uden ejerens tilladelse.
Og hvis de og de pågældende tekniske virksomheder ikke standser denne krænkelse af privatlivets fred, hvilken anvendelse har den gennemsnitlige person?
Efterhånden som teknologien udvikler sig, vil dette være toppen af ??isbjerget; den måde, du går, eller endda dit hjerteslag, kan bruges til at identificere dig.
Og ligesom udviklingen af ??atombomben betragtes sådanne overgange som uundgåelige.
"Lovene skal afgøre, hvad der er lovligt, men du kan ikke forbyde teknologi," sagde Kirenaga Partners-grundlægger og Clearview-investor David Scalzo.
Anbefalet af vores redaktører
Men de ansvarlige kan placere etik og privatliv over fortjeneste.
Det behøver ikke at være uundgåeligt, at automatisering eller kunstig intelligens tager dit job; at Google opretter en søgemaskine til den kinesiske regering; eller at dine personlige oplysninger rutinemæssigt lækkes.
Disse valg foretages af mennesker, ikke af en anden verdenskrig.
Teknologi udvikler sig for hurtigt til effektivt at blive kontrolleret ved regulering - hvor nødvendigt det end måtte være - så det er op til administrerende direktører, ledere og til tider medarbejdere at afvise projekter, der så let kan bruges til ondsindede formål.
Venstre ukontrolleret kunne virksomheder som Clearview og deres kunder uigenkaldeligt ændre, hvordan folk lever deres liv offentligt.
