• Tuesday July 16,2019

Zaboravite zabrane: UN je zaglavio na definiranju Robota ubojice

Anonim

Sastanak Ujedinjenih naroda o smrtonosnom autonomnom oružju završio je razočaranje zagovornika koji se nadaju da će svijet napredovati u reguliranju ili zabrani tehnologija "ubojica robota". UN-ova skupina vladinih stručnjaka jedva je čak ogreškala površinu definiranja onoga što se smatra kao smrtonosno autonomno oružje. Ali, umjesto da pokušaju stvoriti definiciju robota ubojica, možda će im biti bolje sreće sljedeći put kada se usredotoče na ulogu ljudi u kontroli takvog autonomnog oružja.

Ta ideja o usredotočenosti na ulogu ljudi u ratovanju poduprla je brojni stručnjaci i nevladine organizacije poput Međunarodnog crvenog križa. To bi stavilo naglasak na zakonske i moralne odgovornosti vojnika i časnika koji bi mogli uskladiti rojeve vojnih trutova ili izdavati zapovijedi u vodu robotskih tankova u bliskoj budućnosti. I izbjegava zamke koje okružuju izazov pokušaja definiranja smrtonosnog autonomnog oružja kad se umjetna inteligencija i robotske tehnologije nastave mnogo brže razvijati od sporog brusnog pribora UN-ovog tijela koje se sastaje samo jednom godišnje.

"Jedna kritika koju su ljudi napravili, a s pravom je, ako danas stvorite zabranu današnje tehnologije, u bliskoj budućnosti možete biti u krivu o tehnologiji", kaže Paul Scharre, direktor Program tehnologije i nacionalne sigurnosti u Centru za novu američku sigurnost (CNAS) i autoru nadolazeće knjige "Army of None" koja je zakazana za objavljivanje u proljeće 2018. "U ovom području smrtonosnog autonomnog oružja možda ćete biti u krivu".

Jedan ne-vojni primjer kako brzo AI tehnologija nadmašuje regulatorne rasprave dolazi od slučaja AlphaGo programa DeepMind Lab. U prvoj polovici 2016. godine, AlphaGo je prkosio stručnim predviđanjima od prije nekoliko godina pobijedivši najbolje ljudske igrače u drevnoj igri Go. Godine 2017., DeepMind objavio je nadograđenu inačicu AlphaGoa, AlphaZero, koja je naučila igrati šah u roku od četiri sata i nastavila pobijediti najbolje specijalizirane kompjuterske programe za šah.

Tijekom tog istog razdoblja napredovanja u AI, međunarodna zajednica ostvarila je vrlo malo unatoč sazivanju nekoliko sastanaka UN-a o smrtonosnom autonomnom oružju. Najnoviji sastanak UN-a koji je održan u studenom 2017. godine - koji je uključivao skupinu stručnjaka za vlade o sustavima smrtonosnih autonomnih oružja - imao je malo postignuća osim što se nije dogovorio ponovno sastati za 10 dana 2018. godine i pripremiti se za sve to.

Blokovni blok o zabrani ubojitih robota

Veliki problem za zagovornike koji žele zabraniti smrtonosno autonomno oružje je da nemaju podršku vodećih vojnih snaga koje bi najvjerojatnije rasporedile i koristile takvo autonomno oružje. Mnogi vodeći istraživači AI i vođe Silicijske doline zatražili su zabranu autonomnog oružja. Ali nevladine organizacije (NVO) uglavnom stoje bez potpore nacionalnih vlada u pokušaju uvjeravanja svjetskih vojnih divova da bi trebali izbjegavati dodavanje smrtonosnog autonomnog oružja u njihove arsenale.

"Imate kadar nevladinih organizacija koji u osnovi govore o glavnim nacionalnim državama - brojne velike sile poput Rusije, Kine i Sjedinjenih Država koje su sve rekle da će AI biti središnji za budućnost nacionalne sigurnosti i ratovanja - da oni ne mogu imaju ta oružja ", kaže Scharre. "Reakcija vojnih ovlasti je:" Naravno da bih ih odgovorno koristio, koga da kažete? "

Ovo se čini konzistentnim s prošlim očekivanjima vjerojatnosti da bi zabrana smrtonosnog autonomnog oružja mogla uspjeti. U listopadu 2016., Chatham House Think Tank, sa sjedištem u Londonu, održao je vježbu za igranje uloga kako bi zamislila budući scenarij gdje Kina postaje prva zemlja koja upotrebljava smrtonosno autonomno oružje u ratovanju. Ta vježba, koja se usredotočila na stajališta Sjedinjenih Država, Izraela i europskih zemalja, utvrdila je da nitko od stručnjaka koji se bore protiv različitih vlada nije bio spreman potpisati ni privremenu zabranu autonomnog oružja.

NVO-i poput Kampanje za zaustavljanje ubojitih robota ukazuju na činjenicu da najmanje 22 zemlje žele pravno obvezujući sporazum o zabrani smrtonosnog autonomnog oružja. Scharre je, međutim, istaknuo kako niti jedna od tih zemalja nije jedna od glavnih vojnih snaga koje razvijaju neophodne tehnologije suzbijanja zlouporabe ubojitih autonomnih oružja.

Rusija kaže Nyet Banu

Zapravo, Rusija je možda već iskopala poslovičan grob za bilo koju potencijalnu zabranu robotskog ubojstva najavivši da neće biti vezana bilo kojom međunarodnom zabranom, moratorijem ili propisom o smrtonosnom autonomnom oružju. Novinarka Patrick Tucker iz obrane One opisao je rusku izjavu koja se podudara sa sastankom vladinih stručnjaka UN-a na sljedeći način.

Izjava Rusije iz 10. studenog iznosi odvjetnički pokušaj da potkopava svaki napredak prema zabrani. On tvrdi da je definiranje "smrtonosnih autonomnih robota" previše teško, još neophodno i prijetnja legitimnom razvoju tehnologije.

Tucker je navijestio nekoliko anonimnih stručnjaka koji su prisustvovali sastanku UN-a koji se žalili da je petodnevni sastanak jedva dotaknuo temeljni korak definiranja smrtonosnog autonomnog oružja.

Pronalaženje zajedničkog stajališta o definicijama robota ubojica može se činiti osnovnim stvarima, ali u nekom smislu nužno je da predstavnici vlasti budu sigurni da ne samo da razgovaraju jedan o drugima. "Jedna bi osoba mogla predvidjeti Roombu s pištoljem na njemu, druga osoba može predvidjeti Terminator", kaže Scharre.

Kako robotske ubojice mogu promijeniti ljude

Možda velike vojne snage poput Rusije i Sjedinjenih Država mogu se bolje slagati s obvezama i odgovornostima ljudi koji izdaju naloge budućim rojevima autonomnog oružja. Ali potencijalne zamke ostaju i ako uspiju. Jedan od najvećih izazova jest da bi uspon robota ubojica mogao dovesti do vojnih čelnika ili pojedinaca koji se osjećaju manje odgovornim za svoje postupke nakon što će na bojištu sutra osloboditi roj ubojitih robota.

"Ono što me brine je što ako dođemo do točke u kojoj su ljudi odgovorni, ali ljudi se zapravo ne osjećaju kao oni koji ubiru i donose odluke više", kaže Scharre.

Srce vojne struke je oko donošenja odluka o korištenju sile. Kao bivši američki vojni ranger, Scharre je izrazio zabrinutost da bi smrtonosno autonomno oružje moglo završiti stvarajući više psihološke udaljenosti između vojničkog osjećaja individualne odgovornosti i čin korištenja potencijalno smrtonosnog oružja. Ipak je istaknuo kako je vrlo malo pisano o tim budućim implikacijama za vojnu profesionalnu etiku.

Drugim riječima, svijet bi mogao eventualno razjasniti pravni okvir za način na koji ljudi imaju moralne i zakonske odgovornosti u ratovima kada se bori s letalnim autonomnim oružjem. No, uspon robota ubojica i dalje može voditi vojne čelnike i pojedinačne vojnike da se osjećaju manje suosjećanju i suzdržljivosti za one ljude na prijemnom kraju takvog oružja - i olakšavaju im da zaborave na njihove moralne i zakonske odgovornosti.

"Mislim da nas je tehnologija natjerala na temeljno pitanje ljudske uloge u smrtonosnoj odluci koja je u ratu", kaže Scharre.


Zanimljivi Članci

Sleeper virusi objašnjavaju zašto se HIV razvija među ljudima sporije nego unutar njih

Sleeper virusi objašnjavaju zašto se HIV razvija među ljudima sporije nego unutar njih

HIV - virus iza AIDS-a - najraznolikiji je od svih virusa. Jednom kada zarazi nekoga novom, ona se mutne tako brzo da u samo nekoliko mjeseci može stvoriti milijune genetski različitih vrsta. Ovaj evolucijski napad nadilazi imunološki sustav domaćina i stvara velike probleme za bilo kojeg znanstvenika koji pokušava stvoriti lijek ili cjepivo. Raz

Što je izbrisalo američki Zapad?  Istraživanje troąkoga istrebljenja

Što je izbrisalo američki Zapad? Istraživanje troąkoga istrebljenja

Na prašnjavom tlu je uletjelo olupina močvarne šume koja je iznenada potamnjela i umrla prije 215 milijuna godina. Paul Olsen pokreće pokvarene hrpice bijelog, crvenog i crnog kvarca. "Vidiš kako izgleda ropey?" Pita on. Podigne komad. "Izgleda da je netko uzeo male komadiće užeta, odrezao ih i spustio ih."

Može li se mozak zadržati u Jar?

Može li se mozak zadržati u Jar?

Čovjek s dva mozga, Steve Martin, 1983, Warner Bros / Everett zbirka P: Nije neuobičajeno vidjeti "mozak u staklenku" u televizijskim emisijama ili filmovima, ali je li moguće da mozak tako živim sa modernom tehnologijom? - Vesta Moore, Lincoln, NE O: Moguće je zadržati izolirani mozak živ, ali samo kratko. I iz

Svemirska obala Floride nalazi se u križićima uragana Mateja

Svemirska obala Floride nalazi se u križićima uragana Mateja

Jutros, kad su se ažuriranja uragana Mateja pojavila na mojim lokalnim vijestima, imao sam vrlo sebičan mentalitet. Uragana koja se približava zanimljiva je s vremenskog gledišta, ali nisam bio previše zabrinut. Mentalno sam provjeravao moj popis obitelji i prijatelja; nitko od njih nije izravno naštetan. I ta

Meowvolutionary Psychology

Meowvolutionary Psychology

Znaš li to stvar što mačke rade kad se utrljaju na noge? Jesu li oni evoluirali da to učine? Najudaljeniji odgovor je vjerojatno "tko se brine, to je slatko", ali medvjed sa mnom; bliži pregled ovog divnog ponašanja baca svjetlo na neka ozbiljna pitanja. Na jednoj razini, očito nisu. Mačke

NCBI ROFL: Veliki penisi i evolucijska teorija vaginalnog orgazma.

NCBI ROFL: Veliki penisi i evolucijska teorija vaginalnog orgazma.

Žene koje žele duže penise imaju veću vjerojatnost da imaju vaginalni orgazam (ali ne orgazama klitorisa): implikacije za evolucijsku teoriju vaginalnog orgazma. "Uvod. Istraživanja pokazuju da (i) ženske orgazme tijekom penile-vaginalnog odnosa (PVI) utječu na karakteristike muškog partnera povezane s fitnesom, (ii) veličina penisa je važna za mnoge žene, i (iii) preferira se dulji penis povezana s većom konzistentnošću vaginalne orgazme (potaknuta PVI-om bez istodobnog klitoralnog masturbacije). Ciljevi. Tes