Disney

AI-forskere verden over boykotter universitet: Frygter ‘dræber-robotter’

Via The Guardian - , indsendt af Ufomekaniker

Forskere i kunstig intelligens fra knap 30 lande boykotter et universitet i Sydkorea.

De frygter, at et samarbejde mellem universitetets AI-laboratorium og en militær virksomhed vil føre til ‘dræber-robotter’.

Mere end 50 førende AI-forskere har underskrevet et åbent brev, der opfordrer til at boykotte universitetet.

De protesterer konkret mod samarbejdet mellem Korea Advanced Institute of Science and Technology (KAIST) og militær-producenten Hanwha Systems.

Et af projektets konkrete mål er nemlig at udvikle kunstig intelligens til våben og således gå ind i konkurrencen om udviklingen af selvstyrende våben – deraf frygten for dræber-robotter.

Hanwha Systems er en af Sydkoreas førende våbenproducenter og laver såkaldt ‘cluster munitions’, der er en speciel form for bomber, som forbydes i 120 lande under en international traktat.

Sydkorea, Rusland, Kina og USA har ikke skrevet under på denne traktat.

Tusinder af Google-ansatte protesterede ligeledes for nyligt mod et AI-samarbejde med det amerikanske forsvar på grund af frygten for militær-droner med forbedret kunstig intelligens.





Gå til bund
Gravatar

#1 CBM 9. apr. 2018 10:28

"Sydkorea, Rusland, Kina og USA har ikke skrevet under på denne traktat."

Det overrasker mig sjovt nok ikke.
Det er skuffende, men ikke overraskende.
https://fricomputer.dk https://retrohardwareheaven.blogspot.com/ #ComeToTheDuckSide www.duckduckgo.com, AMD + ASUS = kvalitet! #BringBackTheKeyboard #JackOn SailfishOS rocks! 010000100110100101101110011000010111001001111001
Gravatar

#2 ToFFo 9. apr. 2018 10:57

Robotter med kunstig intelligens ville nok hurtigt kunne få indført, samt opretholde, verdensfred.

To højtstående idioter bliver sure på hinanden, og sender deres soldater i krig mod hinanden. Soldaterne dør, civile dør og der bliver brugt milliarder på at få slået dem ihjel. Når de er færdige bruges der så milliarder på at genopbygge alt det de to idioter har fået smadret, som følge af deres beslutninger.

Hvis de to højtstående idioter kunne træffe beslutninger 100% uden følelsesmæssig påvirkning, ville det slet ikke gå så galt. Men had og hævntørst er bare en del af det at være menneske.
Der findes ikke pingviner på nordpolen. Who gives a shit??
Gravatar

#3 T_A 9. apr. 2018 14:09

ToFFo (2) skrev:


Hvis de to højtstående idioter kunne træffe beslutninger 100% uden følelsesmæssig påvirkning, ville det slet ikke gå så galt. Men had og hævntørst er bare en del af det at være menneske.


De magtgriske personer i verden er ikke klar til at overgive beslutninger til AI.

Men de vil gerne bruge AI til at styre kamprobotter og droner.
Men det bliver krig ikke mindre blodig af, de vil blive brugt mod mennesker præcis som i dag vil det være sjældent at 2 lande med høj tech slogs mod hinanden.
Gravatar

#4 kblood 9. apr. 2018 16:07

Et problem med et militær af AI baserede robotter er at f.ex. i USA, kunne det være der blev indført Martial Law, altså en undtagelses tilstand hvor militæret sådan set får magten.

Almindeligt vis, så hvis militæret blev beordret til at skulle angribe befolkningen i deres eget land ville der nok være en del protest, en del ville sikkert endda nægte at gøre det, og så endda nogen som ville vælge direkte at kæmpe imod det.

Med robotter ville den slags ikke være et problem og det ville blive muligt for meget få personer at have en meget effektiv militær styring af et land, selv på størrelse med USA.

Jeg vil mene at det nok ikke er en stor risiko, men kan da helt klart godt forstå at det er et problem og at man helst vil prøve at få stoppet den slags. Desværre er det nok ikke muligt, for man kan jo højest udsætte dette problem. AIer der er lavet til ikke militære formål ville ret nemt kunne tilpasses til at blive brugt til militære formål. F.ex. når det gælder billed genkendelse, stemme genkendelse og systemer til at bruge den slags input til at lave vurderinger og valg ud fra input. Det er nok systemet på det niveau hvor der skal tages beslutninger af AIen at militæret gerne vil have hjælp af f.eks. Google.

Læste også i dag at man i EU vil lave reguleringer af udvikling af AI. Har ikke lige kigget på hvad det skulle betyde.
Gravatar

#5 CBM 9. apr. 2018 16:18

#4: en person med penge nok vil kunne overtage verden... en bid af gangen
https://fricomputer.dk https://retrohardwareheaven.blogspot.com/ #ComeToTheDuckSide www.duckduckgo.com, AMD + ASUS = kvalitet! #BringBackTheKeyboard #JackOn SailfishOS rocks! 010000100110100101101110011000010111001001111001
Gravatar

#6 arne_v 9. apr. 2018 18:12

#0

Det er jo pæne og noble tanker som ligger bag dette her synspunkt.

Men jeg ved ikke om der er så meget eftertænksomhed.

Forventer man at diverse "slyngelstater" vil holde sig tilbage fra at udvikle den slags våben?

Og hvis ikke dette sker er de velmenende mennesker så klar til at sende deres egne sønner og døtre i krig mod slyngelstaternes AI robotter?

The greater danger for most of us lies not in setting our aim too high and falling short; but in setting our aim too low, and achieving our mark.
Gravatar

#7 knasknaz 9. apr. 2018 18:37

"Kill all humans" er vel netop genvejen til fred på Jorden!?! ;)
Gravatar

#8 atke 9. apr. 2018 19:12

#3 De højtstående idioter kan jo komme i en situation som i "prisoners dilemma", hvor det tydeligvis er smartest at alle er flinke, men man kan alligevel opnå egen fordel ved at være en idiot.

#5 mmmh, og OVERTAGE VERDENSHERREDØMMET, muhahaha.

#6 Den dag må jo komme, hvor en slygelstat bestiller en stor omgang DIY kits fra wish.com, og udsletter menneskeheden med 3D-printede hunter-killers bestående af Raspberry Pi's, Arduino boards, RC servoer, meccano og OpenSource Software.
Gravatar

#9 CBM 10. apr. 2018 05:58

@arne:

"Forventer man at diverse "slyngelstater" vil holde sig tilbage fra at udvikle den slags våben?"

definer slyngelstater?

Sydkorea, Rusland, Kina og USA vil ikke holde sig tilbage
https://fricomputer.dk https://retrohardwareheaven.blogspot.com/ #ComeToTheDuckSide www.duckduckgo.com, AMD + ASUS = kvalitet! #BringBackTheKeyboard #JackOn SailfishOS rocks! 010000100110100101101110011000010111001001111001
Gravatar

#10 Ufomekaniker 10. apr. 2018 07:03

CBM (9) skrev:
@arne:

"Forventer man at diverse "slyngelstater" vil holde sig tilbage fra at udvikle den slags våben?"

definer slyngelstater?

Sydkorea, Rusland, Kina og USA vil ikke holde sig tilbage


Du definerede lige slyngelstaterne.

Men jeg tror at enhver stat med penge nok, vil erhverve sig mindst én af den slags. Hvis ikke selv for at benytte sig af den, så sende den afsted som supporter til ens allierede, som vi allerede gør idag med kampfly.

Hvis DF og Støjberg er bange for at vi har et parallelsamfund, så bare vent og se den her robots knoer :D
Gravatar

#11 CBM 10. apr. 2018 07:10

#10: hehe ja, jeg er helt enig :D

Men jeg er ikke sikker på at Arne anser Sydkorea, Rusland, Kina og USA for slyngelstater, da det er det udtryk USA normalt bruger til at beskrive mellemøstlige lande der har olie reserver :)

https://fricomputer.dk https://retrohardwareheaven.blogspot.com/ #ComeToTheDuckSide www.duckduckgo.com, AMD + ASUS = kvalitet! #BringBackTheKeyboard #JackOn SailfishOS rocks! 010000100110100101101110011000010111001001111001
Gravatar

#12 T_A 10. apr. 2018 19:58

Det store problem med AI styrede robotter i krig er at det fjerner nogle af de få selvregulerende kræfter i samfundet for at stoppe krig.

1) Kommer ens soldater hjem i en kiste vil samfundet kræve mere gennemsigtighed og kræve en god grund til at de bliver sendt i krig.

2) Hvis soldater fortæller om krigsforbrydelser eller andre ulovlige handlinger udført af egne eller allierede tropper.

Hvis man har en AI hær kan man i princippet holde alt dette hemmeligt.
Gravatar

#13 arne_v 11. apr. 2018 00:12

CBM (9) skrev:

definer slyngelstater?


Hærmoriden (10) skrev:

Du definerede lige slyngelstaterne.


Slyngel stater er vel stater hvor der er diktatur, ledelsen udviser en total mangel på hensyn til både egen befolkning og andre landes befolkning, ingen respekt for international ret.

Jeg tænker på lande som Nord Korea (befolkningen sulter mens der udvikles kernevåben) og Syrien (brug af giftgas mod oprørsbyer). Muligvis Iran (Basji brugt til selvmordangreb for at rydde minefelter under krigen mod Irak for mange år siden). Formentligt flere.

Det er lande som vil grine deres røv i laser og den her slags initiativer. De vil synes at det er super at deres fjenders videnskabsfolk nægter at udvikle våben. Og de skal nok få deres egne videnskabsfolk til at udvikle våben.

Det er en grusom verden.



The greater danger for most of us lies not in setting our aim too high and falling short; but in setting our aim too low, and achieving our mark.
Gravatar

#14 arne_v 11. apr. 2018 00:18

CBM (11) skrev:

Men jeg er ikke sikker på at Arne anser Sydkorea, Rusland, Kina og USA for slyngelstater, da det er det udtryk USA normalt bruger til at beskrive mellemøstlige lande der har olie reserver :)


USA bruger idag udtrykket omÆ
Iran
Sudan
North Korea
Cuba
Syria
Venezuela
ifølge https://en.wikipedia.org/wiki/Rogue_state .

Det må være 1 mellemøstligt land med olie, 1 mellemøstligt land uden olie, 1 ikke-mellemøstligt land med olie og 3 ikke-mellemøstlige lande uden olie.

Jeg har iøvrigt svært ved at opfatte Cuba og Venezuela som farlige. Økonomisk katastrofe er slemt for deres egen befolkning, men harmløst for andre lander.




The greater danger for most of us lies not in setting our aim too high and falling short; but in setting our aim too low, and achieving our mark.
Gravatar

#15 kblood 11. apr. 2018 05:50

T_A (12) skrev:
Det store problem med AI styrede robotter i krig er at det fjerner nogle af de få selvregulerende kræfter i samfundet for at stoppe krig.

1) Kommer ens soldater hjem i en kiste vil samfundet kræve mere gennemsigtighed og kræve en god grund til at de bliver sendt i krig.

2) Hvis soldater fortæller om krigsforbrydelser eller andre ulovlige handlinger udført af egne eller allierede tropper.

Hvis man har en AI hær kan man i princippet holde alt dette hemmeligt.

Ja, det var også lidt det jeg prøvede at skrive, at soldater har en samvittighed er en ret vigtig del af når der føres krig. Bliver det til droner og andre robotter alene så vil det ikke være det samme menneskelige element. Det ville blive mere som et computerspil hvor nogle få mennesker tager beslutninger uden at behøves overhovedet at se de egentlige konsekvenser på nogen måde.
Gravatar

#16 arne_v 11. apr. 2018 12:28

#12 og 15

Ja - i de gode eller ihvertfald halvgode lande.

I de slemme lande har befolkningen ingen indflydelse på om man skal i krig eller ej og soldaterne ved fronten har heller ingen valgmuligheder - styret vel typisk have sikkerhedsstyrker bagved fronten med ordrer til at henrette dessertører eller bare dem som trækker sig tilbage.

Prøv og læs:

https://en.wikipedia.org/wiki/Order_No._270

https://en.wikipedia.org/wiki/Order_No._227

Et pår citater:



That commanders and political officers who, during combat tear off their insignia and desert to the rear or surrender to the enemy, be considered malicious deserters whose families are subject to arrest as a family, for violation of an oath and betrayal of their homeland.

All higher commanders and commissars are required to shoot on the spot any such deserters from among command personnel.

...

That every soldier is obliged, regardless of his or her position, to demand that their superiors, if part of their unit is surrounded, to fight to the end, to break through, and if a superior or a unit of the Red Army – instead of organizing resistance to the enemy – prefers to become a prisoner they should be destroyed by all means possible on land and air, and their families deprived of public benefits and assistance.



a) Unconditionally remove from their offices corps and army commanders and commissars who have accepted troop withdrawals from occupied positions without the order of the army command, and route them to the military councils of the fronts for court martial;
b) Form within the limits of each army 3 to 5 well-armed defensive squads (up to 200 persons in each), and put them directly behind unstable divisions and require them in case of panic and scattered withdrawals of elements of the divisions to shoot in place panic-mongers and cowards and thus help the honest soldiers of the division execute their duty to the Motherland;





The greater danger for most of us lies not in setting our aim too high and falling short; but in setting our aim too low, and achieving our mark.
Gravatar

#17 CBM 11. apr. 2018 12:55

@arne:

"I de slemme lande har befolkningen ingen indflydelse på om man skal i krig eller ej"

Ligesom i Danmark...
https://fricomputer.dk https://retrohardwareheaven.blogspot.com/ #ComeToTheDuckSide www.duckduckgo.com, AMD + ASUS = kvalitet! #BringBackTheKeyboard #JackOn SailfishOS rocks! 010000100110100101101110011000010111001001111001
Gravatar

#18 arne_v 11. apr. 2018 13:25

#17

Hmmmm.

Selvom du måske nok synes at processen er lidt inddirekte, så vil jeg postulere at du har mere indflydelse end en borger i Nordkorea.

The greater danger for most of us lies not in setting our aim too high and falling short; but in setting our aim too low, and achieving our mark.
Gravatar

#19 CBM 11. apr. 2018 13:27

@arne: muligvis men Danmark har deltaget i krig uden folkeafstemning og trods tydelig modvilje fra folket
https://fricomputer.dk https://retrohardwareheaven.blogspot.com/ #ComeToTheDuckSide www.duckduckgo.com, AMD + ASUS = kvalitet! #BringBackTheKeyboard #JackOn SailfishOS rocks! 010000100110100101101110011000010111001001111001
Gravatar

#20 arne_v 11. apr. 2018 13:40

#19

Danmarks demokrati bygger på det repræsentative demokrati. Det gør de fleste andre demokratier også. Jeg kan kun komme i tanke om Schweiz , hvor folkeafstemning bruges til normale politiske beslutninger.

Derudover er det nok en mange tilfælde upraktisk med folkeafstemning omkring militære forhold p.g.a. tidsfaktoren.

Og jeg mener da at der var flertal i befolkningen for både Afghanistan, Irak og Libyen (ihvertfald i starten).
The greater danger for most of us lies not in setting our aim too high and falling short; but in setting our aim too low, and achieving our mark.
Gravatar

#21 CBM 11. apr. 2018 15:39

#20:

1) krig er ikke en normal politisk beslutning
2) der var rigelig tid til afstemning men den kom aldrig fordi de vidste at folk ville have stemt nej

https://fricomputer.dk https://retrohardwareheaven.blogspot.com/ #ComeToTheDuckSide www.duckduckgo.com, AMD + ASUS = kvalitet! #BringBackTheKeyboard #JackOn SailfishOS rocks! 010000100110100101101110011000010111001001111001
Gravatar

#22 kblood 11. apr. 2018 16:48

#20 Det er også lidt det som er problemet. Det er egentlig et noget tyndt grundlag for at kalde det et demokrati. Når det gælder krig ville jeg også helt klart mene at der burde være en folkeafstemning. At dem der så sad i regeringen også senere kunne vælge at de ville stoppe den undersøgelse der var i gang som undersøgte om der blev handlet rigtigt i den regering der valgte at vi skulle med i den krig... det viser da lidt at der er nogle ret voldsomme huller i hvordan magtstrukturen er i Danmark.

Folketinget kan også stemme om f.eks. "skal ministerene have pension tidligere? Skal de have mere i løn?" og sjovt nok stemmer de altid ja når der er den slags afstemninger... hvordan dælen kan det være op til dem selv hvad deres egen pension og løn skal være? Hvordan kan det være en ikke korrupt handling at kunne vælge at stoppe en undersøgelse af ens eget parti?

Så jeg ser det som lidt ligegyldigt om dette gælder USA eller Saudi Arabien. At udskyde forskning i militær AI så længe som muligt er vigtig. Hvis der skal være forskning skulle det være forskning i hvordan man kunne stoppe AI styret militær... hvilket nok også vil føre til nogle generelle "hvordan forstyrre man AIer i det de laver", for som jeg skrev tidligere, så er det et spørgsmål om tid for der uden for militæret vil være udviklet de AI teknologier, algoritmer og metoder der skal til for at det ville være meget brugbart inde for militæret... der er vi sådan set allerede. Der sker en enorm udvikling indenfor ansigts genkendelse, almen genkendelse af ting med et kamera, stemme genkendelse, stemme efterligning, måder at bevæge sig på og hvad der ellers kunne være relevant.
Gravatar

#23 arne_v 12. apr. 2018 00:16

CBM (21) skrev:

1) krig er ikke en normal politisk beslutning


Den har ihvertfald nogle vidtgående konsekvenser.

Men det er ikke en ændring af grundloven eller afgivelse af suverænitet som normalt er det som kræver en folkeafstemning.

CBM (21) skrev:

2) der var rigelig tid til afstemning men den kom aldrig fordi de vidste at folk ville have stemt nej


Er du sikker på at der altid har være rigelig tid?

Danmarks deltagelse i Libyen aktionen 2011:

15. marts - Libanon foreslår no-fly zone i FN
17. marts - FN's sikkerhedsråd vedtager med 10 for, 0 imod, 5 undlader
18. marts - Danmark beslutter sig for at sende fly
19. marts - franske fly går som de første i aktion & danske fly ankommer til Sicilien
23. marts - danske fly går i aktion
31. marts - NATO overtager kontrollen med operationen
20. oktober - sidste angreb
2. november - de danske fly er hjemme igen

Jeg kan ikke rigtgt se en folkeafstemning i den tidslinie som tillader en tilsvarende indsats.

Eller hvad med 8. december 1941. Skulle FDR have udskrevet en folkeafstemning i.s.f. at erklære krig?

The greater danger for most of us lies not in setting our aim too high and falling short; but in setting our aim too low, and achieving our mark.
Gravatar

#24 arne_v 12. apr. 2018 00:21

#23

Og politikerne ville nok have forventet at få ja hvis der havde været en folkeafstemning.

Meningsmålingerne var ret meget for:

https://www.b.dk/globalt/massiv-opbakning-til-liby...

The greater danger for most of us lies not in setting our aim too high and falling short; but in setting our aim too low, and achieving our mark.
Gravatar

#25 CBM 12. apr. 2018 03:25

arne_v (24) skrev:
#23

Og politikerne ville nok have forventet at få ja hvis der havde været en folkeafstemning.

Meningsmålingerne var ret meget for:

https://www.b.dk/globalt/massiv-opbakning-til-liby...



Hvad med irak?

https://www.b.dk/national/danskerne-er-stadig-mods...

https://politiken.dk/indland/art4901793/Flertal-af...

https://politiken.dk/indland/art5674151/Danskerne-...
https://fricomputer.dk https://retrohardwareheaven.blogspot.com/ #ComeToTheDuckSide www.duckduckgo.com, AMD + ASUS = kvalitet! #BringBackTheKeyboard #JackOn SailfishOS rocks! 010000100110100101101110011000010111001001111001
Gravatar

#26 kblood 12. apr. 2018 18:43

Det var nu godt nok også mest Irak jeg var inde på. Der har ikke været nogen undersøgelse af om det var den korrekte beslutning og om det blev gjort rigtigt da man gik i krig med Libyen.
Gravatar

#27 arne_v 13. apr. 2018 01:35

#25

Irak krigen var der ikke klar opbakning til.

marts 2003 - gallup 44% for 50% imod
juli 2003 - vilstrup 47% for 45% imod
marts 2004 - vilstrup 43% imod 46% imod

En folkeafstemning kunne nemt havde sagt nej.

Jeg synes dog at det er at stramme den lidt at konludere "de vidste at folk ville have stemt nej" udfra disse tal.

Jeg tror at der er mange danskere som ikke fandt det specielt logisk hvorfor man lige netop skulle starte krig i 2003 og ikke før og ikke senere. Irak have konstant kontroverser med FN og USA igennem en lang årrække. Men det virkede noget tilfældigt at det det lige netop skulle være 2003, hvis man kigger på det forløb. Og det giver jo anledning til en mistanke om, at der var andre forhold end forløbet med Irak der spillede ind på beslutningen.
The greater danger for most of us lies not in setting our aim too high and falling short; but in setting our aim too low, and achieving our mark.
Gravatar

#28 arne_v 13. apr. 2018 01:44

kblood (22) skrev:

At dem der så sad i regeringen også senere kunne vælge at de ville stoppe den undersøgelse der var i gang som undersøgte om der blev handlet rigtigt i den regering der valgte at vi skulle med i den krig... det viser da lidt at der er nogle ret voldsomme huller i hvordan magtstrukturen er i Danmark.


kblood (26) skrev:

Det var nu godt nok også mest Irak jeg var inde på. Der har ikke været nogen undersøgelse af om det var den korrekte beslutning


Sagen med lukning af Irak kommisionen viser ganske rigtigt et hul i systemet.

Det giver ikke meget mening at et flertal i folketinget kan stoppe en undersøgelse af dem selv.

Og slet ikke når der åbenlyst var sket fejl jævnfør AFR's "Saddam Hussein har masseødelæggelsesvåben, det er ikke noget vi tror, det er noget vi ved" og Frank Grevils afsløringer.

Dre burde nok være en regel om at 25% af folketingets medlemmer kan kræve en kommissionsundersøgelse.
The greater danger for most of us lies not in setting our aim too high and falling short; but in setting our aim too low, and achieving our mark.
Gravatar

#29 CBM 13. apr. 2018 03:56

@arne: et godt eksempel på et behov for et lov etisk råd som jeg nævnte i tråden til nyheden omkring et data etisk råd.

https://fricomputer.dk https://retrohardwareheaven.blogspot.com/ #ComeToTheDuckSide www.duckduckgo.com, AMD + ASUS = kvalitet! #BringBackTheKeyboard #JackOn SailfishOS rocks! 010000100110100101101110011000010111001001111001
Gravatar

#30 arne_v 13. apr. 2018 15:34

#29

Desværre er etiske råd/nævn/kommissioner ofte aldeles tandløse.
The greater danger for most of us lies not in setting our aim too high and falling short; but in setting our aim too low, and achieving our mark.
Gå til top

Opret dig som bruger i dag

Det er gratis, og du binder dig ikke til noget.

Når du er oprettet som bruger, får du adgang til en lang række af sidens andre muligheder, såsom at udforme siden efter eget ønske og deltage i diskussionerne.

Opret Bruger Login