iPon Hírek

Nemzetközi összefogást sürgetnek a gyilkos robotok ellen

Dátum | 2012. 11. 21.
Szerző | Jools
Csoport | EGYÉB

A Human Rights Watch emberi jogi szervezet szerint a kormányoknak megelőző célzattal minél előbb be kellene tiltaniuk a teljesen automatizált fegyverrendszerek fejlesztését, gyártását és használatát, mivel ezek óriási veszélyt jelenthetnek a civilikre fegyveres konfliktusok idején. A gyilkos robotokként is emlegetett eljövendő fegyverek a jelenlegi elképzelések szerint emberi közbeavatkozás nélkül, önállóan választanak majd célpontot és döntenek a tüzelés mellett.

A szervezet 50 oldalas jelentésében részletezi, hogy milyen veszélyekkel járhat, ha mindenféle emberi moralitást nélkülöző, önműködő fegyverek jelennek meg egyes konfliktusokban. Kiemelten felhívják a figyelmet arra is, hogy ilyen rendszerek mellett civil áldozatok esetén komoly problémát jelentene megkeresni, hogy jogilag ki a felelős az ártatlanok haláláért, a felelősségre vonás elmaradása pedig aláásná a jogrendet.

Steve Goose, a Human Rights Watch fegyverügyi részlegének igazgatója szerint sosem lenne szabad gépekre bízni annak eldöntését, hogy ki marad életben és ki hal meg a harcmezőn. A szakértő szerint a robotok emberi irányításának megtartása létfontosságú az ártatlan áldozatok számának minimalizálása érdekében.

A Losing Humanity: The Case Against Killer Robots, magyarul Az ember(i)ség elvesztése: a gyilkos robotok ellen című összefoglaló az első olyan nagyobb publikáció a teljesen automata fegyverrendszerek témájában, amelyet egy civil szervezet adott ki, és amely behatóan mérlegeli az ilyen fegyverek használatának jogi, technológiai és etikai következményeit. A tanulmányt a Human Rigths Watch és a Harvard jogi karán működő International Human Rights Clinic közösen adta ki.

A két szervezet szerint egy olyan nemzetközi megállapodás lehetne a megoldás, amely teljes mértékben megtiltaná az automatizált fegyverek fejlesztését, gyártását és használatát. Az egyes kormányokat külön is felkérték arra, hogy saját hatáskörükben intézkedjenek arról, hogy ezek a rendszerek soha ne születhessenek meg.

Teljesen automatizált fegyverrendszerek egyelőre nincsenek, és a nagyhatalmak még nem döntöttek arról, hogy belekezdenek-e ezek fejlesztésébe. A technológia előfutárai azonban már nagyon is léteznek, és a trendek egyértelműen azt mutatják, hogy a gépek szép lassan egyre nagyobb önállóságra tesznek szert a harcmezőn. Az Egyesült Államok, Kína, Németország, Izrael, Dél-Korea, Oroszország és az Egyesült Királyság fegyverfejlesztési programjai is ezt az irányt követik. A szakértők szerint 20‒30 éven belül technológiailag megvalósíthatók lehetnek a teljesen automatizált fegyverrendszerek, másoknak az a véleménye, hogy erre jóval hamarabb is sor kerülhet.

A britek Taranis nevű, pilóta nélküli vadászgépe
A Human Rigths Watch szerint még azelőtt kellene megállítani a gyilkos robotok fejlesztését, hogy ezek felbukkannának a nemzetek arzenáljaiban. Minél több pénzt és energiát ölnek ugyanis a fejlesztésbe, annál nehezebb lesz rávenni a tulajdonosokat arra, hogy lemondjanak ezek használatáról.

Ahogy a két jogi szervezet összefoglalta, a gyilkos robotok nem lesznek képesek figyelembe venni az egyetemes emberi jogokat, nem tudnak majd különbséget tenni katonák és civilek közt, és nem fogják tudni emberi etikai elvek alapján mérlegelni, hogy az esetlegesen elérhető harcászati előny megéri-e a vele járó polgári áldozatok számát. A robotok egyben aláásnák mindazon erkölcsi elveket, amelyek az ártatlan áldozatok megölésével kapcsolatosan egyetemesen elfogadottak. A gépek nem tudnak együttérzést vagy irgalmat tanúsítani, és az irányítás átvételével bármikor saját embereik ellen fordíthatók. Míg az emberi osztagok gépekkel való helyettesítése kétségkívül segít megóvni a katonák életét, egyúttal túlságosan könnyűvé is teszi a háborúzást, és félő, hogy a polgári áldozatok száma nem csökkenni, hanem növekedni fog.

A felelősség kérdése sem tisztázott. A parancsnok, a programozó vagy a gyártó törvény elé citálása a robot tetteiért egészen átformálná mindazt, amit ma a joggal kapcsolatban helyesnek tartunk. És bár a nagyhatalmak többsége fenntartja, hogy legalábbis a közeli jövőben még mindenképp emberek fogják felülvizsgálni a robotok harctéri döntéseit, kérdéses, hogy meddig és mennyi hatalommal rendelkeznek majd ezek az emberi irányítók. Arról pedig senki sem nyilatkozik, hogy a távolabbi jövőben mi várható.

Goose szerint mindenesetre csírájában kellene elfojtani a dolgot, még mielőtt a gyilkos robotok a tudományos-fantasztikus művek talajáról átlépnének a valóságba.

Egy dél-koreai őrrobot, az SGR‒1

Új hozzászólás írásához előbb jelentkezz be!

Eddigi hozzászólások

43. MuldR
2012.11.21. 14:39
Eljenek a Cylonok! En veluk vagyok.
 
Válasz írásához előbb jelentkezz be!
42. Benny
2012.11.21. 14:49
Gondoljunk csak a Skynetre. Szerencsére itthon ettől nem kell tartani.
 
Válasz írásához előbb jelentkezz be!
41. gezu1025
2012.11.21. 14:50
Több ok miatt is jó lenne végre jogilag szabályozni a robotikát. Túl sok a kibúvó. Ugyanakkor nem hiszem, hogy túlzottan akadályozni kéne a robotok hadi alkalmazását, lehetnek olyan helyzetek amikor MINDENKI örülhet a létezésüknek.
De tényleg ideje lenne szabályozni 1-2 dolgot. Bár kétlem, hogy ez a közeljövőben megvalósulhat.
 
Válasz írásához előbb jelentkezz be!
40. Smooth44
2012.11.21. 14:57
Igazából robotokra se lenne szükség.
Minek ebbe ennyi pénzt ölni. Hülyeség akár embereket, akár gépeket feláldozni.
Az amerikai hadsereg számára jött létre a net, ideje, hogy használják is.
Fel kell fogadni pro gamereket, majd valami létező játékban, vagy direkt erre a célra fejlesztett szimulátorban lehet fitoktatni az erőket és lemészárolni (virtuálisan) az ellenfelet D
A végeredmény nem ugyanaz?

Így a sok kockának is lenne melója, akár közvetíthetnék is ezeket a "háborúkat" TV-n, mindenki jól járna

Persze akkor ki oldaná meg a túlnépesedés gondját?
 
Válasz írásához előbb jelentkezz be!
39. Asagrim
2012.11.21. 15:01
Nem értem mire föl van ez a nagy felhajtás. Amíg nincs AI, tehát autonóm döntéshozatali képessége egy gépnek, addig pontosan azt csinálják amire az ember programozta őket. Se többet, se kevesebbet, pont azt!
 
Válasz írásához előbb jelentkezz be!
38. petXYZW
2012.11.21. 15:14
"Nem értem mire föl van ez a nagy felhajtás. Amíg nincs AI, tehát autonóm döntéshozatali képessége egy gépnek, addig pontosan azt csinálják amire az ember programozta őket. Se többet, se kevesebbet, pont azt!"

Ezt kifejtenéd!? Ez így nem teljesen igaz, illetve részben igaz, de csak annyira mint a lenti idézetben ez le van írva.

"DEREK PARTRIDGE, Artificial Intelligence and Software Engineering

There is a popular cliché ... which says that you cannot get out of computers any more than you put in. Other versions are that computers only do exactly what you tell them to, and that therefore computers are never creative. The cliché is true only in the crashingly trivial sense, the same sense in which Shakespeare never wrote anything except what his first schoolteacher taught him to write--words."
 
Válasz írásához előbb jelentkezz be!
37. vivanto
2012.11.21. 15:26
@petXYZW
Asagrim valóban pontatlanul fogalmazott, de ettől még fölösleges tojnunk bármiféle programozott intelligens rendszertől. A mai tudomány állása szerint ugyan lehetséges tanulásra képes programokat készíteni, nem is akármilyent, azonban a tanulás természete minden esetben kizárólag az elvárt környezeten belülre korlátozódik.

Pl egy stratégiai játékban már lehet olyan prediktív viselkedést tervezni, ami a lejátszott menetek arányában majdhogynem verhetetlenné válik. Ugyanakkor nem fog hirtelen csúnya szavakat írni a közösbe.
 
Válasz írásához előbb jelentkezz be!
36. bandras022...
2012.11.21. 15:26
Hasznos holmik! A segítségükkel végre csend lenne Irakban,Afganisztánban,Gázában stb.
Egy győztes háború alapfeltétele a civil lakosság megsemmisítése,így nem lenne aki dolgozzon az üzemekben,arasson a földeken,működtesse az infrastruktúrát! Ezek nélkül egy hadsereg magától összeomlik! Na és persze nem lennének partizánok ami szintén nagyon fontos!
Gondoljuk végig: Ha például az USA ilyen tutyi-mutyi módon harcolt volna a németek és a japánok ellen mint ma Irakban vagy Afganisztánban teszi,akkor még vagy ma is tartana a háború,vagy már rég elvesztették volna!
 
Válasz írásához előbb jelentkezz be!
35. Smooth44
2012.11.21. 15:28
@Asagrim: Nem kell AI ahhoz, hogy kárt okozzon.
Csak azt csinálja, amire utasítják.
Kiraksz egy őrdroidot a város szélére, megadod neki, hogy lőjön mindenre, ami mozog. Nem fog elkezdeni agyalni, hogy akkor most kire is lőjön, csak simán öl.
Vagy légy okosabb, és add meg neki, hogy csak fegyveresre tüzeljen. Megint csak nem fog mérlegelni, felülbírálni, csak simán lepuffant gerillákat, vagy játékfegyverrel rohangáló gyerekeket, miközben a gitártokba rejtett fegyverrel besétál az enemy.
Elég egy apró rövidzár vagy más hiba, és a város szélén álló fegyvergyár helyett egy iskolát vagy kórházat fog bombázni a pilóta nélküli gép.
Persze, emberi mulasztás is okozott már nagyobb katasztrófákat... de azt azért nem mondhatjuk, hogy nem jogos az aggodalom

@Bandras0226: elég egyszerű ötletet vetettél fel Kimondottan humánus. Ehhez viszont megint csak nem kellenek drága játékszerek, csak 4-5 jól irányzott hidrogénbomba, meg talán némi napalm a végére.
Irakban meg nem háború van, csak alibi konfliktus... nehezen vethető össze a 2. VH-val.
 
Válasz írásához előbb jelentkezz be!
34. petXYZW vivan...
2012.11.21. 15:38
"Ugyanakkor nem fog hirtelen csúnya szavakat írni a közösbe."


Mindennel egyetértek amit írtál, csak a "harci robotok" esetében - gondolom - az "elvárt környezet" nem egészen ugyanaz mint a stratégiai játékban.
 
Válasz írásához előbb jelentkezz be!
33. vivanto
2012.11.21. 15:43
Persze, de speciel a harci robotoknál nincs is igazán szükség megerősítéses tanulásra ami ezt az önfejlesztő viselkedést kiváltaná. Casparovot "okosabb" gép verte el, mint ami ezeket vasakat hajtja.
 
Válasz írásához előbb jelentkezz be!
32. CyberPunk6...
2012.11.21. 16:00
Smooth44 - Kevesebb sci-fit kéne nézned és többet olvasni a tudományról.

A gép sokkal jobb azonosításra képes, mint te.
Nos ha választanom kéne, hogy egy élő ember döntsön arról, hogy mobilt vagy fegyvert rántok vagy egy gép, nem is kérdés, hogy a gépet választanám.

A gép a gitárban is azonosítani tudja a fegyvert, a gép azt is el tudja dönteni, hogy a gyerek játékfegyvert, vagy valódit tart a kezében.

A gép sokkal gyorsabban és sokkal biztosabb döntéseket képes hozni.
 
Válasz írásához előbb jelentkezz be!
31. CyberPunk6...
2012.11.21. 16:03
Arról nem is beszélve, hogy a gép mennyivel pontosabban tud célozni, hogy akár egy hatalmas tömegből is másodpercek alatt kiszúr egy adott embert és pontosan biztosan képes őt eltalálni.
tipikusan jó példa arra amikor túszokat használnak pajzsnak. Ha mondjuk több támadó van képes arra, hogy mindet egyszerre lője ki, és így mindenkit megóvjon.

A gépek nyugodtan lehetnek automatizáltak, a kérdéses pontot az jelenti, hogy ki irányítja őket. De azt már most sem tudjuk befolyásolni.
Itt csak az kérdés, hogy ha valaki nem lépni meg más pedig igen, akkor aki lemarad az halálra van*e ítélve.

Gondolom senki nem örülne, ha az arab térségben valaki ezt megtenné, miközben máshol meg a tilalom miatt nem....
 
Válasz írásához előbb jelentkezz be!
30. zord01
2012.11.21. 16:07
Kivételesen gyáva, tetüláda, aki robotot küld ember ellen harcolni. Én már az ember vezette predatorokat is undorítónak találom, de egy full automata cucc még inkább gerinctelen megoldás.

Ha xy helyzet háborús konfliktust generál, az feltételezi, hogy a 2 félnek elég fontos eszméi vannak. Ezeket az eszméket képesnek kell lenniük emberi életek árán is megóvni, különben a háború csak statisztikává válik, mint a marhapárizsi eladási adatok.
Magyarán ha valakit le akarsz bombázni, legalább annyi gerinced, és bátorságod legyen, hogy embert küldesz oda, vállalva a kockázatot, hogy elveszíthetsz egy katonát. Ez a felelősség, ez az teszi a dolgokat "véresen komollyá". Minden más csak púder.

Az meg külön vicc lesz, mikor az egyik tábor egymillió katonát veszít, a másik meg 10 robotot...
Hová lesz így a világ. Ha ezt nem vagyunk képesek felfogni, meg is érdemelnénk, hogy gépek irtsanak ki minket...
 
Válasz írásához előbb jelentkezz be!
29. NimKorko
2012.11.21. 16:10
bandras0226: Gázáról csak annyit, hogy Izrael most vallotta be, hogy ők kezdeményeztek és előre kitervelt támadásról volt szó. Nem Gáza provokált. Tehát ott inkább a folyamatosan a környező országokat szapuló államot kéne megrendszabályozni.
 
Válasz írásához előbb jelentkezz be!
28. petXYZW zord0...
2012.11.21. 16:18
"Kivételesen gyáva, tetüláda, aki robotot küld ember ellen harcolni. Én már az ember vezette predatorokat is undorítónak találom, de egy full automata cucc még inkább gerinctelen megoldás."


Ki kell ábrándítsalak, már nagyon régen is, gyáván, ember által irányított nyílvesszőket lődöztek, egymásra. Igaz az irányítás kimerült a célzásban.
 
Válasz írásához előbb jelentkezz be!
27. Avisto zord0...
2012.11.21. 16:36
Azt azért nem gondolod komolyan hogy akik a döntéseket hozzák és embereket küldenek harcolni, azokat egy kicsit is érdekli hogy hányan halnak meg. Legfeljebb a negatív médiavisszhang érdekli őket (vagy még az se)
 
Válasz írásához előbb jelentkezz be!
26. vivanto
2012.11.21. 17:03
A háború sosem a tisztességről vagy bátorságról szólt (igen, ezeknek vannak jeles képviselői minden nemzet katonái között, de a katona még mindig egy senki). Egyszerűen a győzelemről és pénzről szólt és ezentúl is így lesz.
 
Válasz írásához előbb jelentkezz be!
25. MuldR
2012.11.21. 17:09
Hany amerikai katonat iteltek el iraki, japan es koreai lanyok megeroszakolasaert? Na robot ilyet nem tenne. Ennyit az erkolcsi es moralis kerdesekrol.
 
Válasz írásához előbb jelentkezz be!
24. zord01
2012.11.21. 17:59
Nah jó, tisztázzunk 2 dolgot. Az egyik, hogy mi a kölönbség egy nyíl, és egy robot között. Az, hogy a nyilat egy ember irányítja, annak minden etikájával, moráljával, míg erre egy robot sosem lesz képes. Egy vadászpilóta simán megtagadhatja, hogy lebombázzon egy iskolát, amiben "ellenséges arabok" vannak (más kérdés, hogy valszeg hadbíróság lesz a vége), míg egy robot nem fogja mérlegelni, hogy 10 ellenséges katona miatt kinyír 200 gyereket.

Nem mellesleg, a nyilat kilövő ősembert le lehetett lőni egy másik nyíllal, mint ahogy egy repülőt is le lehet lőni megfelelő légelhárító eszközzel. Ám semmit nem ér lelőni egy repülőt, ha nem ül benne senki, és holnap 10 másik predator jön a helyére, amit a háborús zónától 5000 kilóméterről egy kényelmes irodaházból vezet 2 öltönyös ürge. Még rosszabb, ha már ez a két öltönyös fazon sincs a képben.

A másik a felelősség. Ma x ország hadat akar üzenni y-nak. Elkezdik mérlegelni, hogy bazzeg, könnyen lehet, hogy 50.000 katonát kell kivezényelnünk 100 tankot, 100 repülőt, és bizony könnyen lehet, hogy a halottak száma 10 ezres nagyságrendű lesz. Politikai botrány. Lehet inkább elintézik diplomáciai úton, és életek 10 vagy 100 ezreit mentik meg. Mindkét oldalon.

Ha úgy gondolkoznának, hogy a saját térfelükön nem lesz háború, akkor a logika így nézne ki.

-Te Johny hágy robotot veszíthetünk?
-Hát úgy ezret, ezer ötszázat.
-Oszt van rá kapacitás?
-Hát persze, jövőhéten úgyis gyártanak még pár százat a gyárban.
-Nah akkor nyomjuk a háborút, nehogy már rajtunk maradjon a sok drone...
 
Válasz írásához előbb jelentkezz be!
23. CyberPunk6... zord0...
2012.11.21. 18:04
Már ma gyakorlatilag így működik a hadipar. Háborúznak, mert segíti a gazdaságot, fegyvergyártás, munkahely, olaj... ect.

Már réges rég erről szól a dolog. Ez nem a jövő, hanem már a múlt és jelen.

Ha az egyik pilóta megtagadja a parancsot, akkor megcsinálja a másik. Amúgy az iskola bombázásával sem a katona lelkiismeretével kell elszámolni, hanem a parancsot kiadó szervnek, ezt ma is így kell megtenni, tehát ott dől el a dolog.
A döntésnek pedig nem is ezt a részét adná át a robotnak, hanem csak az aktuális helyzet értékelését, nem a robot találná ki, hogy kivel kezd háborút. A döntésnek pedig az a fele ilyenkor is megmaradna az embernél.
 
Válasz írásához előbb jelentkezz be!
22. Terror
2012.11.21. 19:44
"Az, hogy a nyilat egy ember irányítja, annak minden etikájával, moráljával"

Magyarul akkor elismered, hogy akár egy robot is lehetne a helyén.

MuldR - bingo, és ugyanez áll az orosz/román/cseh/szerb kontra magyarok témára is.
 
Válasz írásához előbb jelentkezz be!
21. zord01
2012.11.21. 20:20
"Az, hogy a nyilat egy ember irányítja, annak minden etikájával, moráljával"
Magyarul akkor elismered, hogy akár egy robot is lehetne a helyén.

Nem. Elbeszélünk egymás mellett: ebben a szituban ezét nem jó a te példád, mert itt két ember "küzd" egymással, és az egyiket ugyan úgy meg lehet ölni, mint a másikat.
Viszont ha az ember helyett robot áll a nyíl végén, akkor azt hiába pusztítod el, nem győztél, hisz nem pusztítottad el azt, aki az életedre tör. Pár perc, óra, nap múlva jön új robot.

Kicsit olyan ez, mint hogy ha 1-5 dobsz, lelőnek, ha hatost dobsz újra dobhatsz.


Egyébiránt itt sok jó példa elhangzott, hogy mikor, milyen esetekben célszerű robotokat alkalmazni, pl terroristák ellen, blabla...
Ezekkel egyet is tudok érteni, vannak olyan területek, ahol ésszerű alkalmazni őket.
De szerintem a háborút nem szabad olyan szinten ledegradálni, hogy csak azt keljen mérlegelni, kinek van több robotja (nyersanyaga). Véráldozat nélkül hobbivá válna háborúzni annak az országnak, aki rendelkezik ilyen robot-technológiával.

Magyarán ezek az eszközök afféle katalizátorai a háborúknak, sokkal inkább, mint a konvencionális fegyverek, ahol a legtöbb esetben a fegyver mindkét végén 1-1 hús vér ember áll.
 
Válasz írásához előbb jelentkezz be!
20. petXYZW
2012.11.21. 20:23
http://hu.wikipedia.org/wiki/Hirosima

"1940-ben, a második világháború elején 350 000 lakosa volt. 1945. augusztus 6-án délelőtt 8 óra 15 perckor az Amerikai Egyesült Államok légierejének egy B–29-ese, az Enola Gay, amelynek Paul W. Tibbets ezredes volt a parancsnoka (a gépet Tibbets anyjáról neveztek el) atombombát dobott a településre."
"A vakító villanással és gombafelhővel kísért atombomba-robbanás a halottak és a romok városává tette Hirosimát. Az atomtámadás 140 ezer ember életét követelte, 70 ezer ember azonnal meghalt, a többiek pedig később, a sugárzás okozta betegségek következtében, amely ma is érezteti hatását."

zord01
Én nem látok morált, etikát, meg ártatlanok elpusztítását megtagadó pilótát...meg semmi hasonlót amiről írsz.
 
Válasz írásához előbb jelentkezz be!
19. Terror
2012.11.21. 20:27
Ráadásul a robot elpusztítja a kijelölt katonai objektumot, és nem kezd mondjuk etnikai jellegű tisztogatásba, mert ha akarna, sem tudna.
 
Válasz írásához előbb jelentkezz be!
18. zord01
2012.11.21. 20:56
Viszont ha egy robotot majd etnikai tisztogatásra utasítanak, könnyen lehet, hogy sokkal hatékonyabban fog civileket gyilkolni, mint az a katona, aki sajnálatból nem lő le egy 3 éves kislányt, csak azért mert afgán, vagy szerb, vagy hutu...
A "roboCS" lelövi...

Amúgy meg ha ti arra vágytok, hogy ilyenek irtsák az emberiséget, hát gratula... meg is érdemelnétek...
 
Válasz írásához előbb jelentkezz be!
17. zord01
2012.11.21. 20:57
Hogy még jobban értsétek. Robotokkal harcolni, olyan mint GOD MODE-ban játszani. Csalás, és értelmét veszíti az egész...
 
Válasz írásához előbb jelentkezz be!
16. Cannapeace
2012.11.21. 23:40
Az! Majd a zsaruk lesznek robotok nem a katonák(előnye gyorsabban kattan a zár)! Hogy ki irányítja na hát az a Hacker amelyek feltörte a tűzfalat és épp rettegésben tartja a világot! Robotok a civilek ellen? Talán jobb lenne inkább börtön töltelékeket össze szedni országonként és velük vívatni a csatákat ha már fizetem az adót lássam értelmét hogy ezekre költi az állam a nehezen megkeresett pénzemet! A robotok meg háztartásban és munkáikban segítsék az embereket ne pedig értelmetlen anyag pazarlás és a romhalmaz eltakarítás a csatamezőn majd a Romákkal!
 
Válasz írásához előbb jelentkezz be!
15. carraroxt
2012.11.22. 00:35
Teljesen egyetértek a cikkben foglaltakkal!
 
Válasz írásához előbb jelentkezz be!
14. carraroxt
2012.11.22. 01:43
zord01 Morális és etikai szempontból teljesen egyetértek veled. Sajnos azonban a háborúk nem az etikáról, és a hősiességről szólnak, soha nem is volt így (talán a kis törzsi közösségek csetepatéit leszámítva). A háborúk valódi arcát mindig a gazdasági, politikai ambíciók, a gyűlöletkeltés, a népirtás, az általános erkölcs és emberi jogok két lábbal való tiprása (ennek legitimizálására szolgál a faji vagy vallási alapú gyűlöletkeltés) határozza meg.
Kifejtetted, és igazat is adok benne, hogy egy háború megindulását alapvetően mindig a leendő agresszor helyzetfelmérése előzi meg. Azaz mérlegre kerülnek a lehetséges nyeremények a várható veszteségek tükrében (ilyenkor persze extra előny, ha minden áldozatot a valódi agresszor számára mellékes 3. feleknek kell meghozniuk, ez a legtutibb fejtája a háborúnak).
Amennyiben az egyensúly drasztikusan eltolódik, márpedig emberáldozatok veszélye híján, tényleg csak előnyei lehetnek egy kezdeményezett háborúnak (élénkülő gazdaság, szilárduló belpolitikai stabilitás, és persze a győzelem jutalmai), akkor félő, hogy a végső morális korlátok is leomlanak. Gondoljunk csak bele, mennyi Amerikai polgárt érdekelt volna pl. az Iraki háború, ha nem érkeztek volna hébe-hóba Amerikai áldozatokról is hírek. Mert szerintem mind nagyívből leszarta volna, és csendesen tudomásul veszik, hogy az olcsó olajnak (jólétnek), bizony a döglött sivatagi-nigger az ára. És amíg elég messze zajlik az egész, hát kit érdekel?
Az a probléma ezzel a fajta amorális gondolkozással, hogy oda vezet ami most Afrika polgárháborús országaiban zajlik, azaz, hogy akinek van bármilyen fegyveres előnye az azonnal a civil lakosság ellen fordul, hogy ellopja a javaikat. A helyek és a nevek változnak, de ezt leszámítva az események mindig arról szólnak, hogy (FEGYVERES) milíciák, irtanak, zsarolnak, tartanak rettegésben (FEGYVERTELEN) civileket.
Nem hiszem, hogy bárki is ilyen világban szeretne élni.

De vannak más érvek is az önmérlegelő robotfegyverek ellen pl.:
- üzemzavar (túlmelegedett egy IC, vagy elütöttünk egy karaktert a programkódban 50 halott, igazán bocsi! És ha tömeges éles bevetésen derül ki?)
- váratlan szituációk amik valódi mérlegelést igényelnének (mert ugye nem mindenhatóak a programozók sem, hogy előre láthatnának mindent, pláne egy zavaros háborús környezetben)
- szándékos visszaélések/túlkapások, tudatában, hogy a felelősség könnyen elkenhető,
- hacker-támadások (akárki részéről)
- a reguláris hadseregek elgyengülése, és kiszolgáltatottá válása (a saját is).
- a rendszer sebezhetőségeinek kijátszása pl. hamis azonosítókkal stb...
És laikusként biztosan még így is csak a felszínt kapargatom.

Reménykedem a döntéshozók ésszerűségében, hiszen az atomfegyverek kapcsán már bizonyították, hogy van bennük józan belátás, ha igazán szükséges. Na jó, itt most nem Iránra meg Észak Koreára gondolok, hanem a leszerelési programokra.
 
Válasz írásához előbb jelentkezz be!
13. freyr
2012.11.22. 03:54
Az agyam eldobom! Azt hittem a cím és a bevezető alapján, hogy ez valami vicc lesz, de szomorúan olvastam, hogy nem az.
Addig még nincs gond, amíg emberek rettegnek olyan vélt veszélyektől, amik hátteréről semmit sem tudnak, de ha már szervezetbe tömörülnek és másokat próbálnak "megtéríteni"... na ott fel kéne őket jelenteni pánikkeltés kísérlete miatt.
Megjegyzem teljesen automatizált fegyverrendszereket, amik beavatkozás nélkül képesek célpontot választani és tüzet nyitni, már régóta lehet építeni. De ez nem keverendő az emberek elpusztítását célul kitűző mesterséges intelligenciával, ami saját gyárakat működtet, ahol az emberiség kiirtására fejleszt gépeket.
Amúgy tök jó, hogy megmondják, hogy a robotok nem lennének képesek helyzetfelismerésre, mérlegelésre és a kimenetelek kiszámítására. Nagyobb hatékonysággal és pontossággal állapítanák meg az itt vizionált fegyverek a célpontot, mint bármilyen képzett katona, ráadásul az áldozatok számát is minimalizálni tudnák az "intelligens" fegyverek, ha már mindenáron irtani akarjuk egymást.

petXYZW: Van itt némi ferdítés. Az egy teljesen helytálló kijelentés, hogy egy gép csak és kizárólag a programját képes követni. Az más kérdés, hogy egy program lehet annyira bonyolult, hogy a programozók akaratlanul képesek olyan hibákat elkövetni, amik látszólag nem program szerinti futást eredményeznek... azaz a pontos kijelentés, hogy nem úgy működik, mint ahogy a programozó akarta, de úgy működik, ahogy programozta. Ez minden öntudattal és szabad akarattal nem rendelkező programra igaz. Bár feltehetően arra is igaz lesz, ami rendelkezik mindkettővel, de ezt már hagyjuk a filozófusokra.

Cannapeace:
"Hogy ki irányítja na hát az a Hacker amelyek feltörte a tűzfalat és épp rettegésben tartja a világot! Robotok a civilek ellen?"
És azzal tisztában vagy, hogy ilyen gépek nem lennének elérhetők egyetlen nem magas rangú katonai parancsnok vagy politikai vezető számára sem? Nehogy azt hidd, hogy Facebookon fognak parancsokat adni az intelligens fegyvereknek. A civilek meg a legtöbb esetben nem is találkoznának ilyen gépekkel, sem a fegyverzetükkel, sem az azok által okozott lövésekkel, robbanásokkal.
 
Válasz írásához előbb jelentkezz be!
12. freyr carra...
2012.11.22. 04:14
carraroxt:
"De vannak más érvek is az önmérlegelő robotfegyverek ellen pl.:
- üzemzavar (túlmelegedett egy IC, vagy elütöttünk egy karaktert a programkódban 50 halott, igazán bocsi! És ha tömeges éles bevetésen derül ki?)
- váratlan szituációk amik valódi mérlegelést igényelnének (mert ugye nem mindenhatóak a programozók sem, hogy előre láthatnának mindent, pláne egy zavaros háborús környezetben)
- szándékos visszaélések/túlkapások, tudatában, hogy a felelősség könnyen elkenhető,
- hacker-támadások (akárki részéről)
- a reguláris hadseregek elgyengülése, és kiszolgáltatottá válása (a saját is).
- a rendszer sebezhetőségeinek kijátszása pl. hamis azonosítókkal stb...
És laikusként biztosan még így is csak a felszínt kapargatom."

Reménykedem a döntéshozók ésszerűségében, hiszen az atomfegyverek kapcsán már bizonyították, hogy van bennük józan belátás, ha igazán szükséges. Na jó, itt most nem Iránra meg Észak Koreára gondolok, hanem a leszerelési programokra.
"

Nézzük a felsorolást pontról pontra:
- katonáknál pánikroham, pillanatnyi elmezavar, mentális összeomlás
- fáradtság, unalom, félelem, stressz és az előző pontban leírtak fennállásakor a katonák nem tudnak józan döntéseket hozni, hibáznak, képtelenek felmérni a helyzetet
- a katonák gyakran pont ezt teszik a fronton
- ahogy azt az előző hsz-emben leírtam, nem civilek által hozzáférhető hálózatokra lesznek kötve az intelligens fegyverek. Aki meg úgy képes lenne feltörni a rendszerüket (amihez jó eséllyel fizikailag kéne bejutnia egy szigorúan őrzött katonai bázisra), azt inkább küldenék atomerőművek vagy közlekedésirányítási rendszerek ellen, bármelyik tönkretétele emberek millióinak halálát okozhatja ugyanis.
- persze, mert a reguláris hadsereg nem tud gyakorlatozni, illetve alapképzésen átesett, harci tapasztalattal nem rendelkező fiatal katonákat sem küldenek éles bevetésre...
- ezt nem is értem, mire értetted

Megjegyzem a nukleáris fegyvereket nem azért szerelik le, mert veszélyesek, hanem mert sokkal hatékonyabb fegyverek léteznek azóta már, egyszerűen feleslegessé váltak egész városok elpusztítására alkalmas atombombák például.
 
Válasz írásához előbb jelentkezz be!
11. petXYZW freyr
2012.11.22. 05:40
"Van itt némi ferdítés. Az egy teljesen helytálló kijelentés, hogy egy gép csak és kizárólag a programját képes követni."

Én magam is írtam olyan programot, amiben nem programoztam le a probléma megoldását, mert én magam sem tudtam megoldani, viszont a gép megoldotta. Megtalálta azt a cselekvéssorozatot ami a megoldáshoz elvezet.
 
Válasz írásához előbb jelentkezz be!
10. agyturbini...
2012.11.22. 06:06
Sajnalom egyaltalan szoba kerult ez a tema... az emberi torekvesek a sajat egyeni celjaik elereseben megallithatatlanok. Teljesen mindegy az eszkoz( katona robot egy kutya) mert ha az a lenyeg hogy haboru legyen akkor lesz is. Nem ertem a Zord elvtarsat sem, mi az hogy terrorista? Mert ha lenne rola fogalma akkor nem irna ilyen butasagokat. Olyan nincs hogy terrorista, maximum a rosz oldalrol szemleled a dolgokat. A fegyveres konfliktusban meg nem teljesen mindegy hogy az erofoleny robotokkal vagy 1 milliard katonaval jelentkezik? A katonat ki kell kepezni, a robotot le kell gyartani...a civileknek meg mindig szivas mindegy ki meszarol...szerintem hagyni kell hagy csinaljak amit akarnak, ugysem lathatja senki a jovot, igy ha elbaltazzak maximum megvarjuk a kovetkezo evolucios ciklust..Engem nem fog zavarni, meg benneteket sem az Biztos.
 
Válasz írásához előbb jelentkezz be!
9. petXYZW petXY...
2012.11.22. 06:14
Sőt:
-Nem kell a konkrét megoldást megmondani elég, ha definiálom a megoldások halmazát.
-Ezt tehetem bármilyen magas absztrakciós* szinten.
-Akár általam explicit nem definiált, új* célállapotokat is képes definiálni saját magának!!!
-Képesek általam explicit nem definiált, új* operátorokat is bevezetni.

*levezethetőnek kell lennie a tudásbázisból vagy ...

Erről egy komment keretében elég nehéz, írni...
 
Válasz írásához előbb jelentkezz be!
8. petXYZW petXY...
2012.11.22. 08:31
Természetesen a tudásbázisban lévő dolgokon túl - amit a programozó beleírt vagy éppen a környezetéből valamilyen úton be nem épített - nyilván nem tud lépni.
 
Válasz írásához előbb jelentkezz be!
7. CyberPunk6...
2012.11.22. 09:05
Azért itt sokan tájékozódnak sci-fi filmekből, és csak keveseknek van közük a valódi technikához.

1, A robot feladata továbbra is emberek által meghatározott lenne. Tehát ahogy afrikában népirtást tartanak élő hús vér katonákkal, kínzással végeznek ki embereket. Ugyanúgy az egyesült államok a robotokkal is betartatnák a szabályokat.

Csak az olyan visszás helyzetekben amikor gyereket küldenek katonák ellen, megfelelően tudna mérlegelni. Pontosan el fogja tudni dönteni, hogy fel van-e fegyverezve vagy nem. Ma ha egy tűzharc közben egy kisgyerek kezd futni a katonák felé, lelövik. Mert már köztük is vannak öngyilkos merénylők.

2, a programfejlesztésnek van sok sok szintje, és módszere. Sajnos tény és való, hogy egy közepes program kimerítő (minden esetre kiterjedő) tesztelése sem lehetséges reális véges időn belül DE. Egyrészt van nagyon sok irány elv a működésbiztos rendszerek fejlesztésére amivel alapból nagymértékben csökken a hibák száma. Lehet írni olyan egyszerű, mindent felülbíráló részeket amik esetleg elfedik, felülírják a lehetséges hibákat, előre felkészülve arra, hogy ilyen létezik. A program tesztelésének nem egy vállalkozás szuper munkaállomásán kell véges időn belül tesztelődnie, hanem olyan szuperszámítógépeken amikről földi halandó maximum olvas, hogy a hadsereg repülésszimulációra 2200 ps3-ból épített szuperszámítógépet. Aminél rendelkezik azért lényegesen nagyobb teljesítményű gépük is. Ki tudja talán van olyan is ami nem publikus.

3, Ma azt jelenti a háború, hogy kinek hallnak meg előbb a katonái vagy fogy el előbb a fegyvere ->és emiatt ölik le a katonáit. Azért a kinek fogynak el előbb a robotjai sokkal kellemesebbnek hangzik a polgári lakosság szempontjából.
Akinek meg a lakosság irtása a célja, az most is megteszi. Akinek meg nem célja az ezzel jelentősen csökkentheti az áldozatok számát.

4, A helyzetértékelő robot != önálló célokat kitűző robot.
 
Válasz írásához előbb jelentkezz be!
6. vivanto
2012.11.22. 11:53
Látom azért szerencsére vannak itt, akik nem csak sci-fi filmekből láttak robotot. Pár dolgot szintén hozzátennék az eddigiekhez.

1) Létezik matematikai helyességbizonyítás illetve erre épülő programfejlesztési szemlélet. Pl a párizsi metrót is ilyen módszerekkel készítették. Persze, az ember ettől még tévedhet, de egy ilyen módon készült softver nem-elvárt működésére kb annyi az esély, mint a spontán káromkodó robotra.

2) Egy katonai robotnál nem szempont az önfejlesztés vagy a tanulóképesség. Erősen definiált feladatot lát el, erősen definiált algoritmussal. Érdemes lenne különbséget tenni az intelligens és az autonóm rendszerek között.

3) Ha valami elvetemült gondolat miatt mégis komolyabb számítási kapacitásra lenne szükség egy ilyen robot esetén, azt nem a mobil hardveren végezné. Az csak egy platform egy egyszerűbb mikrokontrollerrel. Az "agy" minden esetben távoli elérésű, úgyhogy ha valamelyik technikus veszélyeztetve érzi magát, egyszerűen megszakítja a kapcsolatot a nem-felfegyverkezett dobozzal a server szobában.
 
Válasz írásához előbb jelentkezz be!
5. tigerboy
2012.11.22. 11:58
Az Irániak anno meghackeltek és elloptak egy drónt az Amerikánusoktól. Ha ilyenek lesznek a jövőbeni robotok akkor megszívtuk...
 
Válasz írásához előbb jelentkezz be!
4. CyberPunk6... tiger...
2012.11.22. 12:03
erre adj kérlek valami hivatalos forrást.
 
Válasz írásához előbb jelentkezz be!
3. NimKorko
2012.11.22. 15:33
Azt nem meghackelték hanem lelőtték és onnanstól nekik is meglett az a technológia.
 
Válasz írásához előbb jelentkezz be!
2. petXYZW
2012.11.23. 05:27
"önállóan választanak majd célpontot és döntenek a tüzelés mellett."

"4, A helyzetértékelő robot != önálló célokat kitűző robot."

"A felelősség kérdése sem tisztázott. A parancsnok, a programozó vagy a gyártó törvény elé citálása a robot tetteiért egészen átformálná mindazt, amit ma a joggal kapcsolatban helyesnek tartunk."

Nos, ha tervezek - egy nyomástartó edényt http://hu.wikipedia.org/wiki/Tartály - és hibázok, emiatt valaki meghal, akkor elővesznek most is.
Az általatok írt NEM önálló, erősen definiált algoritmusú robotok esetében nincs értelme felvetni a robot felelősségének kérdését. Egyértelmű, hogy a tervező vagy valamelyik másik, a folyamatban résztvevő hibázott.

Tehát szerintem a cikk sugallja, hogy "értelmes" robotokról kell beszélgetnünk. Ezért a sok sci-fi. De ezzel szerintem nincs baj, mert ez egy fórum.
 
Válasz írásához előbb jelentkezz be!
1. VAjZY
2012.11.28. 18:44
Amellett, hogy ezek meddő próbálkozások (hiszen a hadiipar sajnos manapság a legjelentősebb), azt kell hogy mondjam ezek a "szervezetek" is szűk látókörűek, akárcsak akik ellen felszólalnak. "hogy az esetlegesen elérhető harcászati előny megéri-e a vele járó polgári áldozatok számát." Ez dilemmának hangzik, pedig nem az, semmiképpen nem éri meg civileket ölni, sőt, ha már itt tartunk, senki mást sem. Hiába minden, háború volt, van és lesz is, elnézve a világot nem is kicsi.
 
Válasz írásához előbb jelentkezz be!