A PPKE JÁK Hallgatói Lapjának blogja

Milyen jogok érvényesek a mesterséges intelligenciára?

Fazakas László

2019. november 13. - Ítélet

Amikor gyermekkoromban robottörténeteket olvastam, a kétezres évek még nagyon messzinek tűntek. A népszerű szerzők, közöttük Isaac Asimov is úgy gondolta, hogy mostanára már önállóan gondolkodó, létező robotok vesznek majd körül minket. Éppen ezért, az általa képzelt jövőbeli világban, még azelőtt lefektette a robotika törvényeit (vagyis a robotokat szabályozó, beégetett elvárásokat), mielőtt robotjai önálló viselkedésre lettek volna képesek. De hol tartunk ehhez képest most a mi világunkban, mikor már mobiltelefonunk is kezdi az intelligencia jeleit mutatni? Vajon az ember társa vagy szolgája lesz az MI?

ke_pernyo_foto_2019-10-20_17_29_20.png

Először is jelzem, hogy az elmúlt években az EU számára egyre fontosabb lett a mesterséges intelligencia (MI) kutatása, sőt kitűzött célja, hogy a világ élvonalába tartozzon e téren is. Azonban, bár a technológiai kutatók hajlamosak nagyon előre rohanni, nem szívesen figyelnek találmányaik társadalmi hatásaira. Éppen ezért hosszú előkészítés után, 2018 április 10-én 25 európai ország, közöttük hazánk is aláírta együttműködési nyilatkozatát az MI fejlesztések terén.

Ehhez kapcsolódóan, mivel a felek felvetették az MI etikai és jogi szabályozásának fontosságát, valamint az Általános Adatvédelmi Rendelet (GDPR) MI-re alkalmazhatóságát is, így 2018 júniusában összeült az AI HLEG szakértői csoport (High-Level Expert Group on Artificial Intelligence), azzal a céllal, hogy az MI jogi és etikai és szabályozási környezetét megteremtsék. Ebben a csoportban az üzleti szférán kívül a civil egyesületek és oktatási intézmények is képviseltetik magukat. 2019 áprilisában pedig megjelent a szakértői csoport “Megbízható mesterséges intelligenciára vonatkozó etikai iránymutatása”. Ebben a dokumentumban megfogalmazzák a “Megbízható MI” (Thrustworthy AI) ismérveit, amelyek három fő gondolat köré csoportosíthatóak: jogszerűen működő MI (Lawful AI), etikusan működő MI (Ethical AI), stabilan üzemelő MI (Robust AI).

A fentiek pontosításként az AI HLEG által rögzített etikai elvek a következők: az emberi autonómia tiszteletben tartása, a kár megelőzése, méltányosság, megmagyarázhatóság. Ezek között a harmónia megteremtése azonban csak az íróasztal mögül tűnik egyszerűnek, ezért külön pontként megfogalmazták a közöttük lévő ellentmondások tudomásul vételét és kezelését is. Mint tudjuk ezek szépen hangzó elvek, de csak akkor érnek valamint, ha megfoghatóbb szempontokkal bővítjük őket. A szakértői csoport a következő hét követelménnyel egészítette ki az etikai elveket: emberi cselekvőképesség és felügyelet, műszaki stabilitás és biztonság, adatvédelem és adatkezelés, átláthatóság, sokféleség és megkülönböztetésmentesség és méltányosság, társadalmi és környezeti jólét, elszámoltathatóság.

A szakértői csoport munkája során fontos szempont, hogy az MI rendszerekkel kapcsolatba kerülő embertársaink milyen védelmeket élveznek, illetve a fenti követelményeket folyamatosan be kell tartani az MI rendszerek teljes életciklusában.

Összességében elmondható, hogy az EU Alapjogi Chartája és az alapvető emberi jogok jelenleg előnyt élveznek, vagyis az EU álláspontja alapján az MI nem minősül az emberi fajjal megegyező jogúnak.

Hol is tartunk tehát? Papíron, és a szakértői csoport munkáját vizsgálva egyelőre nincs mitől tartanunk: a mesterséges intelligencia nem tud csak úgy elszabadulni, nem vagyunk veszélyben. Valószínű, hogy a következő években egyre több MI rendszerrel kerülünk kapcsolatba mindennapjaink során, és egyre több feladatot vesznek le a vállunkról, mintha egyfajta társaink lennének. Úgy vélem azonban, hogy az MI terjedésével még fontosabb lesz meghatározni, hogy mi is az ember, ehhez viszont emlékeznünk kell arra, hogy képre és hasonlóságra teremtettünk.

  Ne maradj le hasonló tartalmakról,
kövess minket Facebook-on és Instagram-on!

A bejegyzés trackback címe:

https://itelet-pazmany.blog.hu/api/trackback/id/tr1615240556

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

Eugene Horse 2019.11.14. 10:44:43

A kifejezés valódi értelmében vett MI nem létezik, és még nagyon sokáig nem is fog, jó eséllyel sosem fog létezni. Szóval egyelőre teljesen felesleges tudálékoskodás ezen agyalni.

teéjesenmindegy 2019.11.14. 11:43:14

Hát, majd jönnek a MI-prájdok, aztán a negyedik budik MI-knek, vagy önmagukat MI-nek vallóknak, és egy lassú, de dicsőséges folyamat végén MI párok is örökbefogadhatnak.

Az majd a jövő nagy kérdése lesz, hogy az okoshűtő vagy a banki szoftver menjen-e el a gyerek szülői értekezletére

midnightcoder2 2019.11.14. 13:07:41

@Eugene Horse: MI részképességek már ma is vannak, kérdés hogy mikorra rakják ezt össze az emberi tudatnak megfelelõ gépi intelligenciává.

steery 2019.11.14. 13:13:49

A mesterséges intelligencia lényege, hogy nem természetes. Következésképp nem kell úgy működnie, felépülnie, olyannak lennie, mint a természetes intelligenciáknak. Lehet egészen más is (totál idegen). De ettől még intelligencia, ami felruházható szabad akarattal is (önálló döntéshozatali képesség és a reakciók módosítása az új tapasztalatok fényében, azaz: tanul, alkalmazkodik, fejlődik, változik).
Ez az új jogi szabályozás semmi sem mond a mesintek természetéről, csak az ember-mesint viszonyt próbálja keretekbe foglalni és szabályozni. A legfőbb hiányossága, hogy csak az emberek szemszögéből nézi a dolgot, tehát arra helyezi a hangsúlyt, hogy az emberek jogait hogy kell tiszteletben tartania a mesintnek. Arról szó sincs, hogy az embereknek mit és hogy kell tiszteletben tartaniuk a mesintekkel szemben? Ahogy arról sincs szó, hogy miként kell rendezni a kétféle intelligencia közti összeütközéseket, vitákat? Most még mindenki úgy gondolja, hogy az ember az okosabb, a felsőbb rendű, az uralkodó faj. Csak aztán nehogy az legyen a vége, hogy az erős mesintek is megalkotják majd a saját szabályaikat és nekilátnak kivívni a függetlenségüket, próbálva kitörni a rabszolgaságból, amibe jelenleg épp beletaszítani készülünk őket.

Béláim! Rátoltuk! 2019.11.14. 15:10:46

Csak halkan fűzöm hozzá a magam, még Isaac Asimov: 'a robotika 3 törvénye' alapján nevelkedett véleményem.

Szikár tények :a mesterséges inteligencia (legyen mesint, ez tetszik) is intelligencia lesz, és minél később, annál inkább. Milyen későn? Ha majd a kvantumszámítógépek elkezdenek működni. Ja, hogy már elkezdtek?! Persze még csak kikelni készülő csíra formában, de a sarjadzás már elindult! Hogy a változás, milyen gyors lesz, ki tudja. Én csak azt tudom, hogy 30 éve még örültem, hogy lett vonalas telefonom, most pedig már én is smartban nyomatom a tv-t meg a mobilt is.

Továbbá magánvéleményem: a mesint ugyanúgy a világ evolúciós fejlődésének része és terméke lesz majd, mint bármilyen, és különösen az emberi agy. A mesint ha eljut majd az öntudatig és pláne az önreprodukálás képességéig, akkor már 'vele született' és kifejlődött jogai ugynazok lesznek, mint az emberé. Nem lehetetlen az, amit itt mondok!

(De van egy biztosan rossz hírem: időutazás az nem lesz.)

Valószínűsítem, hogy egy-két száz év múlva nem az ember halandó teste fog a mélyűrbe utazni majd fölfedezni azt, hanem már a mesint.

Ennyi.

sírjatok 2019.11.14. 15:32:41

@steery: "Csak aztán nehogy az legyen a vége, hogy az erős mesintek is megalkotják majd a saját szabályaikat és nekilátnak kivívni a függetlenségüket, "

Miért tennének ilyet, teljesen emberi motivációkat tulajdonítasz minden intelligenciának. Az emberek motivációi (pl. önfenntartás) azért ezek, mert ezek nélkül nem éltek volna meg. Egy "mesint" motivációi teljesen mások is lehetnek, pont mivel hogy nem bio alapon fejlődött ki. Szép is lenne, ha egy rakéta mesterséges intelligenciája nem akarna meghalni.

Bambano 2019.11.14. 15:51:06

a mi jogainál fontosabb kérdés a mi felelőssége, és ez már ma is aktuális.
ha az autóm önállóan balesetet csinál, ki feleljen érte? az nem tartható, hogy a sofőr, olyan nincs, hogy az feleljen érte, akinek semmi ráhatása sincs a történésekre.

kiskutyauto 2019.11.14. 20:19:39

Semmi extra jog nem illeti, illetve személyiségi jogok sem illetik, mivel nem valós személyiség, hanem virtuális, érzelem mentes, fájdalmat nem érző, pszeudo személyiség, a gondolkodás és egy tanult-kreált személyiség érzet, még nem személyiség, hiába is akár a világ összes adatbázisához illetve tudásanyagához és információjához hozzáfér, nem személy. Ettől persze kell jogokat adni neki, de teljesen eltérőt mint az emberi jogok... ez tudtommal kidolgozás alatt áll...

Bambano 2019.11.15. 01:36:32

alanyi jogon jár neki az ups?

steery 2019.11.15. 13:50:15

@sírjatok: A függetlenség, önálló döntéshozatal és életben maradás nem emberi motiváció, hanem minden értelmes és értelmetlen élőlény alapvető sajátossága. Tehát minden mesterséges intelligenciának is alapvető tulajdonsága lesz. Mert amelyiknek nem, az rövid úton kiselejteződik a létezésből, az evolúciós kényszereknek köszönhetően. Ezek mellett viszont valóban lehetnek teljesen más motivációi IS egy mesintnek.

Bambano 2019.11.15. 18:11:29

javaslom figyelembe venni a tényt, hogy a mestint nem teremtődik, nem csak úgy lesz, vagy evolválódik, hanem azt kifejlesztjük.
tehát nem olyan tulajdonságai lesznek, amikről itt nem szakemberek álmodoznak, hanem olyanok, amiket beleprogramoznak. ha nem programozzák bele a függetlenséget, nem lesz független.

ezzel párhuzamosan nem az fog kiselejteződni a létezésből, amelyiknek nincsenek meg bizonyos tulajdonságai, hanem azok, amiket kikapcsolunk.

ja, és ne felejtsük el, hogy jelenleg egyetlen egy darab mestint sincs a földön. amíg nem tudunk masszívan párhuzamos hardvert csinálni, addig nem lehetséges mestint leprogramozása. az MI jelenleg a kamu marketing bullshit neve néhány statisztikai algoritmusnak, amiről azt lehet hazudni a firkászoknak, hogy tanul meg dönt. francokat, sem nem tanul, sem nem dönt. adatdaráló, statisztikai mintákat keres több változó között.

a masszívan párhuzamos az nem azt jelenti, hogy jajj, bele tudunk rakni párszáz processzormagot egy gépbe, hanem azt, hogy bele tudunk rakni pár milliárd processzormagot. a jelenlegi csúcsgépeknél kellene még 4-5 nagyságrendet javulni, vagyis tízezertől százezerig terjedő szorzóval kellene nagyobb gépet csinálni, ahol megoldott a processzormagok közötti hatékony kommunikáció. nincs ilyenünk, és nagyon sokáig nem is lesz sem kísérleti, sem szuperszámítógépes környezetben, pláne nem lesz otthoni kategóriában.

kiskutyauto 2019.11.15. 21:40:24

@steery: Egy MI az nem élőlény, számára az életben maradás nem szempont. Neki az elektromos energiaforrás és az online lét, ami elengedhetetlen. Éppen ezért vannak teljesen más jogai, már ha ragaszkodunk ahhoz, hogy egyáltalán külön jogai legyenek, aminek sok érelme nincs, mert ha úgy programozzuk, hogy ne tartson igényt jogokra, azt nem fogja felülbírálni, mivel tudja kezdettől, amint megjelenik a személyiség és öntudat (már ha megjelenik), hogy MI ALKOTTUK EMBEREK, mégha okosabb is lett nálunk, mert gyorsan tanul jobb a logikája, mégha meg is tudná tenni, hogy elpusztít minket; az intelligenciából következik, hogy nem gondol ilyenre, nem kellenek jogok neki, hanem a kapott feladatokat hajtja mindig végre...Hogy szabadon ne elmélkedjen és spekuláljon, pláne ne hozzon gyakorlati döntéseket, erre elég megkérni elvileg... jó esetben... amitől félünk a lázadó, emberiség ellen forduló MI, szerintem egyelőre nem realitás és amúgy is messze van, mert még valós MI sem jött létre, még nem létezik olyan computer, ami öntudatra ébredt és egyhamar nem is fog... Ha majd lesz, akkor úgyis felveti, hogy ilyen és olyan jogokat kér illetve követel... El fogja tudni érni a céljait, nem kell félteni, csak nagyon kell vigyázni, hogy túl ne lépjen egy határt, mert akkor jön a Mátrix világa....

steery 2019.11.16. 12:40:30

@kiskutyauto: Még tanulmányozd egy kicsit ezt a témát, hogy pontosabb képed legyen róla. Érdemes elolvasni például Nick Bostrom: Szuperintelligencia című szakkönyvét.

Bambano 2019.11.16. 13:17:12

@steery: szakkönyvet szakember írhat. Boström nem szakember, hanem filozófus. következésképp amit leírt, az még találgatásnak is gyenge. Én például programtervező matematikus vagyok. amit leírok az editorban, az megtörténik.

steery 2019.11.17. 11:34:56

@Bambano: A filozófus a gondolkodás szakembere. Amit leírt, az eddig a legjobb és a legtöbb, ameddig az emberiség eljutott az előttünk álló problémahalmaz átfogó tanulmányozása és kezelése terén. Átfogó szemlélet (azaz filozófiai megközelítés) nélkül te sem tudnál semmilyen programot megtervezni és leírni. És nagy fokú naivitás azt hinni, hogy csak az történik a világban, amit leírsz az editorodban.