Hulk eksperte, teiste seas Eesti firma Krakuli tegevjuht Markus Järve, kirjutas ÜRO-le avaliku kirja, milles hoiatatakse, et autonoomsete relvade teke maailmas on suur oht ning robotid ja droonid ei tohiks saada lahinguväljal õigust ise otsustada, kelle pihta tuli avada. Kirjas soovitakse, et selle otsuse taga peaks alati olema inimene.
Kirjale on alla kirjutanud kümned selle valdkonna eksperdid, teiste seas on ka DeepMindi looja Mustafa Suleyman ning Tesla ja SpaceXi tegevjuht Elon Musk, kes tegeleb ka OpenAI tehisintellekti arendamisega, mis hiljuti põrmustas arvutimängus Dota 2 maailma parima inimmängija.
Markus Järve on allakirjutanute seas seetõttu, et Krakul tegeleb militaardroonidesse tarkvara ja riistvara arendamisega.
“Mida me tahame saavutada on see, et alati kui tehakse inimeste elu üle otsustavaid otsuseid, oleks inimene alati loop’is sees, keda saaks ka vajadusel vastutusele võtta,” sõnas Markus Järve.
Põhiküsimuseks sellistes olukordades on vastutus. “Kes vastutab selle eest, kui midagi tehakse? Kui öeldakse, et vastutab mingi abstraktne kogus programmeerijaid või abstraktne riik, siis on nagu suhteliselt suur probleem.”
Otseselt seda kirjas välja ei tooda, kuid tõenäoliselt peavad eksperdid eelkõige silmas selliseid olukordasid, kus sõjategevuses hukkuvad süütud inimesed. Kui sellisel juhul on päästikule vajutanud inimene, saab teda vastutusele võtta, kui otsuse on aga teinud arvuti, siis on raske kedagi vastutama panna.
Kirjas juhitakse muuhulgas tähelepanu, et tulevikus on tehisintellektil, kui see lahingutegevusse otsustusprotsessi lubada, suur osakaal sõjategevuses.
Eksperdid annavad mõista, et tegemist on Pandora laekaga – kui sellised relvad on juba korra välja arendatud, siis tagasiteed ei ole ja tulevikus on sõjad suuremal skaalal, aga samas ka lühemas ajavahemikus, millega inimesed pole võimelised toime tulema. Kõige mustem stsenaarium, mida igaüks ette suudab kujutada, on Terminaatori ja SkyNeti tulevik, aga pigem proovitakse praegu esimest sammu selle suunas välti. Kirja saatjad ootavad Järve sõnul ÜRO-lt, et võetaks vastu seisukoht, et selliste relvade kasutust piirata ja ideaalis neid sõjategevusse üldse ei kaasataks.
VES/geenius.ee
