Socialismul cu pilot automat

[stextbox id=”black” direction=”ltr” shadow=”true” ]Pregătiți-vă copiii pentru timpul în care dreptul la viață le va fi decis de mașini.[/stextbox]

 

Citiți articolul ăsta.

Pe scurt se prezinta dilema morala in cazul comportamentului viitoarelor masini fara sofer.

Rational ar fi să te gândești că ele ar trebui programate astfel ca în cazul unui iminent accident  să ia măsuri pentru producerea a cât mai puține victime. Ok , dar asta ar putea duce la sacrificarea vieții unora dintre pasageri în scopul  prezervării vieții unor pietoni, sau mai multor pasageri dintr-un autobuz, să zicem.

Întrebarea e simplă: Ai avea vreo motivație să plătești pentru o mașină care deprioritizează sigranța ta, în raport cu ceilalți membri ai societății? Că la o adică suntem toți egali.  Cu siguranță, nu.

Se vorbește despre faptul că programarea ar trebui forțate să comute ”for the greater good”. Aha, să comute dar cum și cine să plătească pentru asta. Simplu, statele pot  legifera în sensul ăsta. În sensul în care software-ul trebuie să fie neutru, la fel cum vrem ca internetul să fie neutru de exemplu ( doar că aici statele par că nu vor) .

Și, da, nu sunt mulți care vor să se bucure de neutralitatea asta automată, chiar dacă statistic numarul accidentelor va fi diminuat semnificativ și dacă oricum ai gândi-o riscul e mai mare să fi ucis de greșelile tale sau ale altora decât de o greșeală a sistemului automat.

Doar că intervin anumite aspecte:

  1. Egoism și libertate .Oamenii preferă să moară de propria mână, din propria prostie, sau incapacitate, decât să știe că moartea lor poate fi decisă de un sistem automat, care a evaluat ca viața lor e mai puțin importanta decât viața a mai multor altor indivizi. Nu asta spunem când ne supărăm că medicii români alocă medicamente cu precădere pacienților mai tineri, când nu sunt pentru toată lumea? ”Cine ești, bă, tu, Dumnezeu?”
  2. Inegalitatea nediscriminării între șoferi și cei ce vor folosi mașini autonome.  Cum te-ai simți să știi ca mașina ta a ales să mori tu, proprietar , sau pasager ,singur în mașină, pentru avantajul de a salva viața a mai multor pasageri dintr-o altă mașină condusă manual? Motivat să cumperi o mașină autonomă ?
  3. Indiscriminarea dintre cel ce încalcă legea  poartă vina și cel ce nu. Din orice motiv te afli în poziția de a intra în coliziune cu un autovehicul inferior din punct de vedere fixic, cu mai mulți pasageri, într-o conjunctură generată din vina acelui autovehicul, din orice motiv, să presupunem accidental. Și totuși pentru ”greater good” mașina decide că tu trebuie să mori pentru a salva mai mulți pasageri din cealaltă.  Legea ți-ar fi dat dreptate dacă ai fi ales să te salvezi pe tine. Astăzi.

Vor fi probabil foarte puține situații măcar apropiate de genul ăsta , dar teoretic ele pot apărea și vor fi și vor fi strigate până la cer și înapoi.

Iar atunci, cine ar cumpăra o asemenea mașina? Companiile care oferă transportul ca serviciu.  Pregătiți-vă.   Căci, da, cred că se va decide în sensul ăsta când va fi cazul.

Desigur, ți se va spune că nu s-a schimbat nimic , că dreptul de a cumpăra, de a te bucura de bunul tău a rămas, dar este un privilegiu nemeritat să deții un bun, care să acționeze în avantajul tău.

 

Send to Kindle

2 Replies to “Socialismul cu pilot automat”

  1. Ma nu stiu cum sa ma exprim coerent pe tema asta, dar ia de aici: la cati soferi cretini exista acuma pe strada, sa fiu al dracu daca ma simt in siguranta in trafic. Apoi, nu cred ca se va putea pune in aplicare un management total al traficului rutier fara ca infrastructura sa fie si ea transformata in sensul asta si ca atare toti participantii la trafic sa fie automatizati.

    Nu cred ca dezvoltatori de IA autonom vor accepta controversele ridicate de tine, prin implementari de genul asta, in care de exmplu autobuzul e condus de varu pe care l-a lasat nevasta azi dimineata si Tesla ta o sa fie bila alba care aduce inapoi autobuzul pe banda, dupa ce varu a ales sa moara in copac cu toti pasagerii dupa el. E mult prea riscant, pragmatic vorbind, sa fie interzis in totalitate businessu asta de catre niste regulatori statali care aud intotdeauna emotiile publicului, in caz de un incident de genul asta. Si de ce nu invers, greseala de calcul de traiectorie, auto autonom (ti-o placut?) impinge un autobuz in parapet, mor 60 de nevinovati, public outrage, etc.?

    Mult mai plauzibila pare varianta in care portiuni din infrastructura (gen o banda de pe autostrada) vor fi intial rezervate pentru vehicule total autonome, care vor participa informational la o retea comuna, si se vor supune unor decizii centralizate luate de un sistem de management de trafic. Eu nu vad avantajul situatiei in care automatul nu are viziune globala si este apoi pus in fata unor decizii in situatii limita, unde nu poate apoi alege decat intre 2 rele. Asta e ca si cum ai lasa automatul sa foloseasca numai backtracking si bubble-sort, cand tu ai la dispozitie algoritmi genetici si machine learning, ca tot veni vorba intr-un alt post.

    Nu cred ca e asa de mult vorba despre egoism cum zici tu, cat ca noua ca specie ne displace cel mai mult determinismul. Cum adica sa ne decida cineva ziua mortii? Aia trebuie sa fie random total. Ca intr-un razboi de exemplu, total random, nu? De aia si apelam asa usor la o putere mai mare, providenta, bulan, mama omida; gandirea magica implementata in pesterile de la Lascaux in constientul colectiv uman nu se poate purja asa usor, iar determinismul sec cu care este identificata o masina sentienta repugna omului, tocmai din cauza ca ii e teama de ea (si in unele scenarii chiar ar trebui sa ii fie, dar asta nu e un motiv sa urlam apocalipsa deja). Civilizatia umana, mai ales la nivelul tehnologic actual, are multe mijloace la dispozitie pentru a se intoarce in epoca de piatra si inca repede. Poate raspunsul la toate astea trebuie sa vina tot de la o tehnologie si mai avansata. Sau poate nu, cine stie, poate ne vor arata extraterestrii calea, sau vom deveni spirituali si vom demonta focoasele termonucleare si virusii militarizati. Poate.

    Eu cred ca exista cale de mijloc undeva intre terminator si matrix pe de-o parte si o civilizatie tip amish la polul opus. Si simplul fapt ca ne punem intrebari de astea ajuta. Un lucru e cert, traim vremuri interesante.

    PS> toata dezbaterea asta este acum adusa in discutie de boul ala care a intrat sub tir dupa ce a luat mainile de pe volan, crezand ca tesla aia o sa-l duca pana in rai si inapoi singura. Nu era cazul, aici vorbim de prostie umana crasa, indiferent ce forme nu a reusit sa distinga pilotul automat pe fondul cerului albastru.

  2. toata dezbaterea asta este acum adusa in discutie de boul ala care a intrat sub tir dupa ce a luat mainile de pe volan

    Da, dar un astfel de eveniment e iminent. Indiferent ce mesaje pun ei acolo, e evident ca exista entuziasti, poate unii sunt prosti, care testeaza cat de buna e chestia asta , care pe masura ce vad ca e buna se lasa in grija ei. Si e iminent sa si rateze, fiind un sistem beta si chiar daca nu ar fi fost beta. Accidente tot se vor intampla macar in faza de mixed driving. Sau din alte motive ce nu tin neaparat de errori in condus cat probleme tehnice, etc.
    Motiv pentru care intrebarile sunt valide.

    de prostie umana crasa, indiferent ce forme nu a reusit sa distinga pilotul automat pe fondul cerului albastru.

    Poate , stiindu-ma in cauza la cateva chestii eu ii prefer sa ii spun entuziasm :). E un sentiment interesant sa vezi ca la 150 km/h masina tine singura banda ba si te dojeneste ca esti bulangiu si iei total mainile de pe volan spunandu-ti sa le pui la loc.
    Iar in localitati ma asista, de fortam viteza in curbe si ma punea la loc pe banda superb. Stiu , e iresponsabilitate, ASA CEVA NU SE FACE. Dar poti sa juri pe rosu ca nu te tenteaza? Si ca daca vezi ca chestia asta functioneaza nu te bazezi oarecum pe ea?
    Probabil ca dupa ce il vezi pe unul ca asta infipt in camion poti. Mie mi se pare atractiv.

Leave a Reply

Your email address will not be published. Required fields are marked *

This site uses Akismet to reduce spam. Learn how your comment data is processed.