Apariţia maşinilor autonome și mai ales situaţiile de accident în care au fost acestea implicate au adus în discuţie pe lângă foarte multe aspecte de ordin tehnic dar și aspecte de ordin moral.
Cine ar trebui să moară într-un accident? O întrebare poate cinică, dar extrem de importantă atunci când vorbim de strategia, de deciziile pe care le poate lua o maşina autonomă în cazul unui accident inevitabil.
Pentru a găsi un răspuns – daca acest lucru va fi vreodată posibil – cercetătorii de la MIT Media Lab au analizat mai mult de 40 de milioane de răspunsuri într-un proiect experimental lansat în anul 2014.
Experimentul consta în a decide în situatia în care intr-un accident inevitabil sunt implicati o familie de cinci oameni aflati intr-o masina autonoma și cinci pietoni aflati pe strada. Pasagerii din vehicul vor fi sacrificati pentru a salva pietonii? Sau ar trebui ca un pieton sa fie ucis pentru a salva familia din vehicul?
Exprimentul cu masina autonoma este o varinta moderna a unui paradox moral, cunoscut sub numele de problema caruciorului, pe care Philippa Foot la prezentat în 1967 și mai tarziu a fost extins de Judith Jarvis Thomson. Departe de a fi rezolvata aceasta dilema, problema caruciorului a lansat un val de investigatii suplimentare în privinta problemei filosofice pe care o ridica.
Experimentul “Masina morala” a prezentat mai multe variante ale acestei dileme care implica o masina autonoma care trebuie sa aleaga intre a salva pasagerii din masina sau pietonii?
Experimentul a prezentat mai multe scenari în care o masina autonoma isi sacrifica pasagerii sau loveste:
- o persoana de afaceri de succes?
- un criminal cunoscut?
- un grup de persoane în varsta?
- turma de vaci?
- pietonii care traversau drumul cand li sa spus sa astepte?
La patru ani dupa lansarea experimentului, cercetatorii au publicat o analiza a rezultatelor.
Rezultatele obținute în urma a 40 de milioane de decizii au sugerat ca oamenii prefera sa salveze mai degraba oamenii decat animalele, sa pastreze cat mai multe vieti posibil și sa salveze tinerii.
Au existat, de asemenea, tendinte mai mici de salvare a femeilor fata de barbati, salvarea celor cu statut mai ridicat fata de persoanele mai sarace și salvarea pietonilor, mai degraba decat a pasagerilor.
Aproximativ 490.000 de persoane au completat, de asemenea, un sondaj demografic care include varsta, sexul și opiniile religioase. Cercetatorii spun ca aceste calitati nu au avut un „impact semnificativ” asupra deciziilor pe care le-au luat oamenii.
Cercetatorii au gasit totusi unele diferente culturale în deciziile pe care oamenii le-au luat. Francezii au decis în functie de numarul de persoane care ar fi ucise, în timp ce japonezii au pus cel mai puțin accentul pe aceasta problema.
Cercetatorii recunosc ca jocul lor online nu a fost un studiu controlat și ca „nu putea face dreptate intregii complexitati a dilemelor autovehiculelor autonome”.
Cu toate acestea, ei spera ca “masina morala” va declansa o „conversatie globala” despre deciziile morale pe care trebuie sa le faca auto-conducerea vehiculelor.
„Niciodata în istoria omenirii nu am permis unei masini sa decida în mod autonom, intr-o fractiune de secunda, cine ar trebui sa traiasca și cine ar trebui sa moara, fara supravegherea în timp real. Inainte de a permite autovehiculelor noastre sa ia decizii etice, trebuie sa avem o conversatie globala pentru a ne exprima preferintele companiilor care vor proiecta algoritmi morali și a factorilor de decizie care le vor reglementa” spune echipa care a facut aceasta analiza.
Fara legatura cu acest experiment, Germania a introdus deja o lege care prevede ca masinile fara sofer trebuie sa evite ranirea sau moartea cu orice pret. Legea spune ca algoritmii nu trebuie sa decida ce sa faca în functie de varsta, sex sau sanatate a pasagerilor sau a pietonilor.
MIT Media Lab este un laborator multidisciplinar de cercetare de la Institutul de Tehnologie din Massachusetts, Cercetarile MIT Media Lab nu se limiteaza la discipline academice fixe, ci se bazeaza pe tehnologie, media, stiinta, arta și design. Incepand cu anul 2014, grupurile de cercetare ale Media Lab includ neurobiologia, fabricarea inspirata de biologie, robotii implicați social, computerele emotive, bionica și hiperinstrumentele.
