Az autonóm autó margójára

A Play Integrity játékban két hét elméleti dilemmái után, ezen a héten egy hasonló logikára épülő, de valós dilemmát vetettünk fel. Nem kérdés, hogy a megfelelően programozott automata autók csökkenteni fogják a vezető hibájából bekövetkező baleseteket, de mégis lesz ütközés. A kérdés az volt, hogy mi legyen erre az esetre az autóba programozva. Vezetőjét védje-e, aki az autót megvette, akkor is, ha egyedül ül az autóban és az ő védelme 5 járókelő életébe kerülhet? Vagy a „társadalmi optimum”-ra programozzák az autókat, a sofőrt áldozva fel és az öt embert megmentve? Mivel az erény etika ide vonatkozó parancsa, hogy Ne ölj! itt nem segít, szabály meg még nincs, maradt a következmény mérlegelése. Ebből a perspektívából az etikus, ami legkisebb társadalmi kárt okozza. A csoportban is ide vezetett az etikai mérlegelés: a vezető védelme helyett a legkevesebb emberélet elvesztésére kell programozni az autót. 

Volt azonban egy másik dilemma is ebben a kérdésben, amire érdekes módon senki sem reagált. Alapvető szabályozási feladat, hogy amikor szükséges vagy érdemes, a közhatalom a társadalmi érdek alapján korlátozza a gazdasági szereplők tevékenységét és termékeik funkcióit. Etikus szabályozás a társadalmi kárt minimalizálja. Egy autó esetében ez annyit jelentene, hogy a legkevesebb áldozatra programozzák az autót. Ugyanakkor, ha az autópiac szintjén mérlegeljük a kérdést, akkor más az eredmény: felmerülhet, hogy ha nem feltétlenül a vezetőt/vevőt védi a program, kevesebben fogják megvenni az autonóm autókat. Így nemcsak a gyártók veszítenek potenciális bevételükből, hanem az autonóm autók biztonságából adódó társadalmi haszon is csökken, mert többen maradnak az emberek által vezetett autókban, és az ő hibáik akár több embert is megölhetnek. Így a társadalmi szinten jó szabály eldöntése nem tisztán elméleti etikai mérlegelés kérdése, hanem az emberi reakciókkal is számolni kell.

Megér ezért pár sort az a kérdés is, hogy vajon mit tennének az emberek? Ki venne olyan autót, ami őt áldozná fel ilyen esetben?

Feltehetően lennének olyan emberek is, akik racionális etikai mérlegelés után – mély etikai meggyőződéstől vezetve – hajlandóak lennének – az ilyen ritka karambolnál – az ő életüket feláldozó autót választani. Tiszteletre méltó, tudatos integritás vezethet ilyen döntéshez, amire társadalmi szinten kockázatos lenne építeni. Az ember ösztönös válasza az önvédelem. Ha azt kérdezik, hogy átadod-e az irányítást egy autónak, amely baleset során nem okvetlenül téged véd, az első, gyors válasz a legtöbb embernél a „NEM” lenne. Hátborzongató érzés átadni a kontrolt egy autónak, amiről az ember tudja, hogy van olyan helyzet, amikor feláldozná őt idegenek életének megmentésérért. Az etikai viselkedéstan szerint ezek az emberek jó eséllyel el is altatnák magukban azt a gondolatot, hogy etikus mégis az első változat lenne. Önvédelmi kognitív torzítás ez, ami motivált vaksághoz és korlátozott etikussághoz vezet, mely fogalmakról korábban részletesebben írtunk már bejegyzéseket.

Ilyen helyzetben van az etikus szabályozásnak fontos szerepe. A szabályozó nem a vásárló és nem is a gyártó, hanem a közérdek semleges képviselője. Feladata, hogy pozíció-függetlenül mérlegeljen. Ha erre képes, elkerülheti azokat a kognitív torzításokat, amelyeket bármely pozíció önérdeke szül. Az ilyen szabályozó pedáns elemzés után vélhetően arra kötelezné a gyártókat, hogy a legkevesebb áldozatra programozzanak. A szabályozó integritásának szépsége, hogy amennyiben megvalósul az etikus szabályozás, az formálja a helyzetet és az emberek helyzetértékelését is. Valószínűleg sokan azok közül is, akik önfeláldozásra nem lennének hajlandóak, belátnák, hogy így is valószínűleg nagyobb biztonságban vannak a jó autonóm autóban, mintha emberi sofőrre bíznák magukat. A gyártók pedig nem a vezető feláldozásával, hanem azzal hirdetnék az autót, hogy mindig optimális, és a károkat minimalizáló döntést hoz.  Így az extrém helyzet, amivel vitát provokáltunk, eltompulna a vevők észlelésében. Vele együtt pedig az a teoretikus probléma is, hogy olyan sokan lépnének vissza az autonóm autóvásárlástól, hogy az autók nagyobb biztonságának alig lenne közlekedésbiztonsági hatása.

Nicsak, mennyire máshova jut a viselkedési etika, mint a direkt racionális mérlegelés.