Els conceptes ètics de l'automatització

A mesura que la automatització dels processos i activitats s'ha desplaçat de les fàbriques a contextos quotidians, sorgeixen dubtes sobre com aquests processos automàtics han d'interaccionar amb les persones i les propietats. En definitiva, apareixen preguntes lògiques sobre com haurien de comportar-se amb les nostres coses i amb els éssers humans. És lícit també pensar que els científics i els investigadors han d'avançar-se a tots aquests hipotètics problemes que poden aparèixer.

Mentre que no hi ha dubte que en cas de sinistre, el típic cotxe o camió que trenca la tanca d'una propietat, és el conductor i / o el propietari del vehicle el responsable de les destrosses i el que ha de fer front a les indemnitzacions corresponents, en el cas dels processos automàtics la qüestió, ja convertida en dilema, és una mica més profunda: què passa quan aquest procés automàtic no destrossa una propietat per accident, sinó que pot decidir fer-ho o no en base a uns paràmetres programats en el seu cervell electrònic?.

Per exemple, un camió de neteja sense conductor realitzant treballs rutinaris, reacciona davant l'aparició d'un nen en un tricicle i l'única manera d'evitar l'atropellament fóra desviant la seva trajectòria trencant una tanca. Tots aplaudiran la seva decisió, els costos econòmics es donen per ben empleats davant d'un possible accident i perill d'una vida humana.
Posant un altre exemple: un comboi de metro, que en algunes ciutats ja funciona sense conductor, detecta un objecte al mig de la via: una persona ha caigut a escassos metres del vagó d'arrossegament. Si el conductor fos una persona, i estigués ben entrenat, el conductor accionaria els frens, esperant que la seva acció permetés salvar la vida d'aquesta persona. A partir d'aquí apareixen diversos escenaris:

• Escenari 1: el comboi frena i pot salvar la vida de la persona a la via, no hi ha hagut ferits entre els passatgers transportats i més enllà de l'ensurt corresponent, no hi ha hagut conseqüències serioses.
• Escenari 2: el comboi frena i aconsegueix salvar la vida d'aquesta persona però hi ha hagut ferits entre els passatgers.
• Escenari 3: a partir del cas anterior, hi ha hagut diversos ferits i una mort entre els passatgers
• Escenari 4: a partir del cas anterior, hi ha hagut més morts entre els passatgers.

Tots aquests dilemes, encara que sembli una bogeria, es podrien sintetitzar en una mena de matriu.

Evidentment, els escenaris són il·limitats.
Imaginant que el conductor davant la imminència de l'atropellament valorés diverses coses en una fracció de segon: a causa de que transporta una gran quantitat de passatgers, en frenar bruscament els vagons, la frenada originària sens dubte diversos ferits greus i possiblement morts. Imaginar també que el conductor determinés que els riscos per als passatgers són tan alts que ni tan sols accionés el fre d'emergència, atropellant a la persona de la via. Tampoc s'han tingut en compte les situacions en què estigués en perill la pròpia vida del conductor. Els factors a tenir en compte són gairebé inimaginables.

La veritat és que no hi ha constància que els sistemes automatitzats de control dels vagons de metro disposin d'aquest tipus d'intel·ligència. No obstant això, tots aquests dilemes surten a la llum a mesura que els sistemes de decisió es recolzen en intel·ligències pseudo-artificials capaces de processar tota aquesta informació en temps real. Si deleguem la responsabilitat en les màquines hem d'estar segurs que les decisions són les més adequades. Un sistema que recollís tots els factors: nombre de passatgers, inevitabilitat (o no) de la tragèdia i prengués la decisió més adequada tenint en compte les vides humanes en perill.

Com a resultat, està realment un conductor preparat per prendre aquestes decisions en una fracció de segon?. I si en lloc del conductor fos un sistema automatitzat el que prengués les decisions?, com a directius de l'empresa assumiríen la responsabilitat de les seves accions? Com a ciutadans estaríem disposats a acceptar la decisió presa? Tindria suport?.

Font: UOC