Gorące tematy: Wolni i Solidarni Smoleńsk Zostań BLOGEREM! RSS Kontakt
Uwaga! Wygląda na to, że Twoja przeglądarka nie obsługuje JavaScript. JavaScript jest wymagany do poprawnego działania serwisu!
316 postów 7076 komentarzy

Zawisza

Zawisza Niebieski - Hyde-Park, porozmawiaj o sprawach trudnych, bez cenzury stosowanej przez niektórych zwolenników teorii spiskowych. Tu nie banuję, chcę rozmawiać lecz na argumenty, jak Polak z Polakiem. Proszę tylko, by nie obrażać gości mego bloga.

Moralność maszyn

ZACHOWAJ ARTYKUŁ POLEĆ ZNAJOMYM

Pojawienie się samochodów kierowanych sztuczną inteligencją, bez udziału kierowców, sprawia pewne problemy moralne: jak ma zareagować samochód na kilka sekund przed wypadkiem?

Wyobraźmy sobie, na pasach mamy dwie grupy ludzi idących w pewnej odległości od siebie jedna za drugą. Z przodu idzie matka z dzieckiem, z tyłu staruszka o lasce. Ominąć się nie da, zahamować też. Gdzie skierować samochód?
 
 
Już jakiś czas temu dano badanym do wykonania pewien proste zadanie. Jest stacja kolejowa mająca dwa tory, główny i boczny. Złoczyńca przywiązał do toru głównego pięć osób, do toru bocznego jedną. Zwrotnica ustawiona jest na tor główny, ale masz po ręką przycisk a jego naciśnięcie zmieni położenie zwrotnicy i pociąg pojedzie na tor boczny zabijając zamiast pięciu tylko jednego człowieka. Zjeżdża pociąg, którego zahamować nie można. Masz dwie możliwości. Naciśniesz przycisk to TY zdecydujesz o śmierci 1 osoby. Nie naciśniesz zginie pięć, ale będziesz bez winy, złoczyńca tak zadecydował. Nie robiąc nic masz jak Piłat "czyste ręce", to nie ja odpowiadam, to złoczyńca. Naciśniesz, śmierć tej osoby spada na ciebie bo to ty zadecydowałeś/aś o tej śmierci. Przyjdzie dziecko tej osoby i zapyta, dlaczego zabiłeś mi matkę, ona była bezpieczna, była na bezpiecznym torze, to tamtych chciał zamordować złoczyńca. A co by było, gdyby tą osobą był ktoś ci znany?
 
 
Niby sprawa dla producentów samochodów kierowanych sztuczną inteligencją jest prosta. Zbadać statystyczne zachowania kierowców w analogicznych wypadkach i to odzwierciedlić w generatorze losowym inteligencji samochodu. Czyli np. w pierwszym przykładzie z matką z dzieckiem i staruszką raz na 10 razy samochód kieruje się na matkę z dzieckiem, 9 razy na staruszkę.
 
 
Dziś za wypadek odpowiada kierowca, w ocenie społecznej nawet pieszemu, który złamał przepisy przypisuje się większą sympatię. Bo przecież każdy z nas jest pieszym, a nie każdy kierowcą. Dodatkowo, z reguły to pieszy ma boleśniejsze obrażenia. W mojej prywatnej ocenie w prasie istnieje taka tendencja: znajdziesz tam tytuł artykułu "Samochód/kierowca potrącił pieszego" a z tekstu wynika, że pieszy wlazł pod pojazd w miejscu gdzie nie powinien wogóle się znajdować (kiedyś czytałem tego typu tytuł w artykule o wypadku w którym pieszy wlazł pod samochód na autostradzie). „Samochód potrącił człowieka na autostradzie" brzmiał tytuł. Widzimy człowieka - pieszego, a kierowca to już nie człowiek i jego przecież nie boli. Nie sądzę, by można było znaleźć tytuł sugerujący, że to pieszy spowodował wypadek, choćby szedł w czarnym ubraniu, deszczową nocą, środkiem drogi między wsiami. To oczywiście moje odczucie, nie poparte żadnymi badaniami tylko własną obserwacją, ale czy nie jest tak?
 
 
W przypadku samochodu kierowanego sztuczną inteligencją odpowiedzialność przechodzi na sztuczną inteligencję, a że tę oskarżać trudno to na producentów i twórców oprogramowania. Jak znamy system prawny w USA, gdzie w każdym szpitalu siedzi pomocnik prawnika i każdego zmartwionego pacjenta próbuje przekonać, że to lekarz zawinił, a nie wina tego, że pacjent ten palił papierosy pół życia. A z reguły prawnicy, odszkodowań szukają u bogatych, a producent bogaty i nikt nie będzie mówił, że dzięki odebraniu człowiekowi kierownicy wypadkowość spadła o... a, że był wypadek a wypadków nie miało być, z biznesowego punktu widzenia poprawa bezpieczeństwae może okazać się nieopłacalna. Bo winnym na pewno nie będzie pieszy a ta "piekielna maszyna". Nadal znaczna część społeczeństwa nie ma pojęcia, że istnieje coś takiego jak "droga hamowania".
 
 
Mamy więc sytuację przynajmniej dwóch typów badań,  jedne oparte o rzeczywiste zachowania kierowców w wypadkach. Tych, którzy w sytuacji stresu, strachu o własne życie, o życie pasażerów w samochodzie z którymi emocjonalnie kierowca związany jest znacznie bardziej niż np. z takim przechodniem co mu się pojawi przed nosem na drodze. On zachowa się zupełnie inaczej, niż by zadecydował w fotelu przed telewizorem. I ta pierwsza metoda badań z pewnością lepiej by odzwierciedlała rzeczywistą prawdę.
 
 
Z drugiej strony mamy badania na ludziach zupełnie nie zaangażowanych emocjonalnie. Ot siedzi sobie w pokoju badany i odpowiada jak by zareagował w danej sytuacji, i wie on, że za chwilę skończą się badania odbierze te kilka zł. za wsparcie dla nauk i pójdzie na kawę. Tu głównie zadziałają zasady moralne, przy wyborze uderzyć w dziecko czy staruszka uderzysz w staruszka. Bo ten przeżył już swoje życie, a przed dzieckiem całe życie. Nie będziesz myśleć, że obok ciebie siedzi twoje dziecko bo nawet "śmierć" tego dziecka będzie tylko wirtualna, nie rzeczywista z konsekwencjami żałoby, traumy. I znowu sędzia rozstrzygający sprawę będzie przecież należał do tej drugiej grupy, on też wie, że jak zdejmie togę to wróci spokojnie do domu na ulubioną lampkę wina, czy koniaku.
 
 
Do tego dojdą naciski marketingowe. Bo przecież w mojej marki (producent) samochodzie nie może zginąć pasażer, bo klient nie po to kupuję samochód ze sztuczną inteligencją, nie po to rezygnuje z przyjemności kierowania, by ten nie chronił niego i jego współpasażerów. Nawet jeśli z punktu widzenia zimnego rachunku przydatności dla społeczeństwa jego współpasażer jest tym "mniej wartościowym". Jeśli musi ktoś ucierpieć, to już niech ucierp ten drugi uczestnik ruchu.
 
 
I rodzi się kolejne pytanie, czy jeśli maszyna zadziała zgodnie w tak ustawionym programem to na pewno społeczeństwo zaakceptuje, że za wszystkie wypadki odpowiadają ludzie? Szmochód działa ściśle z zasadami, człowiek nie. Ile razy mówimy, ten głupi komputer nie działa a nie, moja głupota, nie nacisnąłem odpowiedniego przycisku. W naszej mentalności winę ponosi zawsze ten drugi a nie ja i niekiedy ciężko przekonać "delikwenta", że to jednak on był winien. Patrz program telewizyjny „Drogówka”
 
 
Po co w ogóle takie sprawy rozważać, przecież samochody te mają być bezwypadkowe, mają chronić nas przed wypadkami? Tu pojawia się pojęcie „czynnik ludzki”. Samochody te będą jeździły zgodnie z zasadami ruchu. Ale ludzie? Jakże często, traktują te zasady jako zbędną uciążliwość. Po co czekać na światłach, kiedy nic nie jedzie? Po co iść do przejścia dla pieszych, gdy mogę przebiec tu gdzie stoję, choćby to była dwupasmowa droga tylko dla samochodów? Dla niektórych wręcz będzie to chwila satysfakcji.

 

Dla rouxa, za uratowanie wiewiórki łabędzie w locie, Biebrza 2011 :)

Podróżniczek, gniazduje koło Ossowiec Twierdza.

Kozioł sarny w porannej mgle.

 

Czapla biała w locie, za trzcinami

 

 

 

 

 

 

KOMENTARZE

  • Autor Bardzo interesująca notka 5*
    Żywy kierowca może czasem zdjąć nogę z gazu bez żadnego racjonalnego powodu i okazuje się, że "to je ono"
    Pozdrawiam
  • @roux 20:41:41
    Prawda, żywy kierowca też ponosi odpowiedzialność za podjęte przez siebie decyzje, trudno programistę pociągać do odpowiedzialności za decyzje podjęte przez maszynę. Choć w przypadku samochodów kierowanych przez sztuczną inteligencją rzeczywiście przyjęte przez niego parametry decydują o życiu lub śmierci człowieka.
  • Te komputerowe samochody beda w 100% pewne jak w 100%
    sa pewne nasze komputery.Nigdy sie nie zawieszaja,nigdy nie maja zadnych wirusow, nigdy sie nie myla.
    Kiedys wybralismy sie na wycieczke do Smoky Mountains.GPS popelnil 12 bledow w jedna strone jazdy a w Smoky Mountains chcial bysmy jechali przez gory, po skalach.Na koncu drogi gosc kosil trawe i usmiechniety pomachal nam.Zapytalem czemu sie tak cieszy.On na to, ze co chwila jakis samochod to przyjezdrza i chce skaly forsowac i ze go to strasznie bawi.Ja rozbawilem sie na drugi dzien jak nasz kierowca, kuzyn mej zony, wierzacy bardzo w nowinki techniczne wjechal znowu w ta sama droge( co zauwazylem od razu) i drugi raz dojechal do tej samej sciany skalnej.Nie lubial mnie wtedy.
  • @staszek kieliszek 00:27:40
    Z GPS jest wiele zabawnych sytuacji, kiedyś w Anglii krążyłem między dwoma rondami, bo nie mogłem znaleźć drogi w bok w którą kazał mi GPS skręcić, wreszcie zobaczyłem, że ta droga to dróżka dla rowerzystów w którą by wjechać trzeba było furtkę uchylić. W Polsce szczególnie na północnym wschodzie, choć i Mazury GPS często się gubi (mam TOM TOM z wieczystym uaktualnianiem map, mapa Europa). Wiadoma sprawa, że wprowadzenie i korekta map wszystkich dróg to tytaniczna praca a z powodu tego, że producentów map jest wielu opracowują je stosunkowo niewielkie zespoły, a do tego trzeba jeszcze wprowadzać nowe drogi, stąd i błędy.
  • @Zawisza Niebieski 22:36:25
    Dzisiejsza przygoda "żywego kierowcy": ponieważ rozmyślał nad Twoją notką, jechał po znanej sobie ulicy znacznie wolniej niż zwykle; kątem oka zauważył wbiegającą pod samochód wiewiórkę; abs zadziałał prawidłowo, zwierzątko zdążyło uciec bezpiecznie dzięki Tobie ;-))
  • @roux 18:11:14
    Uwielbiam przyrodę, uwielbiam zwierzęta, moja pasja to fotografowanie ich w naturze, stąd każda wiewiórka żywa jest czymś dodatnim. :)
  • @Zawisza Niebieski 20:56:11
    Dziękuję za foto. Rewelacja. Fotografowales ze statywu?
  • @roux 10:37:57
    Mam coś takiego jak monopod, bo obiektyw ciężki, 1.8 kg. O ile dobrze pamiętam to właśnie z nim robiłem, choć mogło być i z ręki. Jeśli ci się podoba, to wrzucę jeszcze kilka ptaszków :) Nie lubię zabijać ryb, więc nie wędkuję, a to podobne zajęcie, też uspakaja, też wycisza, też pozwala pobyć w samotności.
  • .
    To są pytania o moralność sterownika PLC zawiadującego linią technologiczną, na której właśnie zginął, bądź doznał poważnego uszczerbku na zdrowiu delikwent, który ominął zabezpieczenia i został przygnieciony przez jedno z pracujących tam urządzeń.
    Jaką odpowiedzialność ponosi programista i projektant?
    Żadnej, o ile zaprojektowali wszystko tak, aby ryzyko spełniało zasadę ALARP - ma być tak niskie, jak to praktycznie możliwe.
    Można linię otoczyć ogrodzeniem, mającym siatkę o oczkach nie przepuszczających komara i wytrzymującym szarżę słonia.
    Ale nie jest to praktyczne. Praktyczniej jest wywiesić ostrzeżenia i przyuczyć personel tak, aby działał zgodnie z zasadami BHP.
    Sterownik nie ma generatora losowego, mającego w pamięci matrycę statystyczną ludzkich reakcji, tylko algorytmy, analizujące stany wejściowe i wyjściowe, odpowiedź systemu, w tym uchyb regulacji - i na ich podstawie wyliczające odpowiednie nastawy elementów kontrolnych.
    Rzeczą najbardziej zbliżoną do ludzkich zachowań jest we współczesnej automatyce stosowanie logiki rozmytej, fuzzy logic.
    W niej nie ma wyłącznie zer i jedynek, tylko zbiory, które mogą przyjmować wartości pośrednie - mało, średnio, dużo.
    Można sobie łatwo wyobrazić działanie systemu w odniesieniu do podanego wyżej przykładu.
    Radar, skanujący przestrzeń przed samochodem, wykrywa obiekty przed zderzakiem auta.
    Po szybkości poruszania się i gabarytach wylicza, że obiekty te spełniają wymagane kryteria, aby być zaliczone do pieszych.
    Algorytm wylicza, że w danej sytuacji nie uda się zatrzymać przed nimi auta. W jednym miejscu jest tych pieszych mniej i sterownik wylicza, że skierowanie tam samochodu przyniesie najmniejsze straty.
    Jeżeli tak każe program, automatyka poprowadzi pojazd właśnie tam.
    W sądzie programista z łatwością wytłumaczy się z przyjętego kryterium minimalizowania strat, ponieważ jest ono zgodne z rozsądkiem. I moralnością też.
    A jeśli w przypadku nieuniknionego czołowego zderzenia program zachowa się tak, że w razie braku obecności pasażera na przednim siedzeniu uderzy prawą stroną pojazdu, ale jeśli tam jest, to centralnie?
    Problematycznym moralnie byłoby w takim przypadku zainstalować w samochodzie trójpozycyjny przełącznik - ja, żona, oboje - i tym samym zmusić kierowcę, aby zawczasu określił kogo należy poświęcić.
    Ale takich wyborów niejednokrotnie dokonuje się na gorąco i jeśli wychodzi się z opresji żywcem, trzeba później z tym żyć.
    Wspomniane wyżej kryterium minimalizowania strat jest bardziej tutaj bardziej akceptowalne, więc zapewne to ono będzie stosowane.
    Tu nie ma nowych pytań, są wciąż stare, tylko w nowych okolicznościach.
  • @alek.san 17:14:56
    Dokładnie ze strony automatyki to opisałeś, nie chciałem tak głęboko w automatykę i rozwiązania techniczne w tym tekście wchodzić. Ale tak rzeczywiście jest, problem polega na tym jak to kryterium decyzji określić. Napisałeś "W jednym miejscu jest tych pieszych mniej i sterownik wylicza, że skierowanie tam samochodu przyniesie najmniejsze straty. " ale masz gabaryty, tam gdzie mniej osób są osoby o mniejszych gabarytach więc dzieci, bo jeśli za rękę nie przytrzymasz to one biegną przed dziadkami, albo dziecko się wyrwało i dziadkowie/rodzice biegną by je chwycić? Jestem przekonany, że gdyby automatyka wybrała uderzenie w dwójkę dorosłych a nie w dziecko, to zarówno oni jak i znaczna część społeczeństwa byłaby wdzięczna. I wtedy ten wybór "mniejsze straty, bo mniej osób" już nie będzie, w ocenie społecznej, moralnym. Większość z nas chroniłaby jednak dzieci. Dochodzą sprawy marketingowe w samochodzie jest 1 osoba, przed nim kilka, alternatywą do uderzenia w te osoby jest betonowa ściana. Zasada mniejszych strat wskazuje zaryzykować życie pasażera samochodu. Choć niekiedy reakcja (altruizm) kierowcy będzie zupełnie inna.
    Badania o których czytałem i które skłoniły mnie do napisania tego tekstu są badaniami rzeczywiście dziś prowadzonymi a pytania te są rzeczywiście stawiane przez badaczy.
  • @Zawisza Niebieski 19:59:51
    Jeśli samochód autonomiczny będzie jeździć w/g przepisów, to w Polsce nie będzie szybszy od pieszego, a więc w 100% bezpieczny :P.

    No i do/z wielu miejsc nie dojedzie/wyjedzie, bo oznakowanie będzie sprzeczne...

OSTATNIE POSTY

więcej

MOJE POSTY

więcej

ARCHIWUM POSTÓW

PnWtŚrCzPtSoNd
    123
45678910
11121314151617
18192021222324
25262728293031