Previous Page

Aktualności

Dylematy etyczne autonomicznych maszyn. O wyzwaniach w projektowaniu sztucznej inteligencji opowiada ekspert Sii
Strona główna Aktualności Wydarzenia Dylematy etyczne autonomicznych maszyn. O wyzwaniach w projektowaniu sztucznej inteligencji opowiada ekspert Sii

Dylematy etyczne autonomicznych maszyn. O wyzwaniach w projektowaniu sztucznej inteligencji opowiada ekspert Sii

Przewiń w dół

06 grudnia 2018

  • podziel się:

Wyzwania, jakie stoją przed producentami maszyn autonomicznych oraz związki etyki z technologią i przyszłość w dziedzinie projektowania user experience to tylko kilka z tematów poruszonych przez eksperta Sii podczas wystąpienia na konferencji EuroIA w Dublinie.

Konferencja EuroIA jest jednym z najważniejszych wydarzeń w Europie poświęconych architekturze informacji i projektowaniu user experience. W tym roku, w Dublinie, odbyła się już jej 14. edycja, a jednym z prelegentów był Sławomir Molenda, UX Designer z Centrum Kompetencyjnego Digital w Sii. Ekspert podzielił się swoją wiedzą o najważniejszych aspektach projektowania algorytmów etycznych, które znajdują zastosowanie w produkcji maszyn autonomicznych, a także o perspektywach, jakie otwierają się przed specjalistami projektującymi user experience i user interface.

Barbara Kun, Marketing Account Manager: Twoja prezentacja nosiła tytuł The design of ethical algorithms in autonomous machines (Projektowanie algorytmów etycznych dla autonomicznych maszyn). Na co chciałeś położyć największy nacisk podczas swojego wystąpienia?

Sławomir Molenda, UX Designer: Zaprojektowanie dobrej (w przeciwieństwie do szkodliwej) sztucznej inteligencji jest jednym z wyzwań nadchodzącej właśnie czwartej rewolucji przemysłowej. W mojej prezentacji chciałem przedstawić związane z tym technologiczne i filozoficzne problemy, np. jak “wbudować” etykę w maszyny autonomiczne. Jakimi normami etycznymi mają się kierować nie robiąc nam przy okazji krzywdy.

Wielu techno-optymistów wierzy, że większa automatyzacja ostatecznie wyzwoli ludzkość z męczących i powtarzalnych czynności, że będziemy spędzali czas na samych przyjemnościach. To nawet dobrze buduje narrację postępu.

Jednak dzięki zaawansowanej sztucznej inteligencji chcemy się pozbyć odpowiedzialności przy podejmowaniu trudnych decyzji. Odpowiedzialność spoczywałaby na algorytmach znajdujących się w samochodach nie wymagających kierowców, robotach eksploracyjnych i ratowniczych, systemach militarnych (np. dronach), robotach medycznych, ale również sex robotach, które będą zyskiwały coraz większą autonomię.

Współczesne algorytmy wciąż piszą ludzie. Łatwo popełnić w nich różne rodzaje błędów poznawczych, nie przewidzieć wszystkich scenariuszy. Należy take zadać sobie pytanie, czy jesteśmy wystarczająco gotowi technologicznie i etycznie, aby przekazać maszynom decyzje dotyczące czyjegoś życia lub śmierci?

B.K.: W prezentacji podałeś przykłady dylematów etycznych znanych z filozofii, m.in. pociągu, którego zmiana toru jazdy pozwoli ocalić pięć osób kosztem jednej. Wydaje się, że zagadnienia, które do tej pory były jedynie pretekstem do teoretycznych rozważań, mogą wkrótce znaleźć zastosowanie w praktyce. W jaki sposób etyka może łączyć się z technologią?

S.M.: Mniej więcej od osiemnastego wieku doświadczamy ogromnych zmian społecznych dzięki rozwojowi przemysłu. Etyka ewoluuje razem z nami, normy społeczne się zmieniają. Możemy zaobserwować, że postęp technologiczny ma też wiele ciemnych stron. Może nas alienować, odczłowieczać i prowadzić do większego nihilizmu.

Wraz z rozwojem sztucznej inteligencji znaczenie etyki w jej projektowaniu znacznie wzrosło. Dodano ją do agendy największych korporacji IT oraz instytucji Unii Europejskiej. Mam szczerą nadzieję, że rezultat tego będzie jednak pozytywny.

Istnieje kilka problemów związanych z projektowaniem etycznej, sztucznej inteligencji. Pierwszym z nich są źle przygotowane dane, którymi trenowane są algorytmy. Dzięki temu wynik ich pracy bywa niesprawiedliwy. Cathy O’Neil podała w swojej książce “Broń matematycznej zagłady” wiele przykładów źle zaprojektowanych systemów. Potrafią one dyskryminować różne grupy ze względu na płeć i kolor skóry, wysyłać niegroźnych więźniów na recydywę oraz tworzyć enklawy dla uprzywilejowanych osób, np. białych, bogatych mężczyzn.

Są też produkty napędzane sztuczną inteligencją, które z założenia zostały zaprojektowane do działań nieetycznych. Myślę tu o systemach wspomagających manipulowanie ludźmi, sianie dezinformacji i strachu.

Ale mamy dopiero początek rozwoju silnej sztucznej inteligencji i etycznych problemów, jakie ona przyniesie. W najbliższym czasie zobaczymy konsekwencje decyzji podejmowanych przez samochody autonomiczne. W kryzysowych sytuacjach będą musiały wybrać między życiem kierowcy lub np. grupy osób na przejściu dla pieszych. Musimy pamiętać, że mówiąc o algorytmach, mówimy również o ich twórcach lub o wytycznych, jakimi się kierowali.

Takie rozważania etyczne prowokują i zmuszają do zastanowienia się, czym tak naprawdę jest etyka. Czy istnieją jakieś uniwersalne normy, którymi kierują się ludzie? Czy w ogóle możliwe jest przeniesienie ludzkiego sposobu wnioskowania i kontekstu etycznego do autonomicznych maszyn? To bardzo trudne pytania zarówno dla filozofów jak i programistów.

B.K.: Dlaczego zdecydowałeś się wygłosić prezentację na ten temat właśnie podczas konferencji EurolA?
S.M.: EuroIA jest jedyną konferencją w Europie, na której zagadnienia dotyczące architektury informacji są dla jej uczestników i organizatorów naprawdę ważne. Na przykład, w tym roku udało mi się wziąć udział w warsztacie “Ontology Dojo”. Ćwiczyliśmy na nim wykorzystanie myślenia ontologicznego do utworzenia obiektów, ich predykatów, atrybutów oraz klas dla tych obiektów.

Oprócz ciekawych warsztatów, na EuroIA przyjeżdżają bardzo otwarci ludzie. Panuje tu przyjazna i rodzinna atmosfera. Można bez problemu porozmawiać z najbardziej doświadczonymi praktykami z branży projektowej. Także znanymi autorami książek o architekturze informacji, takimi jak Donna Spencer, Peter Morville czy Louis Rosenfeld.

Ale mimo tego, ta konferencja wciąż jest kameralna i pozostaje w cieniu ogromnych wydarzeń, jak UXLX czy UX London. Prawdopodobnie dlatego, że nie ma w nazwie UX.

B.K.: Jaki wpływ na projektowanie user experience i user interface mają zmiany zachodzące w branży IT?

S.M.: Nie wiem, czy to zasługa zmian w IT, czy lepszej współpracy projektantów z deweloperami i innymi projektantami, ale z pewnością potrafimy szybciej tworzyć prototypy. Pomagają w tym lepsze narzędzia, wtyczki do nich, biblioteki kontrolek UI, różne design systemy (Google, IBM) coraz aplikacje do animacji interfejsu.

Jednak fazy poprzedzające powstanie prototypu zajmują wciąż dużo czasu, niezależnie od zmian w IT. Ideacja, odkrywanie potencjalnych rozwiązań (np. dzięki Design Thinking), badania etnograficzne, zbieranie wymagań biznesowych. To są etapy pracy, które często najbardziej decydują o sukcesie danego produktu.

B.K.: Jesteś ekspertem z ponad dziesięcioletnim doświadczeniem. Miałeś okazję pracować przy wielu komercyjnych projektach dla polskich i zagranicznych firm. Twoim zdaniem, jakie perspektywy otwierają się przed specjalistami z obszaru user experience i user interface?

S.M.: Firmy współpracujące z Sii, którym zależy na zadowoleniu swoich klientów, pracowników i na lepszych produktach, uważają wsparcie projektantów UX za kluczowe. Wierzę, że przy tak intensywnym rozwoju branży IT i popycie na lepszy design, będzie jeszcze więcej pracy dla osób o takiej specjalizacji.

W Sii mam okazję pracować dla klientów z bardzo różnych branż — motoryzacyjnej, finansowej, medycznej, budowlanej czy sportowej. Ta różnorodność sprawia, że nie zamykam się w jednej, konkretnej domenie wiedzy. Dzięki temu mogę się rozwijać.

Poza tym w każdej z tych branż zachodzą zmiany związane z nowymi technologiami. Istnieje rosnąca potrzeba na specjalistów zajmujących się interfejsami głosowymi i konwersacyjnymi, rzeczywistością wirtualną, rozszerzoną oraz tworzeniem scenariuszy zachowań sztucznej inteligencji. Perspektywy dla branży UX są bardzo interesujące i na pewno nikt nie będzie narzekał na nudę.

Zachęcamy do zapoznania się z prezentacją The design of ethical algorithms in autonomous machines dostępną na stronie slideshare.net.

Centrum Kompetencyjne Digital, które specjalizuje się w ramach Sii zarówno w projektowaniu User Experience, jak i w rozwoju oprogramowania oraz budowaniu i utrzymaniu systemów IT. Wspiera firmy z różnych sektorów w tworzeniu aplikacji mobilnych i webowych, rozwiązań e-commerce, zarządzaniu procesami biznesowymi oraz wdrażaniu Robotic Process Automation. Z pełną ofertą można zapoznać się na stronie Centrum.

To również może Cię zainteresować

Wyślij wiadomość

podziel się ze znajomymi

captcha