{"id":63816,"date":"2022-05-06T12:09:39","date_gmt":"2022-05-06T12:09:39","guid":{"rendered":"https:\/\/www.globallogic.com\/pl\/?post_type=insightsection&p=63816"},"modified":"2025-01-30T12:14:27","modified_gmt":"2025-01-30T12:14:27","slug":"czy-sztuczna-inteligencja-moze-byc-stronnicza","status":"publish","type":"insightsection","link":"https:\/\/www.globallogic.com\/pl\/insights\/blogs\/czy-sztuczna-inteligencja-moze-byc-stronnicza\/","title":{"rendered":"Czy sztuczna inteligencja mo\u017ce by\u0107 stronnicza?"},"content":{"rendered":"
\n
\n

Co sprawia, \u017ce algorytm mo\u017ce by\u0107, podobnie jak cz\u0142owiek, stronniczy lub uprzedzony? Czy mo\u017ce podejmowa\u0107 decyzje, nie b\u0119d\u0105c obiektywnym? Jednym z wyzwa\u0144 zwi\u0105zanych z rozwojem sztucznej inteligencji jest zadbanie o jej bezstronno\u015b\u0107. Okazuje si\u0119 to szczeg\u00f3lnie wa\u017cne w sektorach, w kt\u00f3rych podejmowanie aktywno\u015bci musi by\u0107 oparte na faktach i obiektywnych przes\u0142ankach.<\/p>\n

\n

 <\/p>\n

Bezstronna sztuczna inteligencja<\/strong><\/h2>\n

Rozw\u00f3j sztucznej inteligencji jest bezpo\u015brednio zwi\u0105zany z naszymi d\u0105\u017ceniami do perfekcji i nieomylno\u015bci. Stulecia historii cywilizacji nauczy\u0142y nas, \u017ce nie ma ludzi doskona\u0142ych i wolnych od pope\u0142niania b\u0142\u0119d\u00f3w. Nawet najlepszy specjalista w swojej dziedzinie, maj\u0105cy lata do\u015bwiadczenia zawodowego i bogat\u0105 wiedz\u0119, mo\u017ce czasami podj\u0105\u0107 niekoniecznie w\u0142a\u015bciw\u0105 decyzj\u0119. W algorytmach tymczasem upatrujemy rozwi\u0105zania, licz\u0105c, \u017ce b\u0119d\u0105 w stanie zawsze podejmowa\u0107 w\u0142a\u015bciwe wybory. By jednak by\u0142o to mo\u017cliwe, SI musi by\u0107 bezstronna i wolna od jakichkolwiek uprzedze\u0144. To obecnie jedno z najwi\u0119kszych wyzwa\u0144 zwi\u0105zanych z rozwojem i upowszechnianiem technologii w r\u00f3\u017cnych bran\u017cach.<\/p>\n

Wbrew pozorom ca\u0142kiem \u0142atwo jest sprawi\u0107, by algorytm maj\u0105cy dzia\u0142a\u0107 bezemocjonalnie, operuj\u0105c jedynie na faktach, zacz\u0105\u0142 zachowywa\u0107 si\u0119 podobnie jak jego ludzki odpowiednik w danej roli. By w swoich decyzjach faworyzowa\u0142 pewne rozwi\u0105zania czy osoby i mia\u0142 okre\u015blone preferencje. Na tym w\u0142a\u015bnie polega problem stronniczej SI, kt\u00f3ra na etapie uczenia i interpretacji otrzymywanych informacji, dokonuje subiektywnych obserwacji i na ich podstawie wypacza oryginalny cel, kt\u00f3ry mia\u0142a osi\u0105ga\u0107. Machine learning, cho\u0107 ma ogromny potencja\u0142, nie jest te\u017c wolny od s\u0142abo\u015bci – przewidywania nie wychodz\u0105 poza pewne ramy, kt\u00f3re zosta\u0142y wypracowane podczas uczenia na bazie dostarczonych do analiz danych. A te mog\u0105 by\u0107 w\u0142a\u015bnie, czasami nawet niedostrzegalnie na pierwszy rzut oka, stronnicze, kreuj\u0105c fa\u0142szywy obraz rzeczywisto\u015bci.<\/p>\n

 <\/p>\n

Stronnicza SI oznacza wyzwanie<\/strong><\/h2>\n

Dlaczego kwestia stronniczej SI wymaga natychmiastowej reakcji i dzia\u0142ania ze strony os\u00f3b i organizacji rozwijaj\u0105cych technologi\u0119? Konsekwencje ignorowania problemu \u0142atwo dostrzec ju\u017c dzisiaj, obserwuj\u0105c niew\u0142a\u015bciwe, b\u0142\u0119dne i dyskryminuj\u0105ce dzia\u0142ania ze strony algorytm\u00f3w podczas przeprowadzanych test\u00f3w czy symulacji.<\/p>\n

Autonomiczny samoch\u00f3d, kt\u00f3rego systemy nie rozpoznaj\u0105 os\u00f3b na w\u00f3zkach inwalidzkich.<\/p>\n

System rozpoznawania twarzy, kt\u00f3ry identyfikuje wy\u0142\u0105cznie u\u017cytkownik\u00f3w o okre\u015blonym kolorze sk\u00f3ry.<\/p>\n

Robot przemys\u0142owy, kt\u00f3ry ignoruje informacje o wzro\u015bcie ci\u015bnienia w uk\u0142adzie ch\u0142odz\u0105cym.<\/p>\n

Algorytm klasyfikuj\u0105cy pacjent\u00f3w, kt\u00f3ry dyskryminuje osoby z konkretnych grup spo\u0142ecznych czy przedstawicieli danej rasy.<\/p>\n

System wyliczaj\u0105cy sk\u0142adki ubezpieczeniowe, kt\u00f3ry z g\u00f3ry przyjmuje, \u017ce kobiety s\u0105 gorszymi kierowcami i cz\u0119\u015bciej powoduj\u0105 wypadki.<\/p>\n

W wielu sektorach stronnicza SI stanowi wyzwanie, kt\u00f3re sprawia, \u017ce proces upowszechniania rozwi\u0105za\u0144 automatyki przemys\u0142owej<\/a> czy technologii connected cars jest wyd\u0142u\u017cony i bardziej skomplikowany.<\/p>\n

Powy\u017csze przyk\u0142ady do\u015b\u0107 obrazowo pokazuj\u0105, jakie skutki mo\u017ce mie\u0107 bagatelizowanie tego tematu. W wielu przypadkach dopuszczenie do dzia\u0142ania stronniczej SI nie jest efektem z\u0142ej woli tw\u00f3rc\u00f3w czy nast\u0119pstwem ich lekcewa\u017c\u0105cego stosunku do problemu. Sytuacja cz\u0119sto wynika z trudno\u015bci identyfikacji problemu \u2013 wymaga uprzednio sprecyzowania, jakiego rodzaju \u201euprzedzonego zachowania\u201d ze strony sztucznej inteligencji szukamy, a nast\u0119pnie analizy wi\u0119kszego zbioru danych z jej pracy. Projektanci i in\u017cynierowie musz\u0105 wi\u0119c, przy tworzeniu nowych algorytm\u00f3w, uwzgl\u0119dnia\u0107 ju\u017c istniej\u0105ce uprzedzenia oraz nieustannie testowa\u0107 systemy pod k\u0105tem potencjalnie nowych i wcze\u015bniej nieznanych, by zapobiec ich rozpowszechnianiu i upowszechnianiu.<\/p>\n

 <\/p>\n

Jak uczy si\u0119 sztuczna inteligencja<\/strong><\/h2>\n

Szybki rozw\u00f3j takich technologii, jak machine learning czy deep learning, sprzyja zwi\u0119kszaniu liczby zastosowa\u0144 sztucznej inteligencji. Wszelkiego rodzaju maszyny przemys\u0142owe i roboty osobiste<\/a>, zmieniaj\u0105 i kszta\u0142tuj\u0105 nasz wsp\u00f3\u0142czesny \u015bwiat. Algorytmy podejmuj\u0105ce decyzje znajdziemy w sektorach medycznym, automotive, u podstaw Industry 4.0<\/a> czy w szeroko rozumianej logistyce, w kt\u00f3rej rozwijane s\u0105 cho\u0107by smart porty<\/a>. Wsz\u0119dzie tam pojawia si\u0119 ryzyko, \u017ce dane udost\u0119pnione do nauki SI b\u0119d\u0105 mog\u0142y zafa\u0142szowa\u0107 obraz rzeczywisto\u015bci i doprowadzi\u0107 do jej stronniczo\u015bci w przysz\u0142o\u015bci. A to z kolei mo\u017ce skutkowa\u0107 sytuacjami, z kt\u00f3rymi wdra\u017canie algorytm\u00f3w mia\u0142o pom\u00f3c walczy\u0107, jak uprzedzenia wobec konkretnych grup pracownik\u00f3w czy ludzkie b\u0142\u0119dy pope\u0142niane podczas pracy, kontroli system\u00f3w czy nawet zwyczajnej jazdy samochodem.<\/p>\n

Sztuczna inteligencja nie osi\u0105gn\u0119\u0142a jeszcze poziomu, w kt\u00f3rym mo\u017ce r\u00f3wnie swobodnie jak ludzki m\u00f3zg interpretowa\u0107 dane, rozumowa\u0107 i wyci\u0105ga\u0107 wnioski. Nie radzi sobie r\u00f3wnie dobrze z sytuacjami niespodziewanymi, kt\u00f3re wymagaj\u0105 podejmowania nieszablonowych decyzji. W obliczu tych wyzwa\u0144, kt\u00f3re stanowi stronnicza SI, trwaj\u0105 wi\u0119c prace nad stworzeniem odpowiednich materia\u0142\u00f3w szkoleniowych dla system\u00f3w. Baz danych, kt\u00f3re b\u0119d\u0105 stanowi\u0107 obiektywn\u0105 reprezentacj\u0119 rzeczywisto\u015bci, uwzgl\u0119dniaj\u0105c\u0105 wszystkie cechy \u015bwiata, zachodz\u0105cych w nim proces\u00f3w i uczestnicz\u0105cych w nich ludzi. Celem prac jest opracowanie dla ucz\u0105cych si\u0119 algorytm\u00f3w idealnych cel\u00f3w i zminimalizowanie sytuacji, w kt\u00f3rych s\u0105 one zast\u0119powane przez niew\u0142a\u015bciwe, nieobiektywne wyznaczniki.<\/p>\n

 <\/p>\n

Ku obiektywnej sztucznej inteligencji<\/strong><\/h2>\n

Problem stronniczej SI przybiera na znaczeniu wobec szybkiego rozwoju technologii i coraz wi\u0119kszej liczby zastosowa\u0144 algorytm\u00f3w w r\u00f3\u017cnych bran\u017cach. D\u0105\u017c\u0105c do wi\u0119kszej automatyzacji i autonomiczno\u015bci pojazd\u00f3w, maszyn czy urz\u0105dze\u0144, tworzymy algorytmy, kt\u00f3re maj\u0105 dzia\u0142a\u0107 nieomylnie, skutecznie i obiektywnie. Oczekuj\u0105c kolejnych sukces\u00f3w we wdra\u017caniu technologii i zachwycaj\u0105c si\u0119 przyk\u0142adami jej zastosowa\u0144, musimy jednak wr\u00f3ci\u0107 do pocz\u0105tku i zadba\u0107 o w\u0142a\u015bciwe wzorce, na bazie kt\u00f3rych sztuczna inteligencja b\u0119dzie mog\u0142a zosta\u0107 zaprojektowana i osi\u0105ga\u0107 oczekiwany poziom. W tym przypadku jeste\u015bmy na etapie, kiedy potrzebny jest krok wstecz, by m\u00f3c za chwil\u0119 zrobi\u0107 dwa do przodu.<\/p>\n

 <\/p>\n

Rozwijaj sztuczn\u0105 inteligencj\u0119 w GlobalLogic<\/strong><\/h2>\n

W GlobalLogic realizujemy zaawansowane projekty dla klient\u00f3w z r\u00f3\u017cnych bran\u017c, tworz\u0105c innowacyjne rozwi\u0105zania, z kt\u00f3rych wkr\u00f3tce b\u0119d\u0105 korzysta\u0107 miliony os\u00f3b na ca\u0142ym \u015bwiecie. Z bliska obserwujemy, jak rozwijaj\u0105 si\u0119 systemy embedded<\/a> i sztuczna inteligencja. Chcesz po\u0142\u0105czy\u0107 pasj\u0119 z prac\u0105 i rozwija\u0107 si\u0119 zawodowo? Sprawd\u017a, kogo szukamy w zak\u0142adce kariera<\/a> i do\u0142\u0105cz do naszych zespo\u0142\u00f3w dzia\u0142aj\u0105cych w r\u00f3\u017cnych cz\u0119\u015bciach kraju.<\/div>\n","protected":false},"excerpt":{"rendered":"

Co sprawia, \u017ce algorytm mo\u017ce by\u0107, podobnie jak cz\u0142owiek, stronniczy lub uprzedzony? Czy mo\u017ce podejmowa\u0107 decyzje, nie b\u0119d\u0105c obiektywnym? Jednym z wyzwa\u0144 zwi\u0105zanych z rozwojem sztucznej inteligencji jest zadbanie o jej bezstronno\u015b\u0107.<\/p>\n","protected":false},"author":64,"featured_media":63818,"parent":0,"menu_order":37,"template":"","insight":[41],"insight-subcats":[799,798],"insight-industry":[750],"insight-services":[803],"insight-partners":[],"class_list":["post-63816","insightsection","type-insightsection","status-publish","has-post-thumbnail","hentry","insight-blogs","insight-subcats-ai-governance","insight-subcats-mlops","insight-industry-technology","insight-services-intelligence-engineering"],"acf":[],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/www.globallogic.com\/pl\/wp-json\/wp\/v2\/insightsection\/63816","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.globallogic.com\/pl\/wp-json\/wp\/v2\/insightsection"}],"about":[{"href":"https:\/\/www.globallogic.com\/pl\/wp-json\/wp\/v2\/types\/insightsection"}],"author":[{"embeddable":true,"href":"https:\/\/www.globallogic.com\/pl\/wp-json\/wp\/v2\/users\/64"}],"version-history":[{"count":1,"href":"https:\/\/www.globallogic.com\/pl\/wp-json\/wp\/v2\/insightsection\/63816\/revisions"}],"predecessor-version":[{"id":101133,"href":"https:\/\/www.globallogic.com\/pl\/wp-json\/wp\/v2\/insightsection\/63816\/revisions\/101133"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.globallogic.com\/pl\/wp-json\/wp\/v2\/media\/63818"}],"wp:attachment":[{"href":"https:\/\/www.globallogic.com\/pl\/wp-json\/wp\/v2\/media?parent=63816"}],"wp:term":[{"taxonomy":"insight","embeddable":true,"href":"https:\/\/www.globallogic.com\/pl\/wp-json\/wp\/v2\/insight?post=63816"},{"taxonomy":"insight-subcats","embeddable":true,"href":"https:\/\/www.globallogic.com\/pl\/wp-json\/wp\/v2\/insight-subcats?post=63816"},{"taxonomy":"insight-industry","embeddable":true,"href":"https:\/\/www.globallogic.com\/pl\/wp-json\/wp\/v2\/insight-industry?post=63816"},{"taxonomy":"insight-services","embeddable":true,"href":"https:\/\/www.globallogic.com\/pl\/wp-json\/wp\/v2\/insight-services?post=63816"},{"taxonomy":"insight-partners","embeddable":true,"href":"https:\/\/www.globallogic.com\/pl\/wp-json\/wp\/v2\/insight-partners?post=63816"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}