{"id":22195,"date":"2020-05-28T11:15:31","date_gmt":"2020-05-28T09:15:31","guid":{"rendered":"https:\/\/opi.org.pl\/laboratories\/laboratorium-stosowanej-sztucznej-inteligencji\/zajrzec-do-czarnej-skrzynki\/"},"modified":"2025-07-24T09:20:15","modified_gmt":"2025-07-24T07:20:15","slug":"to-look-into-the-black-box","status":"publish","type":"page","link":"https:\/\/opi.org.pl\/en\/laboratories\/applied-artificial-intelligence-laboratory\/to-look-into-the-black-box\/","title":{"rendered":"Looking into the black box"},"content":{"rendered":"\n
\n
\n
\n

Je\u017celi modele sztucznej inteligencji nie\u00a0s\u0105 wyja\u015bnialne, to\u00a0specjali\u015bci musz\u0105 w\u00a0pe\u0142ni zaufa\u0107 technologii, mimo \u017ce\u00a0to\u00a0oni podpisuj\u0105 si\u0119 pod\u00a0diagnoz\u0105. Z\u00a0Piotrem Sobeckim<\/strong>, kierownikiem zespo\u0142u Laboratorium Stosowanej Sztucznej Inteligencji, rozmawia Monika Redzisz<\/strong><\/p>\n<\/div>\n\n\n\n

\n
\"Zdjęcie
Piotr Sobecki<\/strong>kierownik LaboratoriumStosowanej Sztucznej Inteligencji<\/figcaption><\/figure>\n\n\n\n

<\/p>\n<\/div>\n<\/div>\n<\/div><\/div>\n\n

\n
\n
\n

Piotr Sobecki<\/strong> – kierownik Laboratorium Stosowanej Sztucznej Inteligencji w OPI PIB. Doktorant informatyki (Politechnika Warszawska, Wydzia\u0142 Matematyki i Nauk Informacyjnych), magister informatyki (Polsko-Japo\u0144ska Akademia Technik Komputerowych) i psychologii (SWPS Uniwersytet Humanistycznospo\u0142eczny). <\/p>\n<\/div>\n\n\n\n

\n

W 2018 roku jeden z ekspert\u00f3w przygotowuj\u0105cych za\u0142o\u017cenia do strategii rozwoju sztucznej inteligencji w Polsce. Jego zainteresowania naukowe to informatyka medyczna, uczenie g\u0142\u0119bokie, komputerowe rozpoznawanie obraz\u00f3w, przetwarzanie sygna\u0142\u00f3w oraz psychologia kognitywna.<\/p>\n<\/div>\n<\/div>\n<\/div><\/div>\n\n

\n
\n

Monika Redzisz<\/strong>: Czym zajmuje si\u0119 zesp\u00f3\u0142 Laboratorium Stosowanej Sztucznej Inteligencji OPI PIB?<\/em><\/h2>\n\n\n\n

Piotr Sobecki<\/strong>: Mi\u0119dzy innymi zastosowaniem SI w medycynie. Zajmujemy si\u0119 standaryzacj\u0105 bada\u0144, analiz\u0105 obrazu i tworzeniem modeli sztucznej inteligencji do wspomagania diagnostyki. Analizujemy na przyk\u0142ad problem diagnostyki nowotworu prostaty z u\u017cyciem rezonansu magnetycznego. Jest to drugi najcz\u0119\u015bciej wyst\u0119puj\u0105cy nowotw\u00f3r u m\u0119\u017cczyzn \u2013 szacuje si\u0119, \u017ce w trakcie swojego \u017cycia zachoruje na niego co sz\u00f3sty m\u0119\u017cczyzna. Niestety, jego diagnoza jest skomplikowana.<\/p>\n\n\n\n

Dlaczego?<\/h2>\n\n\n\n

Z kilku powod\u00f3w. Testem przesiewowym w przypadku bada\u0144 prostaty jest pomiar poziomu PSA we krwi, czyli pewnego enzymu. Jego wysoki poziom \u015bwiadczy o tym, \u017ce wyst\u0119puje jaka\u015b nieprawid\u0142owo\u015b\u0107. W takim wypadku wymagana jest dalsza diagnostyka. Radiolog na podstawie analizy zdj\u0119\u0107 z rezonansu magnetycznego musi zdecydowa\u0107, czy zmiana wygl\u0105da na z\u0142o\u015bliw\u0105, a od tego b\u0119d\u0105 zale\u017ca\u0142y kolejne decyzje, na przyk\u0142ad czy nale\u017cy wykona\u0107 biopsj\u0119. Biopsja w przypadku badania prostaty nie jest \u0142atwa ani komfortowa dla pacjenta. Polega na pobraniu materia\u0142u do badania z kilku do kilkunastu wk\u0142u\u0107 wykonanych w czasie badania.<\/p>\n\n\n\n

Gdy na podstawie obraz\u00f3w z rezonansu b\u0119dziemy mie\u0107 dostatecznie precyzyjne metody oceny zmian, b\u0119dziemy mogli znacznie ograniczy\u0107 liczb\u0119 pacjent\u00f3w, kt\u00f3rzy s\u0105 wysy\u0142ani na biopsj\u0119.<\/p>\n\n\n\n

Na jakim etapie s\u0105 prace?<\/h2>\n\n\n\n

Tworzymy narz\u0119dzia wspomagaj\u0105ce ten proces. Jednym z nich jest g\u0142\u0119boka sie\u0107 neuronowa, kt\u00f3ra na podstawie zdj\u0119\u0107 prostaty z rezonansu szacuje prawdopodobie\u0144stwo, \u017ce okre\u015blona zmiana jest z\u0142o\u015bliwa. Jej skuteczno\u015b\u0107 szacowana jest na oko\u0142o 85 procent, co jest zbli\u017cone do skuteczno\u015bci radiologa. Algorytm ocenia istotno\u015b\u0107 wykrytej zmiany w skali procentowej (przyk\u0142adowo 10, 60, 80 procent). Jest to analogiczne do skali PI-RADS, kt\u00f3rej u\u017cywaj\u0105 specjali\u015bci.<\/p>\n\n\n\n

A co, kiedy okazuje si\u0119, \u017ce zmiana jest z\u0142o\u015bliwa na 60 procent? Co robi z tym radiolog?<\/h2>\n\n\n\n

W\u0142a\u015bnie. \u017beby to zrozumie\u0107, musimy zrobi\u0107 krok wstecz, czyli okre\u015bli\u0107, na czym polega praca diagnosty. Wyobra\u017amy sobie sytuacj\u0119, gdy czy\u015bcimy skrzynk\u0119 mailow\u0105 i oceniamy maile w skali spam\/nie spam. Sami zrobimy to od razu, na wyczucie. Maj\u0105c system do takiej klasyfikacji, dostajemy informacj\u0119, \u017ce dany mail jest wed\u0142ug niego spamem na 60 procent. To skrajnie uproszczony opis pracy diagnosty.<\/p>\n\n\n\n

Dosta\u0142 wynik z jakiej\u015b maszynki: 60 procent. Ale dlaczego akurat 60? Tego nie wie. Jak ma wykorzysta\u0107 t\u0119 informacj\u0119? 60 procent prawdopodobie\u0144stwa to ma\u0142o, w zasadzie to nic nie m\u00f3wi, poniewa\u017c jest zbli\u017cone do losowej decyzji. Ale nawet je\u015bli to b\u0119dzie \u2013 powiedzmy \u2013 80 procent, to lekarz te\u017c ma problem, bo brakuje mu informacji, dlaczego sztuczna inteligencja podj\u0119\u0142a tak\u0105 w\u0142a\u015bnie decyzj\u0119.<\/p>\n\n\n\n

Obecnie to najwi\u0119ksze wyzwanie dla naukowc\u00f3w zajmuj\u0105cych si\u0119 sztuczn\u0105 inteligencj\u0105: jak tworzy\u0107 wyja\u015bnialne modele nieb\u0119d\u0105ce czarnymi skrzynkami, czyli takie, kt\u00f3re s\u0105 w stanie odpowiedzie\u0107, co jest podstaw\u0105 predykcji systemu.<\/p>\n\n\n\n

W naszym laboratorium opracowujemy system wspomagany sztuczn\u0105 inteligencj\u0105 (eRADS), kt\u00f3ry b\u0119dzie to potrafi\u0142. Okre\u015blili\u015bmy ju\u017c ponad 100 parametr\u00f3w, kt\u00f3rych cz\u0119\u015b\u0107 prze\u0142o\u017cyli\u015bmy na tabele decyzyjne. W docelowej wersji narz\u0119dzia b\u0119dzie wygl\u0105da\u0142o to tak: najpierw system dokona automatycznej analizy obraz\u00f3w medycznych. Lekarz otrzymuje do oceny wygenerowany wynik badania w standardzie PI-RADS. Jego zadaniem jest weryfikacja opisu badania. Obecnie taki opis w postaci tekstu musi napisa\u0107 r\u0119cznie, co wyd\u0142u\u017ca diagnostyk\u0119 i zaw\u0119\u017ca zakres badania.<\/p>\n\n\n\n

Je\u015bli na kt\u00f3rym\u015b z etap\u00f3w lekarz ma w\u0105tpliwo\u015bci co do automatycznie wygenerowanego opisu, mo\u017ce zobaczy\u0107, sk\u0105d wzi\u0105\u0142 si\u0119 taki wynik \u2013 zobaczy\u0107, jakie zmienne po\u015brednie by\u0142y tu szacowane, i dowolnie je modyfikowa\u0107. Mo\u017ce na przyk\u0142ad zobaczy\u0107, \u017ce algorytm w jednym punkcie stwierdzi\u0142, \u017ce znaleziona zmiana jest \u015brednio hipointensywna, gdy tymczasem jego zdaniem jest znacz\u0105co hipointensywna. B\u0119dzie mia\u0142 do dyspozycji ponad 100 oszacowanych parametr\u00f3w, a jednocze\u015bnie \u2013 pe\u0142n\u0105 kontrol\u0119 nad nimi.<\/p>\n\n\n\n

Wej\u015bcie do czarnej skrzynki\u2026<\/h2>\n\n\n\n

Tak. Je\u017celi modele nie s\u0105 wyja\u015bnialne, to specjali\u015bci musz\u0105 w pe\u0142ni zaufa\u0107 technologii, mimo \u017ce na samym ko\u0144cu to oni podpisuj\u0105 si\u0119 pod diagnoz\u0105. Oczywi\u015bcie ludzie wprowadzaj\u0105 metody hybrydowe. Przyk\u0142adowo algorytmy zaznaczaj\u0105 kolorem obszary zmian, tak \u017ceby w zale\u017cno\u015bci od zabarwienia \u0142atwiej by\u0142o je ocenia\u0107. Wtedy kolor mo\u017ce sugerowa\u0107 prawdopodobie\u0144stwo, \u017ce dana zmiana jest z\u0142o\u015bliwa. To faktycznie pomaga specjali\u015bcie okre\u015bli\u0107, co mo\u017ce wp\u0142ywa\u0107 na predykcje modeli.<\/p>\n\n\n\n

Sk\u0105d bierzecie dane do trenowania algorytmu?<\/h2>\n\n\n\n

No w\u0142a\u015bnie, z tym jest problem. Potrzebujemy du\u017co danych, tymczasem najwi\u0119kszy publicznie dost\u0119pny otwarty zbi\u00f3r danych w obszarze obrazowania prostaty liczy zaledwie 350 przypadk\u00f3w.<\/p>\n\n\n\n

\u017beby wytrenowa\u0107 modele, musieli\u015bmy sztucznie powi\u0119kszy\u0107 zbi\u00f3r danych \u2013 wprowadzi\u0107 pewne zniekszta\u0142cenia, zaszumienia obrazu. To bardzo cz\u0119sta praktyka w sytuacji, kiedy brakuje danych do trenowania SI. Nasze sieci maj\u0105 kilka milion\u00f3w parametr\u00f3w, a do dyspozycji \u2013 jedynie 350 przypadk\u00f3w. Sie\u0107 jest w stanie nauczy\u0107 si\u0119 na pami\u0119\u0107 ka\u017cdego piksela. Rozszerzanie powoduje, \u017ce sie\u0107 nie b\u0119dzie zwraca\u0142a uwagi na szczeg\u00f3\u0142y, kt\u00f3re identyfikuj\u0105 konkretny przypadek, a nie s\u0105 istotne dla modelowanej problematyki.<\/p>\n\n\n\n

Modele sztucznej inteligencji s\u0105 tak dobre, jak dane, na kt\u00f3rych zosta\u0142y wyuczone. Chodzi zar\u00f3wno o ich liczebno\u015b\u0107, czyli ile przypadk\u00f3w jest w danym zbiorze, jak i o jako\u015b\u0107.<\/p>\n\n\n\n

Nie ma mo\u017cliwo\u015bci wsp\u00f3\u0142pracy ze szpitalami?<\/h2>\n\n\n\n

Wsp\u00f3\u0142pracujemy merytorycznie z zak\u0142adem radiologii w Centrum Medycznym Kszta\u0142cenia Podyplomowego w Warszawie. Problem jest taki, \u017ce oddzia\u0142y maj\u0105 zwykle same dane obrazowe i ich opisy. Przychodzi pacjent, robi sobie rezonans, dostaje wynik i idzie w \u015bwiat. Nie mamy informacji zwrotnej, co si\u0119 z nim potem dzia\u0142o. Pacjenci pojawiaj\u0105 si\u0119 i odchodz\u0105, a my mamy problem, \u017ceby zintegrowa\u0107 obrazy i ich opisy z dalsz\u0105 sytuacj\u0105 zdrowotn\u0105 (np. wynikami biopsji). Co wi\u0119cej, mimo \u017ce od kilku lat istnieje \u015bwiatowy standard opisu radiologicznego PI-RADS (Prostate Imaging and Reporting and Data System), to w zasadzie ka\u017cdy lekarz ma sw\u00f3j spos\u00f3b zapisywania tych informacji. Opisy w tej postaci trudno prze\u0142o\u017cy\u0107 na zbi\u00f3r danych dla sztucznej inteligencji.<\/p>\n\n\n\n

To daje spory margines subiektywno\u015bci\u2026<\/h2>\n\n\n\n

Tak. Diagnosta okre\u015bla przecie\u017c cechy znalezionych zmian. Czy zmiana jest homogeniczna, czy heterogeniczna? Jednorodna czy nie? Ka\u017cdy lekarz ma swoje poczucie tej jednorodno\u015bci; jeden oznaczy, \u017ce jest jednorodna, drugi, \u017ce nie. Albo: jak subiektywnie okre\u015bli\u0107 nasycenie koloru? Czy jest s\u0142abo, umiarkowanie czy znacznie hipointensywne? \u015arednio ciemne czy bardzo ciemne? A przecie\u017c od tego zale\u017cy decyzja o diagnozie. Oczywi\u015bcie czasem sprawa jest ewidentna i nie ma si\u0119 nad czym zastanawia\u0107. Ale wszystko, co jest pomi\u0119dzy, to obszar do dyskusji.<\/p>\n\n\n\n

My proponujemy nasze autorskie rozwi\u0105zanie tego problemu: przygotowali\u015bmy specjalne narz\u0119dzie dla radiolog\u00f3w. Zadaniem lekarza b\u0119dzie okre\u015blanie cech na zdefiniowanym formularzu zamiast r\u0119cznego tworzenia opisu. W trakcie jego pracy powstaj\u0105 wysokiej jako\u015bci zbiory danych, kt\u00f3re mog\u0105 pos\u0142u\u017cy\u0107 do bada\u0144 nad standardami oceny zmian nowotworowych. Dzi\u0119ki takiemu podej\u015bciu otrzymujemy tak\u017ce pi\u0119kn\u0105 baz\u0119 danych do uczenia algorytm\u00f3w sztucznej inteligencji, a na podstawie wype\u0142nionego formularza automatycznie generowany jest opis badania.<\/p>\n\n\n\n

W\u0142a\u015bnie zacz\u0119li\u015bmy prace. Zbieramy opisy 30 przypadk\u00f3w wykonywane przez sze\u015bciu radiolog\u00f3w, trzech niedo\u015bwiadczonych i trzech do\u015bwiadczonych. Po miesi\u0105cu \u2013 powt\u00f3rka. To interesuj\u0105ce tak\u017ce z psychologicznego punktu widzenia; b\u0119dziemy zreszt\u0105 prowadzili te badania we wsp\u00f3\u0142pracy z psychologami poznawczymi z SWPS. Czy wyjd\u0105 du\u017ce r\u00f3\u017cnice pomi\u0119dzy radiologami? Czy po miesi\u0105cu lekarz tak samo oceni badanie jak za pierwszym razem? Jestem bardzo ciekawy, co z tego wyniknie. Moje do\u015bwiadczenie opr\u00f3cz informatyki obejmuje r\u00f3wnie\u017c psychologi\u0119. Jeszcze na studiach pracowa\u0142em nad narz\u0119dziem do badania podatno\u015bci na iluzje optyczne (VIS \u2013 Visual Illusion Simulation), bo wszyscy rodzimy si\u0119 z wi\u0119ksz\u0105 lub mniejsz\u0105 podatno\u015bci\u0105. I teraz pytanie: jak podatni na iluzje s\u0105 radiolodzy?<\/p>\n\n\n\n

Jak czuj\u0105 si\u0119 \u015bmia\u0142kowie, kt\u00f3rzy zg\u0142osili si\u0119 do projektu? Boj\u0105 si\u0119?<\/h2>\n\n\n\n

Mo\u017cliwe. Ludzie niezbyt lubi\u0105 dowiadywa\u0107 si\u0119, \u017ce mog\u0105 si\u0119 myli\u0107. Jednak zdaj\u0105 sobie spraw\u0119, \u017ce system b\u0119dzie dla radiolog\u00f3w wsparciem.<\/p>\n\n\n\n

Ale jednocze\u015bnie zagro\u017ceniem. Czy ta metoda nie pozbawi ich wkr\u00f3tce pracy? A przynajmniej \u2013 czy polegaj\u0105c na maszynie, nie strac\u0105 swojej autonomii oraz wyczucia?<\/h2>\n\n\n\n

My\u015bl\u0119, \u017ce b\u0119dzie zupe\u0142nie inaczej. Radiolog\u00f3w brakuje. Rezonanse mog\u0105 pracowa\u0107 24 godziny na dob\u0119, ale kto je opisze? Nie ma tylu specjalist\u00f3w. System bardzo u\u0142atwi im prac\u0119. B\u0119d\u0105 mogli opisa\u0107 wi\u0119cej bada\u0144 w tym samym czasie, a komfort ich pracy i jako\u015b\u0107 ich bada\u0144 wzro\u015bnie. To tak\u017ce narz\u0119dzie edukacyjne. M\u0142odzi specjali\u015bci mog\u0105 si\u0119 z jego pomoc\u0105 uczy\u0107, jak prawid\u0142owo ocenia\u0107 zmiany.<\/p>\n\n\n\n

Czy wida\u0107 r\u00f3\u017cnic\u0119 pokoleniow\u0105 w podej\u015bciu do takich metod?<\/h2>\n\n\n\n

Pewnie. Badania pokazuj\u0105, \u017ce do\u015bwiadczeni specjali\u015bci cz\u0119sto uwa\u017caj\u0105: \u201ePrzecie\u017c wiem, co robi\u0119. Robi\u0119 to tyle lat. Znam swoj\u0105 skuteczno\u015b\u0107. Po co mi jaka\u015b maszynka, kt\u00f3ra b\u0119dzie mi m\u00f3wi\u0142a, co mam robi\u0107?\u201d. M\u0142odsi \u2013 wr\u0119cz przeciwnie \u2013 s\u0105 otwarci na wprowadzanie takich rozwi\u0105za\u0144.<\/p>\n\n\n\n

Niestety, 30 przypadk\u00f3w to do\u015b\u0107 ma\u0142o. Gdyby\u015bmy mieli 500, to ju\u017c by by\u0142o co\u015b. Ale taki zbi\u00f3r danych kosztuje. Dlatego z\u0142o\u017cyli\u015bmy w\u0142a\u015bnie wniosek grantowy do NCN-u [Narodowego Centrum Nauki] na wsp\u00f3\u0142prac\u0119 ze Szpitalem Uniwersyteckim w Oslo. W ramach wsp\u00f3\u0142pracy zintegrowane zosta\u0142yby zbiory danych z polskich i norweskich o\u015brodk\u00f3w zawieraj\u0105ce adnotacje z opracowanego narz\u0119dzia. To by\u0142by najwi\u0119kszy i najdok\u0142adniej opisany otwarty zbi\u00f3r danych mpMRI prostaty, jaki istnieje na \u015bwiecie.<\/p>\n\n\n\n

Najbardziej cieszy mnie to, \u017ce schemat, kt\u00f3ry sobie teraz wypracujemy dla diagnostyki w kierunku rozpoznania raka prostaty, b\u0119dzie \u015bwietn\u0105 podstaw\u0105 do pracy nad kolejnymi chorobami.<\/p>\n<\/div><\/div>\n\n\n

[opi_content_social_icons]<\/p>\n<\/div><\/div>\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

Je\u017celi modele sztucznej inteligencji nie\u00a0s\u0105 wyja\u015bnialne, to\u00a0specjali\u015bci musz\u0105 w\u00a0pe\u0142ni zaufa\u0107 technologii, mimo \u017ce\u00a0to\u00a0oni podpisuj\u0105 si\u0119 pod\u00a0diagnoz\u0105. Z\u00a0Piotrem Sobeckim, kierownikiem zespo\u0142u Laboratorium Stosowanej Sztucznej Inteligencji, rozmawia Monika Redzisz Piotr Sobecki – kierownik Laboratorium Stosowanej Sztucznej Inteligencji w OPI PIB. Doktorant informatyki (Politechnika Warszawska, Wydzia\u0142 Matematyki i Nauk Informacyjnych), magister informatyki (Polsko-Japo\u0144ska Akademia Technik Komputerowych) i psychologii…<\/p>\n","protected":false},"author":34,"featured_media":22762,"parent":22194,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"","meta":{"footnotes":"","_links_to":"","_links_to_target":""},"class_list":["post-22195","page","type-page","status-publish","has-post-thumbnail","hentry"],"_links":{"self":[{"href":"https:\/\/opi.org.pl\/en\/wp-json\/wp\/v2\/pages\/22195","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/opi.org.pl\/en\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/opi.org.pl\/en\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/opi.org.pl\/en\/wp-json\/wp\/v2\/users\/34"}],"replies":[{"embeddable":true,"href":"https:\/\/opi.org.pl\/en\/wp-json\/wp\/v2\/comments?post=22195"}],"version-history":[{"count":11,"href":"https:\/\/opi.org.pl\/en\/wp-json\/wp\/v2\/pages\/22195\/revisions"}],"predecessor-version":[{"id":31122,"href":"https:\/\/opi.org.pl\/en\/wp-json\/wp\/v2\/pages\/22195\/revisions\/31122"}],"up":[{"embeddable":true,"href":"https:\/\/opi.org.pl\/en\/wp-json\/wp\/v2\/pages\/22194"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/opi.org.pl\/en\/wp-json\/wp\/v2\/media\/22762"}],"wp:attachment":[{"href":"https:\/\/opi.org.pl\/en\/wp-json\/wp\/v2\/media?parent=22195"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}