Sebastian Małyska

Quality Assurance Engineer

Entuzjasta jakości oprogramowania z ponad 20-letnim doświadczeniem, który udowadnia, że stwierdzenie „na moim komputerze to działa” nie stanowi strategii testowania. Pracował jako tester manualny, inżynier ds. automatyzacji, kierownik ds. zapewnienia jakości oraz menedżer ds. zapewnienia jakości – zasadniczo wszędzie tam, gdzie brakowało jakości (lub cierpliwości). Prelegent na krajowych i międzynarodowych konferencjach oraz członek komitetów programowych; lubi rozmawiać o zapewnieniu jakości niemal tak samo, jak zgłaszać błędy innych. Programuje głównie w Pythonie, ponieważ życie jest zbyt krótkie na zły kod i jeszcze gorsze języki. Posiadacz kilku certyfikatów ISTQB, IREB i TMMi, w tym Certified Tester – Security Tester. Prezes Polish Quality Board, sekretarz zarządu ISTQB®, członek społeczności IREB® i TMMi oraz współzałożyciel ŁuczniczQA w Bydgoszczy. Na co dzień walczy o lepszą jakość, mniejszą liczbę krytycznych defektów i więcej zdrowego rozsądku w projektach.

Współczesne bezpieczeństwo sztucznej inteligencji wymaga odejścia od wąskiej analizy podatności na rzecz całościowych testów bezpieczeństwa, obejmujących cały ekosystem aplikacji. Niniejsza prezentacja przedstawia metodologię ataku stosowaną w testach penetracyjnych, rozszerzoną o wsparcie sztucznej inteligencji. Skupimy się w szczególności na rosnącym ryzyku związanym z „Shadow AI” — nieautoryzowanymi lub niemonitorowanymi narzędziami AI i interfejsami API wdrożonymi w organizacji, które tworzą ukryte ścieżki ataku i poszerzają powierzchnię ataku bez odpowiedniego nadzoru. Sesja obejmuje demonstrację tego, jak narzędzia takie jak Rentgen mogą zautomatyzować higienę API poprzez generowanie setek testów na podstawie pojedynczego żądania, w celu zidentyfikowania błędów strukturalnych jeszcze przed rozpoczęciem tradycyjnego testowania. Analizując rzeczywiste ataki, takie jak prompt injection oraz manipulacje w łańcuchu dostaw (supply chain tampering) w ramach agentycznych przepływów pracy, wyposażymy testerów w wiedzę niezbędną do poruszania się w świecie agentów oraz egzekwowania integralności behawioralnej w autonomicznych systemach.