Dlaczego warto
- Wiodące treści branżowe: Nasz program odzwierciedla najnowsze zagrożenia, frameworki i najlepsze praktyki z lat 2024-2025. Będziesz uczyć się na rzeczywistych studiach przypadków i współczesnych scenariuszach ataków.
- Gotowe do wdrożenia ramy operacyjne: Poznasz ustrukturyzowane podejścia — MITRE ATLAS, OWASP, STRIDE, NIST — które możesz wdrożyć w swojej organizacji natychmiast po powrocie ze szkolenia.
- Przewaga konkurencyjna: Ponieważ bezpieczeństwo AI staje się kluczowym tematem na poziomie zarządów, specjaliści z tą wiedzą mogą liczyć na wyższe wynagrodzenia i większe możliwości rozwoju zawodowego.
Czego się nauczysz
Po ukończeniu tego intensywnego programu szkoleniowego będziesz potrafił:
- Identyfikować i mitygować podatności specyficzne dla systemów sztucznej inteligencji (AI) i uczenia maszynowego (ML).
- Wdrażać praktyki bezpiecznego wytwarzania AI w całej organizacji.
- Przeprowadzać profesjonalne testy penetracyjne nakierowane na aplikacje AI.
- Budować skuteczne plany reagowania na incydenty, zaprojektowane specjalnie pod kątem bezpieczeństwa AI.
- Stosować ramy zgodności (compliance) i struktury ładu (governance) w projektach AI.
- Oceniać i redukować ryzyka w łańcuchu dostaw podczas rozwoju rozwiązań AI.
- Wykrywać i reagować na ataki typu „adversarial” w czasie rzeczywistym.
Dla kogo
„Cybersecurity & AI” to intensywne szkolenie praktyczne z laboratoriami „hands-on”. Jest ono przeznaczone dla poziomów średniozaawansowanego (Intermediate) i zaawansowanego (Advanced) dla:
- Specjalistów ds. cyberbezpieczeństwa,
- Analityków IT,
- Administratorów systemów,
- Architektów bezpieczeństwa.
.
Zakres szkolenia
Dzień 1: Fundamenty bezpieczeństwa AI i praktyczne zagrożenia
Moduł 1: Wprowadzenie do bezpieczeństwa AI Opanuj podstawy zabezpieczania systemów sztucznej inteligencji w realiach lat 2024-2025. Ten moduł buduje fundamenty pod zrozumienie, dlaczego tradycyjne podejścia do cyberbezpieczeństwa są niewystarczające w ochronie AI.
- Definicja i znaczenie bezpieczeństwa AI w dzisiejszym krajobrazie zagrożeń.
- Architektura systemów AI: Duże Modele Językowe (LLM), potoki ML (pipelines), punkty końcowe API.
- Kluczowe różnice między konwencjonalnym cyberbezpieczeństwem a bezpieczeństwem AI.
- Przegląd krajobrazu zagrożeń: framework MITRE ATLAS.
- Laboratorium praktyczne.
Moduł 2: OWASP Top 10 dla aplikacji LLM Poznaj dziesięć najbardziej krytycznych ryzyk bezpieczeństwa dotyczących dużych modeli językowych i aplikacji AI. Podatności te stanowią realne, możliwe do wykorzystania słabości, w które aktywnie celują napastnicy.
- LLM01: Prompt Injection (wstrzykiwanie poleceń) – teoria i praktyczna eksploatacja.
- LLM02: Niewłaściwa obsługa wyjścia (Insecure Output Handling).
- LLM03: Zatruwanie danych treningowych (Training Data Poisoning).
- LLM04: Odmowa usługi modelu (Model Denial of Service).
- LLM05: Podatności łańcucha dostaw.
- Laboratorium praktyczne.
Moduł 3: Adversarial Machine Learning Zrozum, w jaki sposób modele uczenia maszynowego mogą być oszukiwane, uszkadzane i kompromitowane. Moduł ten bada wyrafinowane wektory ataków wymierzone w same podstawy systemów AI.
- Typy ataków „adversarial”: unikanie (evasion), zatruwanie (poisoning) i ekstrakcja modelu.
- Ataki typu Model Inversion i Membership Inference.
- Ataki typu „backdoor” w modelach uczenia maszynowego.
- Mechanizmy obronne i strategie wykrywania.
- Laboratorium praktyczne.
Moduł 4: Testy penetracyjne wspomagane przez AI Dowiedz się, jak sztuczna inteligencja przyspiesza i zwiększa możliwości testów penetracyjnych. Poznaj narzędzia i metodologie, których używają nowocześni red teamerzy, aby szybciej i skuteczniej identyfikować podatności.
- Narzędzia AI w procesach testów penetracyjnych.
- Automatyzacja białego wywiadu (OSINT) za pomocą uczenia maszynowego.
- Procesy testowe oparte na architekturze RAG (Retrieval-Augmented Generation).
- Automatyzacja wykrywania i eksploatacji podatności.
- Laboratorium praktyczne.
Dzień 2: Obrona i wdrażanie bezpiecznych rozwiązań AI
Moduł 5: Modelowanie zagrożeń dla systemów AI Proaktywnie identyfikuj i mityguj zagrożenia, zanim staną się one przyczyną naruszeń. Moduł uczy ustrukturyzowanego podejścia do rozumienia ryzyk unikalnych dla architektur AI.
- Metodologia STRIDE w zastosowaniu do systemów AI.
- Specyficzne dla AI biblioteki zagrożeń i frameworki.
- Ocena i priorytetyzacja ryzyk przy użyciu narzędzi branżowych.
- Budowanie skutecznych modeli zagrożeń dla chatbotów i aplikacji LLM.
- Laboratorium praktyczne.
Moduł 6: Bezpieczeństwo łańcucha dostaw AI Ataki na łańcuch dostaw w ekosystemach AI to jedne z najszybciej rosnących zagrożeń. Naucz się zabezpieczać każdy element potoku rozwoju i wdrażania AI.
- Ataki na łańcuch dostaw w ekosystemie AI.
- Frameworki bezpieczeństwa SLSA i SCVS.
- Generowanie SBOM (Software Bill of Materials) i sygnatury modeli.
- Weryfikacja zależności w projektach uczenia maszynowego.
- Zabezpieczanie konteneryzowanych aplikacji AI.
- Laboratorium praktyczne.
Moduł 7: Monitorowanie i detekcja Wykrywaj zagrożenia w czasie rzeczywistym dzięki monitorowaniu bezpieczeństwa opartego na AI. Naucz się integrować inteligencję w całej swojej infrastrukturze.
- Detekcja i reagowanie na zagrożenia z wykorzystaniem AI.
- Analityka behawioralna w wykrywaniu anomalii.
- Integracja SIEM z narzędziami i platformami AI.
- Monitorowanie zachowania i wydajności modeli w czasie rzeczywistym.
- Laboratorium praktyczne.
Moduł 8: Zgodność i ład (Compliance & Governance) Poruszaj się w złożonym krajobrazie regulacyjnym dotyczącym sztucznej inteligencji. Upewnij się, że Twoje systemy AI są zgodne z najnowszymi standardami prawnymi i branżowymi.
- Akt o sztucznej inteligencji (EU AI Act): wymogi i implikacje.
- Framework NIST AI Risk Management.
- Struktury ładu dla odpowiedzialnej sztucznej inteligencji.
- Dokumentowanie i audytowanie kontroli bezpieczeństwa AI.
- Laboratorium praktyczne: Przeprowadzanie audytów zgodności systemów AI.
Moduł 9: Reagowanie na incydenty w AI Gdy dojdzie do incydentu, liczy się szybkość i precyzja. Ten moduł przygotuje Cię do skutecznego reagowania na specyficzne zdarzenia naruszające bezpieczeństwo AI.
- Specyficzne dla AI scenariusze reagowania (playbooks).
- Procedury odzyskiwania po skompromitowaniu modelu.
- Analiza śledcza (forensics) skompromitowanych systemów AI.
- Protokoły komunikacji i eskalacji.
- Scenariusz praktyczny: Symulacja reagowania na incydent w czasie rzeczywistym.
