Szkolenie: Bezpieczeństwo systemów AI

Podstawowe koncepcje i architektura systemów AI

Kluczowe algorytmy i modele w uczeniu maszynowym

Proces uczenia modeli: od danych treningowych do wdrożenia

Obszary, w których AI znajduje zastosowanie

Ryzyka i korzyści wynikające z implementacji AI

Przegląd typowych przypadków użycia

Dlaczego bezpieczeństwo systemów AI jest kluczowe?

Definicje i obszary bezpieczeństwa sztucznej inteligencji

Specyficzne wyzwania bezpieczeństwa w systemach AI

Różnice między tradycyjnym bezpieczeństwem IT a bezpieczeństwem AI

Rodzaje ataków na modele uczenia maszynowego (np. evasion, poisoning, inference)

Analiza wektorów ataku i ich wpływ na integralność modeli

Studium przypadków rzeczywistych ataków na systemy AI

Data Poisoning – zatruwanie danych treningowych

Membership Inference – ataki na obecność danych w zbiorze treningowym

Sensitive Information Disclosure – ujawnianie wrażliwych informacji

Prompt Leakage – ujawnienie treści promptów w systemach AI

Modelowanie zagrożeń dla danych

Transfer Learning – wykorzystanie wcześniej wytrenowanego modelu do nieautoryzowanych celów

Input Manipulation – ataki na dane wejściowe prowadzące do błędnych predykcji

Prompt Injection – wstrzykiwanie złośliwych promptów do modeli LLM

Modelowanie zagrożeń dla poufności modelu

Training Data Extraction – odzyskiwanie oryginalnych danych treningowych

Membership Inference – sprawdzanie, czy dane należą do zbioru treningowego

Model Theft – kradzież modelu poprzez API lub analizę parametrów

Model Inversion – odzyskiwanie oryginalnych danych treningowych

Modelowanie zagrożeń dla prywatności

Model Skewing – manipulowanie danymi wejściowymi, aby stopniowo zmieniać działanie modelu

Model Denial of Service (DoS) – przeciążenie modelu w celu uniemożliwienia jego działania

Supply Chain Attacks – ataki na łańcuch dostaw, np. złośliwe dane treningowe lub naruszenie kodu biblioteki

Modelowanie zagrożeń wynikajacych z łańcucha dostaw

Output Integrity / Insecure Output Handling – manipulowanie wynikami generowanymi przez AI

Overreliance – nadmierne poleganie na wynikach AI bez ich weryfikacji

Modelowanie zagrożeń wynikajacych z intergacji z innymi systemami

Zagrożenia związane z Unbounded Consumption – niekontrolowany dostęp i wykorzystywanie zasobów

Bezpieczna konfiguracja środowiska AI

Zarządzanie dostępem i kontrola uprawnień

Specyfika modeli LLM i ich unikalne zagrożenia

Halucynacje – generowanie fałszywych informacji przez modele AI

Warsztat z próby obejścia zabezpieczen modeli LLM

Warsztat z metod weryfikacji treści w LLM

Metody zabezpieczania modeli LLM

Techniki walidacji i sanityzacji promptów

Monitorowanie i filtrowanie wyjść modelu

Narzędzia i techniki testowania bezpieczeństwa modeli AI

Audyt modeli AI

Warsztat z przykładowego samodzielnego audytu systemu AI

Przegląd standardów i regulacji (np. EU AI Act, NIST, ISO)

Znaczenie etyki i odpowiedzialności przy wdrażaniu AI

Implementacja zgodności z regulacjami w organizacjach

Warsztat z analizy systemu pod kątem regulacji AI Act