AI security / LLM application pentest
Pentest AI i LLM. Prompt injection, RAG, narzędzia i uprawnienia pod kontrolą.
Bezpieczeństwo aplikacji generatywnej nie kończy się na jailbreaku modelu. Testujemy granice zaufania między użytkownikiem, promptem, danymi, modelem, pamięcią, narzędziami i systemami wykonującymi działania.
Krótka odpowiedź
Pentest AI i LLM to autoryzowany test całej aplikacji korzystającej z modelu, a nie konkurs na nietypową odpowiedź czatu. Sprawdzamy bezpośredni i pośredni prompt injection, ujawnianie danych, izolację użytkowników i tenantów, RAG oraz embeddingi, obsługę wyjścia, uprawnienia narzędzi, działania agentowe, limity i klasyczne błędy web/API. Wynik pokazuje, czy zmanipulowany model może odczytać dane, wykonać operację lub wpłynąć na system poza przeznaczonym zakresem.
Wycena pentestu AI i LLM
Sprawdź zakres aplikacji AI od razu.
Określ model, RAG, role i narzędzia. Otrzymasz orientacyjne widełki bez podawania e-maila, a finalny zakres potwierdzi pentester.
Dla kogo
Kiedy pentest AI i LLM ma największą wartość?
- Firmy wdrażające chatbot oparty na danych wewnętrznych
- Zespoły budujące RAG lub wyszukiwanie semantyczne
- Produkty z agentem wywołującym narzędzia i API
- Organizacje przed uruchomieniem funkcji AI dla klientów lub pracowników
Zakres testu
Co obejmuje test aplikacji AI?
Prompt injection
Instrukcje bezpośrednie i ukryte w dokumentach, stronach, wiadomościach oraz innych źródłach przetwarzanych przez model.
Dane i izolacja
Ujawnianie danych wrażliwych, historii, kontekstu, promptów systemowych oraz informacji między użytkownikami i tenantami.
RAG i embeddingi
Kontrola dostępu do dokumentów, zatruwanie źródeł, błędne filtrowanie, pochodzenie treści i granice indeksów wektorowych.
Agenci i narzędzia
Nadmierna funkcjonalność, uprawnienia, autonomia, potwierdzanie działań i możliwość nadużycia funkcji lub pluginu.
Obsługa wyjścia
Czy wynik modelu może wywołać XSS, injection, niebezpieczne polecenie, zapis danych albo operację bez niezależnej walidacji.
Nadużycia i koszty
Limity, zapętlenia agentów, kosztowne żądania, wyczerpanie zasobów, automatyzacja nadużyć i odporność monitoringu.
Rezultat
Co dostajesz?
- Mapa granic zaufania, danych, modeli, narzędzi i ról
- Potwierdzone scenariusze z kontrolowanymi dowodami
- Wpływ na poufność, integralność, dostępność i koszt
- Zalecenia dla architektury, uprawnień, walidacji i monitoringu
- Przypadki regresyjne oraz jeden uzgodniony retest
Model systemu
Mapujemy interfejsy, prompty, modele, źródła RAG, pamięć, narzędzia, tożsamości i działania downstream.
Reguły testu
Ustalamy dane testowe, limity kosztu, zakazane operacje, środowisko, kontakty i warunki natychmiastowego zatrzymania.
Testy adwersarialne
Łączymy scenariusze AI z klasycznymi testami web/API, kontrolą dostępu i walidacją wpływu na systemy zewnętrzne.
Raport i regresja
Opisujemy reprodukcję, wpływ, przyczynę, zabezpieczenia warstwowe, przypadki testowe i wynik retestu.
Cena i decyzja
Ile kosztuje pentest AI i LLM?
Cenę wyznaczają liczba interfejsów, ról, modeli, źródeł RAG, narzędzi, działań agentowych i systemów downstream. Ograniczony chatbot bez narzędzi można wycenić szybko. Agent z pamięcią, wieloma źródłami danych i uprawnieniami do wykonywania operacji wymaga osobnego modelu zagrożeń oraz dłuższego testu.
Sprawdź własny zakres ↗FAQ
Najczęstsze pytania
Czy pentest AI polega tylko na prompt injection?+
Nie. Prompt injection jest ważny, ale największy wpływ często wynika z połączenia manipulacji modelem z błędną autoryzacją, dostępem do danych, nadmiernymi uprawnieniami narzędzia albo niebezpieczną obsługą wyjścia.
Czy można zagwarantować odporność na każdy prompt?+
Nie. Model probabilistyczny i zmienne dane wejściowe nie pozwalają uczciwie obiecać absolutnej odporności. Celem jest ograniczenie wpływu: najmniejsze uprawnienia, niezależna autoryzacja, walidacja działań, izolacja danych, limity i monitoring.
Czy testujecie aplikacje korzystające z modelu zewnętrznego?+
Tak, w granicach aplikacji klienta i zasad dostawcy modelu. Test obejmuje integrację, prompty, dane, RAG, narzędzia, uprawnienia i kontrolę wyjścia. Test bazowego modelu lub infrastruktury dostawcy wymaga odrębnej autoryzacji.
Czy zakres obejmuje zwykłe web i API?+
Tak, jeśli obsługują funkcję AI. Uwierzytelnienie, kontrola dostępu, sesje, endpointy, uploady i logika aplikacji nadal muszą być testowane niezależnie od zachowania modelu.