Rewolucja w Bezpieczeństwie AI: Nowe Narzędzie do Testowania LLM
Rewolucja w Bezpieczeństwie AI: Nowe Narzędzie do Testowania LLM
Check Point Software Technologies oraz firma Lakera, we współpracy z brytyjskim AI Security Institute (AISI), zaprezentowały innowacyjne narzędzie - Backbone Breaker Benchmark (b3). To pierwsze na świecie ogólnodostępne rozwiązanie do pomiaru bezpieczeństwa dużych modeli językowych (LLM).
Nowy benchmark ma na celu systematyczne testowanie odporności modeli na realne ataki. Dzięki niemu, badacze będą mogli ujawniać słabe punkty LLM w sposób powtarzalny, porównywalny i empiryczny.
W obliczu dynamicznego rozwoju asystentów AI, copilotów i autonomicznych agentów, problem ich bezpieczeństwa staje się coraz bardziej palący. Dotychczas brakowało jednolitego narzędzia, które mogłoby sprostać tym wyzwaniom.
Na podstawie: Źródła
