Jak PuzzleMask oszukuje filtry bezpieczeństwa AI?
Jak PuzzleMask oszukuje filtry bezpieczeństwa AI?
PuzzleMask to nowa technika ataku na sztuczną inteligencję, która wykorzystuje naturalną prozę, by z łatwością omijać systemy filtrujące. W obliczu rosnącego zagrożenia, ta innowacja ujawnia poważne luki w ochronie stosowanej przez firmy na całym świecie.
Do tej pory, branża cyberbezpieczeństwa koncentrowała się na rozwoju systemów zdolnych do rozpoznawania typowych oznak manipulacji, takich jak:
- podejrzane formatowanie
- emotikony
- zakodowane ciągi znaków
Jednak PuzzleMask wprowadza nową jakość, ukrywając instrukcje łamiące zasady bezpieczeństwa w płynnej, eleganckiej formie tekstu, co sprawia, że dla filtrów wygląda to jak niewinny fragment opowiadania. W testach przeprowadzonych przez Check Point Research cztery wiodące systemy filtrujące, w tym Claude-3-Haiku i GPT-4o-Mini, nie zdołały wykryć zagrożenia.
Na podstawie: Źródła
