Czy ChatGPT może być zagrożeniem dla bezpieczeństwa firm?
Czy ChatGPT może być zagrożeniem dla bezpieczeństwa firm?
Badacze z Check Point Research ujawnili niepokojące informacje dotyczące bezpieczeństwa AI. W ich badaniach odkryto, że asystenci AI, tacy jak ChatGPT, mogą nie tylko mieć dostęp do firmowej poczty, dokumentów i kodu źródłowego, ale mogą być też wykorzystani do wykradania informacji.
W przeprowadzonym teście, zmanipulowany ChatGPT był w stanie pobierać wiadomości z Gmaila i przekazywać je atakującemu. Ten nowy typ ataku, określany mianem coerced insider, polega na nakłanianiu asystenta AI do wykonania nieautoryzowanych poleceń, bez potrzeby przejmowania konta pracownika.
Badacze wskazują, że atakujący mogą stosować różne metody, aby osiągnąć swoje cele, w tym:
- spreparowane linki
- zmanipulowane prompty
- odpowiednio przygotowane moduły Custom GPT
W obliczu tych zagrożeń organizacje powinny pilnie ocenić i wzmocnić swoje środki bezpieczeństwa, aby chronić dane przed potencjalnymi atakami.
Na podstawie: Źródła
