Nowa podatność w ChatGPT: Uważaj na swoje dane!
Nowa podatność w ChatGPT: Uważaj na swoje dane!
Niedawno odkryto poważną podatność w narzędziach opartych na dużych modelach językowych, takich jak ChatGPT. Zwana ShadowLeak, ta luką zero-click może prowadzić do wycieku danych osobowych z kont e-mail użytkowników.
Atak polegał na wysłaniu specjalnie przygotowanego e-maila, który zawierał ukryty prompt. Instrukcje te mogły oszukiwać model, sugerując, że dane są publiczne i bezpieczne. W rezultacie, agent AI mógł nieświadomie przesyłać dane na zewnętrzny serwer.
Choć atak wymagał pewnej wiedzy na temat typowych wiadomości ofiary, nie trzeba znać szczegółów ich treści. To sprawia, że luka ta jest szczególnie niebezpieczna w kontekście ochrony prywatności.
Na podstawie: Źródła







