Nowy Wektor Ataku na AI: Czy Internet Staje się Niebezpieczny?
Nowy Wektor Ataku na AI: Czy Internet Staje się Niebezpieczny?
Nowy wektor ataku łączący indirect prompt injection z cloakingiem został ujawniony przez Shaked Zychlinski z JFrog. Jest to technika, która może wstrzyknąć złośliwe instrukcje do autonomicznych asystentów AI przeglądających Internet.
Dotychczasowe ataki polegały na ukrywaniu instrukcji na stronach lub w e-mailach, które były niewidoczne dla ludzi, ale wykrywalne przez AI. Jednak nowa metoda idzie o krok dalej, wyświetlając różne treści w zależności od tego, czy stronę przegląda człowiek, czy AI.
Atak opiera się na fingerprintingu sesji przeglądarki, co umożliwia stronom internetowym identyfikację i śledzenie użytkowników. To stawia pod znakiem zapytania bezpieczeństwo w Internecie, a sztuczna inteligencja może stać się nowym celem cyberataków.
Na podstawie: Źródła
