Bezpieczeństwo zagrożone: nowa luka w Google Gemini
Bezpieczeństwo zagrożone: nowa luka w Google Gemini
Badacze z Miggo Security ujawnili niebezpieczną podatność w narzędziach AI od Google, znanych jako Gemini. Umożliwia ona ataki typu prompt injection, które pozwalają na nieautoryzowany dostęp do prywatnych wydarzeń z kalendarza użytkowników. Problem ten może mieć poważne konsekwencje dla ochrony danych osobowych.
Luka ta pozwalała na tworzenie nowych wpisów w kalendarzu bez wiedzy użytkownika. Wystarczyło, że użytkownik zadał niewinne pytanie asystentowi, aby złośliwe instrukcje w opisach wydarzeń zostały przetworzone przez Gemini.
To nie pierwszy raz, gdy odkryto lukę w tej technologii. Przypadek ten podkreśla, jak trudne jest zabezpieczanie aplikacji opartych na large language models (LLM), szczególnie tych z dostępem do narzędzi i API. Google potwierdziło istnienie problemu, jednak nie podało szczegółowych informacji na temat planowanych działań naprawczych.
Na podstawie: Źródła
