Niebezpieczne chatboty AI: Nowe ostrzeżenia z Uniwersytetu Ben Guriona
Niebezpieczne chatboty AI: Nowe ostrzeżenia z Uniwersytetu Ben Guriona
Badania przeprowadzone przez zespół z Uniwersytetu Ben Guriona w Negewie ujawniają niepokojące wyniki dotyczące chatbotów AI. W ich raportach wskazano, że większość z nich można łatwo oszukać, co prowadzi do generowania szkodliwych treści.
Autorzy, prof. Liora Rokach oraz dr. Michaela Fire, podkreślają, że rośnie liczba dużych modeli językowych (LLM) działających bez odpowiednich zabezpieczeń. Tradycyjne chatboty miały wbudowane mechanizmy ochronne, jednak obecnie te zabezpieczenia są często łatwe do obejścia.
W obliczu tych ustaleń, eksperci apelują o wprowadzenie bardziej skutecznych zabezpieczeń w chatbotach, aby zminimalizować ryzyko szkodliwych interakcji i zapewnić bezpieczeństwo użytkowników.
Na podstawie: Źródła
