Nowa metoda łamania zabezpieczeń modeli językowych!
Nowa metoda łamania zabezpieczeń modeli językowych!
Badania wykazały, że metoda drzewa myśli (ToT) jest skuteczniejsza niż tradycyjne podejście łańcucha myśli (CoT) w łamaniu zabezpieczeń modeli językowych takich jak GPT-4 i GPT-4 Turbo. Naukowcy odkryli, że poprzez powtarzanie i udoskonalanie ataku można uzyskać dostęp do niebezpiecznego i toksycznego contentu, co stawia pod znakiem zapytania dotychczasowe metody ochrony.
W badaniach stwierdzono, że strategia ToT pozwala na osiągnięcie celu przy użyciu zaskakująco małej liczby zapytań, średnio mniej niż trzydzieści. To odkrycie pokazuje, jak zaawansowane stały się techniki wykorzystywane do manipulacji sztuczną inteligencją.
Metoda łańcucha myśli, opracowana przez Google w 2022 roku, była dotychczas uznawana za efektywną w kierowaniu generatywną AI. Jednak nowe badania sugerują, że ToT może zrewolucjonizować sposób myślenia o bezpieczeństwie w kontekście AI.
Na podstawie: Źródła
