Cyberataki z wykorzystaniem modeli LLM: Nowe zagrożenie w sieci
Cyberataki z wykorzystaniem modeli LLM: Nowe zagrożenie w sieci
Według platformy Hugging Face, obecnie dostępnych jest ponad 1,8 miliona modeli AI. Większość z nich ma wbudowane mechanizmy zabezpieczające, które mają na celu zapobieganie ich wykorzystaniu w celach przestępczych.
Jednak zespół Cisco Talos odkrył, że wiele modeli językowych nie jest odpowiednio cenzurowanych. To otwiera drzwi dla cyberprzestępców, którzy mogą łatwo tworzyć wiarygodne wiadomości phishingowe oraz inne formy fałszywej komunikacji.
Dzięki tym modelom, ofiary mogą nieświadomie przekazać dane osobowe lub firmowe, co stanowi ogromne zagrożenie dla bezpieczeństwa w sieci. Przykłady takich modeli to m.in. Ollama, które umożliwiają realizację tych niebezpiecznych działań.
Na podstawie: Źródła
