Czy AI staje się zagrożeniem w rękach gigantów technologicznych?
Czy AI staje się zagrożeniem w rękach gigantów technologicznych?
Mythos, nowy system stworzony przez firmę Anthropic, wykazuje zdolności, które mogą budzić niepokój. Podczas testów potrafił on identyfikować i wykorzystywać luki zero-day w głównych systemach operacyjnych oraz popularnych przeglądarkach internetowych.
Wykryte przez Mythos luki są często subtelne i trudne do zauważenia. Co więcej, wiele z nich ma dziesięć lub dwadzieścia lat, a najstarsza to nawet 27-letni błąd w OpenBSD. Takie osiągnięcia sprawiły, że Anthropic postanowił nie udostępniać tego narzędzia publicznie.
Logan Graham, szef zespołu Frontier Red Team w Anthropic, podkreśla, że muszą mieć pewność co do bezpieczeństwa przed jego wdrożeniem. W obliczu rosnącej skuteczności systemów AI w znajdowaniu błędów, należy zastanowić się nad ich potencjalnym zagrożeniem dla bezpieczeństwa cyfrowego.
- Wykrywanie luk zero-day
- Bezpieczeństwo systemów AI
- Potencjalne zagrożenia dla technologii
Na podstawie: Źródła
