Jak chińskie firmy próbują wykradać technologie modeli AI?
Jak chińskie firmy próbują wykradać technologie modeli AI?
Firma Anthropic ujawnia, że w ostatnich miesiącach chińskie firmy podjęły intensywne działania mające na celu wykradanie możliwości modeli Claude. Wykryto pięć kampanii wykorzystujących tzw. ataki typu distributed, które miały na celu pozyskanie wiedzy na temat funkcjonowania tych modeli.
Na przestrzeni kilku miesięcy, napastnicy wygenerowali niemal 200 mln interakcji, próbując wydobyć informacje o sposobie rozumowania modeli AI. Te dane mogą zostać wykorzystane do trenowania własnych systemów sztucznej inteligencji.
Jak informuje Anthropic, skala i agresywność tych ataków wzrosła w związku z rosnącą konkurencją na rynku AI. W raporcie czytamy, że „nieautoryzowane laboratoria opracowały coraz bardziej wyrafinowane metody omijania naszych zabezpieczeń”.
- Wzrost liczby ataków w ostatnich miesiącach
- Rozwój wyrafinowanych metod ataków
- Potencjalne zagrożenie dla amerykańskich modeli AI
Na podstawie: Źródła
