Dlaczego niższe koszty AI nie przyniosą oszczędności dla firm?
Dlaczego niższe koszty AI nie przyniosą oszczędności dla firm?
Gartner przewiduje, że do 2030 roku koszt przeprowadzania wnioskowania na modelu sztucznej inteligencji o bilionie parametrów spadnie o ponad 90% w porównaniu z rokiem ubiegłym. To oznacza, że w ciągu najbliższych czterech lat modele LLM staną się nawet stukrotnie bardziej opłacalne niż ich pierwsi poprzednicy z 2022 roku.
Wśród czynników wpływających na obniżenie kosztów wymienia się:
- rozwój sprzętu
- udoskonalenia architektury modeli
- wnioskowanie na urządzeniach brzegowych
- wykorzystanie wyspecjalizowanych układów scalonych
Mimo tych prognoz, przedsiębiorstwa mogą nie odczuć bezpośrednich oszczędności. Wzrost popytu na zaawansowane rozwiązania, takie jak sztuczna inteligencja oparta na agentach, spowoduje konieczność przetwarzania większej liczby tokenów, co może zniwelować korzyści płynące z niższych kosztów.
Na podstawie: Źródła
