Jak Jalapeño zmienia rynek AI w obliczu konkurencji Nvidii?
Jak Jalapeño zmienia rynek AI w obliczu konkurencji Nvidii?
OpenAI wprowadza na rynek nowy układ o nazwie Jalapeño, który ma na celu usprawnienie procesów związanych z inferencją modeli językowych. Choć nie zastąpi on GPU w każdym zastosowaniu, jego specyfika sprawia, że jest idealnym rozwiązaniem dla systemów takich jak ChatGPT czy Codex.
Jalapeño, rozwijany we współpracy z Broadcom, ma na celu poprawę szybkości, kosztów oraz efektywności energetycznej obsługi modeli AI. SemiAnalysis wskazuje, że pierwsze wyniki są obiecujące, zwłaszcza w kontekście liczby generowanych tokenów w stosunku do zużywanej energii.
Jednakże, eksperci ostrzegają przed bezpośrednimi porównaniami z platformami Nvidia, ponieważ wiele wyników pochodzi z wczesnych wdrożeń, co może prowadzić do mylnych wniosków. Warto zauważyć, że Jalapeño to pierwszy Intelligence Processor OpenAI, stworzony specjalnie dla akceleracji inferencji.
- Jalapeño dedykowane do inferencji modeli językowych
- Współpraca z Broadcom
- Poprawa efektywności energetycznej
Na podstawie: Źródła
