Snowflake i Meta: Rewolucja w Aplikacjach AI
Snowflake i Meta: Rewolucja w Aplikacjach AI
W dniu 25 lipca 2024 roku, Snowflake ogłosił współpracę z Meta, co może zrewolucjonizować sposób, w jaki przedsiębiorstwa korzystają z aplikacji AI. Nowa oferta obejmuje zestaw wielojęzycznych dużych modeli językowych (LLM) open source, w tym najnowszy model Llama 3.1 405B, który będzie hostowany w Snowflake Cortex AI.
Snowflake AI zoptymalizował model Llama 3.1, co pozwala na efektywne wnioskowanie oraz dostrajanie, a także na obsługę okna kontekstowego o długości 128K. Dzięki temu użytkownicy mogą spodziewać się znacznego zwiększenia wydajności w porównaniu do dotychczasowych rozwiązań.
Nowe możliwości umożliwiają wnioskowanie w czasie rzeczywistym z opóźnieniem end-to-end do 3 razy niższym oraz 1,4 razy większą przepustowością. To znaczący krok w kierunku przyszłości AI, który z pewnością przyciągnie uwagę wielu firm.
Na podstawie: Źródła








