Google CALM: Nowa technologia rewolucjonizująca modele językowe

Google CALM: Nowa technologia rewolucjonizująca modele językowe

2022-12-20 06:11 Redakcja

Google ogłosił przełomową technologię o nazwie CALM, która przyspiesza działanie dużych modeli językowych (LLM) takich jak GPT-3 i LaMDA, nie wpływając na poziom ich wydajności.

Większe zbiory danych treningowych są lepsze, ale mają swoją cenę. Duże modele językowe uczą się na podstawie ogromnych ilości danych. Trening modeli językowych na większych zbiorach danych skutkuje nabywaniem nowych umiejętności, które nie zawsze były planowane. Na przykład, dodanie większej ilości danych do modelu językowego może nieoczekiwanie zaowocować zdolnością do tłumaczenia między różnymi językami, mimo że nie był on do tego trenowany.

Te nowe umiejętności nazywane są emergent abilities, czyli zdolnościami, które nie są koniecznie planowane. W innym badaniu na temat emergent abilities stwierdzono, że "choć istnieje wiele przykładów takich zdolności, obecnie jest niewiele badań dotyczących ich zrozumienia."

Najnowsze wiadomosci ⚡📰

Nie przegap żadnego trendu, hacka ani dramy w świecie marketingu! 🧠
Mamy już ponad 155 000 artykułów i codziennie dorzucamy 50–100 nowych perełek z SEO, PR, social mediów, reklam, AI i brandingu. Do tego wywiady, nowe narzędzia pozwalające dowieźć wyniki i nutka prawa oraz bezpieczeństwa. Wszystko podane w starupowym sosie, który nigdy sie nie nudzi.
Zapisz się teraz, a Twoja skrzynka stanie się potężniejsza niż raporty z Analyticsa.