Google LIMoE – Nowa Era w AI
Google LIMoE – Nowa Era w AI
Google ogłosiło nową technologię o nazwie LIMoE, która ma być krokiem w kierunku osiągnięcia celu stworzenia architektury AI o nazwie Pathways. Ta innowacyjna architektura ma umożliwić działanie jednego modelu, który będzie w stanie uczyć się wielu zadań, które obecnie wymagają stosowania różnych algorytmów.
LIMoE to skrót od Learning Multiple Modalities with One Sparse Mixture-of-Experts Model. Model ten przetwarza dane wizualne oraz tekstowe równocześnie, co stanowi znaczący postęp w dziedzinie sztucznej inteligencji.
Chociaż istnieją inne architektury, które osiągają podobne cele, to przełom tkwi w sposobie, w jaki nowy model realizuje te zadania, wykorzystując technikę sieci neuronowych znaną jako Sparse Model. Ta nowa metoda została opisana w pracy badawczej z 2017 roku, w której wprowadzono podejście Mixture-of-Experts (MoE).
Na podstawie: Źródła








