Jak Google zmienia przyszłość AI dzięki Titans i MIRAS?
Jak Google zmienia przyszłość AI dzięki Titans i MIRAS?
Google Research zaprezentowało dwa nowe badania: Titans i MIRAS, które mają na celu rozwiązanie rosnącego problemu w nowoczesnych systemach AI – zarządzania bardzo długimi fragmentami informacji bez spowolnienia działania i utraty kontekstu.
Obie architektury koncentrują się na tym, jak modele mogą w sposób zorganizowany utrzymywać istotne informacje w czasie, co pozwala im śledzić długie dokumenty, rozmowy czy strumienie danych z większą ciągłością. Kluczowym elementem jest architektura Titans, która wykorzystuje moduł pamięci długoterminowej.
Moduł ten uczy się aktywnie podczas przetwarzania danych, stosując tzw. metrykę zaskoczenia. Jest to wewnętrzny wskaźnik błędu, który sygnalizuje, że coś jest nieoczekiwane, mierząc różnicę między tym, co model aktualnie pamięta, a tym, co mówi nowe dane.
- Nowe podejście do pamięci w AI
- Zwiększona zdolność do analizy długich informacji
- Innowacyjne metody nauki maszynowej
Na podstawie: Źródła
