Czy powinniśmy spowolnić rozwój sztucznej inteligencji?
Czy powinniśmy spowolnić rozwój sztucznej inteligencji?
Dario Amodei, współzałożyciel i prezes firmy Anthropic, apeluje o świadome spowolnienie tempa rozwoju sztucznej inteligencji. W swoim eseju „We Must Pace the Frontier” proponuje, by branża skupiła się na bezpieczeństwie, testach i społecznej kontroli, zanim technologia zostanie wprowadzona na szerszą skalę.
Amodei podkreśla, że gwałtowny rozwój AI od lata tego roku jest niepokojący, z uwagi na rosnącą zdolność systemów AI do rekurencyjnego samodoskonalenia. Istnieje obawa, że przyspieszenie to może doprowadzić do niebezpiecznych sytuacji, a w konsekwencji do wyścigu technologicznego, który nie sprzyja etycznym standardom.
W jego apelach znalazło się również wsparcie ze strony znanych osobistości, takich jak Sam Altman, dyrektor generalny OpenAI, oraz Elon Musk, właściciel SpaceX i xAI. Wspólnie nawołują do przemyślenia kierunku, w jakim zmierza rozwój AI, aby uniknąć przewagi technologicznej autorytarnych państw.
- Bezpieczeństwo technologii
- Testy i kontrola społeczna
- Rekurencyjne samodoskonalenie
Na podstawie: Źródła








