Czy AI Google naprawdę jest niezawodne?
Czy AI Google naprawdę jest niezawodne?
Automatyczne odpowiedzi w wyszukiwarce Google w większości przypadków są trafne, ale skala błędów pozostaje znacząca. Analiza przeprowadzona przez The New York Times oraz firmę Oumi wskazuje, że około 10% treści generowanych przez AI Overviews zawiera nieścisłości. W kontekście miliardów zapytań, przekłada się to na ogromną liczbę błędnych odpowiedzi.
Problem nie sprowadza się jedynie do pojedynczych „halucynacji”. Wynika on z samego sposobu, w jaki modele AI budują wiedzę, często bez realnego oparcia w źródłach. Źródło: Google
Przykład analityka danych, Stephena Punwasi, pokazuje, jak poważne mogą być te błędy. Natknął się on na nagłówek sugerujący śmierć Hulka Hogana. Wyszukiwarka kategorycznie zaprzeczyła, że istnieją jakiekolwiek wiarygodne informacje o zgonie wrestlera, mimo że tuż obok wyświetlała linki do artykułów na ten temat.
- 10% treści AI zawiera błędy
- Miliardy zapytań = miliardy błędnych odpowiedzi
- Problem z oparciem wiedzy w źródłach
Na podstawie: Źródła
