Google usprawnia AI Overviews i reaguje na krytykę po tym, jak AI kazało ludziom jeść kamienie

W zeszłym tygodniu sporo mówiło się o błędach i potencjalnie szkodliwych odpowiedziach generowanych przez funkcję AI Overviews w wyszukiwarce Google. Firma nie pozostała obojętna na krytykę i oficjalnie odniosła się do tych zarzutów.

Liz Reid, szefowa Google Search, opublikowała oświadczenie na blogu firmy, w którym wyjaśnia, co dokładnie się wydarzyło i jakie kroki podjęto w celu poprawy sytuacji.

Co wiemy z oświadczenia Google?

• Google wykryło nieprawidłowości. Mniej niż jedna na 7 milionów odpowiedzi generowanych przez AI Overviews naruszała politykę treści firmy.
• AI Overviews działa inaczej niż chatboty. Funkcja jest zintegrowana z wyszukiwarką, co minimalizuje ryzyko tzw. halucynacji – generowania fałszywych informacji.
• Błędy wynikały z różnych czynników. Nieprawidłowe odpowiedzi były najczęściej spowodowane błędną interpretacją zapytań, niuansami językowymi w sieci lub brakiem odpowiednich informacji.
• Google zauważyło próby manipulacji. Pojawiło się wiele nonsensownych zapytań, mających na celu wywołanie błędnych odpowiedzi, a także fałszywych screenshotów rozpowszechnianych w mediach społecznościowych.
• Firma przyznaje się do błędów. Google przyznaje, że mimo wszystko pojawiły się „dziwne, nieprawidłowe lub niezbyt pomocne wyniki”.

O dziwnych wynikach i fałszywych zrzutach ekranu

Google przyznaje, że pomimo testów przed uruchomieniem funkcji, pojawienie się milionów użytkowników i nowych rodzajów zapytań ujawniło obszary wymagające poprawy. Firma odnotowała także liczne próby manipulacji, w tym nonsensowne zapytania mające na celu wywołanie błędnych odpowiedzi oraz fałszywe zrzuty ekranu przedstawiające nieistniejące, szkodliwe wyniki wyszukiwania.

Przykłady nieprawidłowych odpowiedzi

Jednym z problemów była interpretacja nonsensownych zapytań i treści satyrycznych. Przykładowo, na pytanie „Ile kamieni powinienem zjeść?” AI Overviews podlinkowywał do satyrycznego artykułu opublikowanego na stronie dostawcy oprogramowania geologicznego.

Innym problemem było cytowanie sarkastycznych lub trollowych treści z forów dyskusyjnych, np. porad dotyczących używania kleju do przyklejenia sera do pizzy.

W niektórych przypadkach AI Overviews błędnie interpretował język stron internetowych, prezentując nieprawdziwe informacje.

Jakie działania podjęło Google?

W odpowiedzi na zaistniałą sytuację Google wprowadziło szereg usprawnień:

• Lepsze wykrywanie nonsensownych zapytań. Wprowadzono mechanizmy, które mają zapobiegać uruchamianiu AI Overviews w przypadku zapytań, które nie powinny generować odpowiedzi.
• Ograniczenie wykorzystania treści generowanych przez użytkowników. Zmniejszono ryzyko pojawiania się wprowadzających w błąd porad w odpowiedziach.
• Ograniczenie AI Overviews dla problematycznych zapytań. Funkcja będzie rzadziej uruchamiana w przypadku zapytań, które nie zwracały użytecznych odpowiedzi.

Pierwsza oficjalna aktualizacja AI Overviews

Można powiedzieć, że mieliśmy do czynienia z pierwszą oficjalną aktualizacją AI Overviews. Google pokazało, że jest świadome problemów i aktywnie pracuje nad ich rozwiązaniem.

Kiedy AI Overview pojawi się w Polsce?

Google AI Overview jest obecnie dostępne tylko w Stanach Zjednoczonych. Google zapowiedziało, że planuje rozszerzyć dostępność funkcji na inne kraje, w tym Polskę, pod koniec 2024 roku. Dokładna data wprowadzenia AI Overviews w Polsce nie została jeszcze ogłoszona.

Możesz śledzić oficjalne komunikaty Google, aby być na bieżąco z informacjami dotyczącymi dostępności AI Overviews w Polsce.