60 milionów dolarów za dane Reddita, Google tonie w spamie AI

Czy zauważyłeś ostatnio, że wyszukiwarka Google zasypuje Cię odpowiedziami z Quory i Reddita? To nie przypadek, Google ostatnio zmieniło swoje algorytmy, żeby promować treści na podstawie osobistych doświadczeń użytkowników i ekspertów. Mniej firmowych blogasków i bezosobowych artykułów nastawionych na zarobek z reklam czy afiliacji, więcej konkretów od „prawdziwych” ludzi udzielających się za darmo na forach. Fajnie, prawda? No, nie do końca…

W ostatnich miesiącach Quora i Reddit dosłownie eksplodowały w wynikach wyszukiwania Google, często lądując na topowych pozycjach na najbardziej konkurencyjnych słowach kluczowych.

Dane dotyczące estymowanego ruchu organicznego (z Google) dla Quora.com

To nie dziwi, biorąc pod uwagę, że Google nawiązało współpracę z Redditem, podpisując umowę na 60 milionów dolarów, która ma na celu wykorzystanie treści z Reddita do szkolenia modeli AI Google. Jednak ta zmiana, choć miała dobre intencje, otworzyła puszkę Pandory – plagę fałszywych ekspertów generowanych przez AI.

Quora, w przeciwieństwie do Reddita, nie dysponuje porządną moderacją. Reddit ma społeczności z moderatorami, którzy pilnują porządku, a Quora? To raj dla spamerów, którzy tworzą całe sieci fejkowych kont, żeby wypromować swoje treści w Google.

Wyobraź sobie, że szukasz porady zdrowotnej, a trafia Ci się odpowiedź od „Margaret Shaffer”, która w zaledwie 17 dni udzieliła aż 159 odpowiedzi na pytania o bóle pleców. Brzmi podejrzanie? I słusznie, bo Margaret nie istnieje, a jej odpowiedzi to dzieło ChatGPT.

Źródło: Margaret Shaffer – Quora

Jak to działa?

To całkiem proste:

1. Generowanie zdjęć – sztuczna inteligencja tworzy realistyczne zdjęcia twarzy, żeby „ekspert” wyglądał wiarygodnie. Najczęściej zdjęcie takiego autora pochodzi z całkowicie darmowych narzędzi lub stron typu thispersondoesnotexist.com.
2. Tworzenie odpowiedzi – ChatGPT na podstawie prostych promptów uwzględniających oryginalne pytanie, pisze zarówno krótkie, zoptymalizowane odpowiedzi na konkretne pytania, jak i całe artykuły zawierające linki do np. stron z afiliacją, na których później „autor” fikcyjnego profilu zarabia. 
3. Budowanie sieci – tworzone są całe grupy fałszywych profili, które wzajemnie się wspierają, żeby ich treści były bardziej widoczne i zarabiały jeszcze więcej z reklam i linków afiliacyjnych. 

Co to oznacza dla Ciebie?

Jak zawsze – musisz być ostrożny. Nie od dziś wiadomo, że nie wszystko, co znajdziesz w internecie, jest prawdą. Szczególnie jeśli chodzi o porady zdrowotne czy finansowe, upewnij się, że sięgasz po wiarygodne źródło. Sprawdź profil autora, spróbuj znaleźć informacje na jego temat poza samą publikacją i zweryfikuj jego aktywność na innych portalach. Jeśli nie jesteś w stanie znaleźć żadnych konkretnych informacji na temat danego „eksperta” poza jego własnym profilem na Reddicie czy Quora, nie widzisz jego wypowiedzi na Linkedinie czy aktywności w innych mediach społecznościowych, prawdopodobnie warto poszukać lepszego źródła. 

Co dalej?

Google zdaje sobie sprawę z problemu, dlatego ogłosiło, że udało im się zredukować ilość niskiej jakości treści o 45%. Tyle że spam po prostu przeniósł się na inne platformy, takie jak Quora i Reddit. Google próbuje walczyć z tym procederem i m.in. dzięki danym pozyskanym w ramach współpracy z Redditem, do trenowania swojego AI w wykrywaniu spamu. Czy podobna współpraca obejmie Quora? Czas pokaże.

Problem polega na tym, że tworzenie spamu za pomocą AI jest tak łatwe i dochodowe, że dosłownie zalewa Quora. Aktualizacje algorytmu Google, choć miały dobre intencje, nieumyślnie zachęciły do takiego zachowania. 

Google stoi teraz przed nie lada wyzwaniem – jak utrzymać jakość wyników wyszukiwania, skoro spam tak łatwo się rozprzestrzenia?

Chcesz wiedzieć więcej? Zajrzyj do opracowania Ori Zilbershteina, który jako jeden z pierwszych nagłośnił tę sprawę na platformie X.