Ny studie från Columbia Journalism Review (CJR) visar att AI-baserade sökmotorer som ChatGPT, Copilot och Gemini ger felaktig information i över 60% av fallen. Trots detta presenterar de sina svar med lite för stor självsäkerhet.
Hur utfördes testet?
CJR testade åtta olika AI-sökmotorer genom att ge dem citat från artiklar och be dem identifiera huvudrubriken, publiceringsdatumet, utgivaren och en länk till källan.
När samma citat matades in i en vanlig Google-sökning hittades artikeln bland de tre första resultaten. För AI-sökmotorerna var uppgiften betydligt svårare.
Resultaten
I mer än 60% av fallen kunde AI inte utföra uppgiften korrekt. Istället hittade de på källor och länkar. Samtidigt var svaren från AI ofta självsäkra utan något tecken på att AI inte hade rätt svar, eller inte var säker på svaret som gavs.
Undersökningen visade att:
- AI-sökmotorerna presenterade felaktig information som fakta
- De skapade länkar som inte existerar
- Även när de korrekt hittade artikeln misslyckades de ofta med att länka till den rätt
Vad kan vi lära oss?
DUBBELKOLLA informationen från AI-sökmotorer. Jag är inte särskilt förvånad. Även om jag tror att AI sökmotorerna kommer att förbättras med tiden, är det svårt att lita på svaren de ger just nu.
Studien visade att AI-sökmotorerna i många fall verkade mycket säkra på sina svar, även när de var helt fel. De använde sällan uttryck som ”det verkar som” eller ”jag är inte säker”, utan presenterade istället felaktig information som ren fakta.
Ett särskilt oroande fynd var att även när AI-sökmotorerna korrekt identifierade en artikel, länkade de ofta till fel version eller skapade helt påhittade länkar som inte fungerade alls.
För dig som användare betyder detta att du alltid bör behandla information från AI-sökmotorer med en hälsosam skepsis och alltid dubbelkolla viktiga fakta genom traditionella sökmetoder eller pålitliga källor.
Det är viktigt att notera att detta test var specifikt inriktat på hur väl AI-sökmotorer kan identifiera och hänvisa till publicerade nyhetsartiklar. Testet fokuserade på att hitta och korrekt citera publicerade källor, snarare än allmän faktakorrekthet inom alla områden. Ändå ger resultaten en viktig inblick i hur dessa verktyg hanterar information och källor.
