Un nou studiu concluzionează că nu ar trebui să ne bazăm pe chatboți pentru a obține informații medicale credibile. O parte considerabilă a detaliilor furnizate de cinci astfel de sisteme de „IA generativă” s-a dovedit a fi „inexactă” și „incompletă”, notează Agence Science-Presse.
Este vorba, în special, de solicitări legate de informații bazate pe dovezi științifice solide: jumătate dintre răspunsurile la aceste întrebări s-au dovedit a fi „uneori” sau „adesea” problematice.
Studiul, apărut în revista BMJ Open, se bazează pe un eșantion de întrebări adresate sistemelor Gemini, DeepSeek, Meta AI, ChatGPT și Grok. Deși eșantionul este unul restrâns, studiul confirmă tendința observată în diverse teste efectuate în ultimii trei ani: acestea au acordat sistematic note mici acestor sisteme de IA generativă pe subiecte ce includ atât politica, cât și sănătatea.
Cei șapte cercetători americani, canadieni și britanici văd în aceste noi rezultate – aplicațiile fiind testate în februarie 2025 – un semnal de alarmă legat de faptul că însuși modul în care sunt „antrenați” acești chatboți este inadecvat: „roboții nu accesează date în timp real, ci generează răspunsuri prin deducerea unor tendințe statistice”. Cu alte cuvinte, aceștia răspund la o întrebare utilizând secvența de cuvinte care li se pare cea mai probabilă, ceea ce, evident, nu are nimic de-a face cu un raționament propriu-zis.
Cel mai îngrijorător aspect, din punct de vedere al sănătății publice, este că „această limitare a comportamentului lor înseamnă că chatboții pot genera răspunsuri care lasă impresia că provin dintr-o sursă autorizată, dar care sunt potențial eronate”.
Această realitate survine într-un context în care publicul a adoptat rapid noile tehnologii, în absența unei educări adecvate privind limitele acestora. „Multe persoane le folosesc ca pe niște motoare de căutare, inclusiv pentru probleme de sănătate cotidiene și pentru investigații medicale.”
