Розслідування британського видання The Guardian виявило, що відповіді Google, створені за допомогою штучного інтелекту, у низці випадків містять хибну або оманливу інформацію про здоров’я і можуть наражати людей на ризик.
У чому проблема
Google зазначає, що його огляди на основі ШІ (AI Overviews) допомагають користувачам швидко отримати ключову інформацію про запит і є "корисними та надійними". Водночас розслідування показало: деякі такі підсумки, які відображаються на самому верху пошукової видачі, містять серйозні помилки, зокрема у темах, пов’язаних зі здоров’ям.
Небезпечні приклади
Рак підшлункової залози. В одному з випадків ШІ порадив людям із цим діагнозом уникати жирної їжі. Медичні експерти назвали таку рекомендацію "справді небезпечною", адже вона є прямо протилежною тому, що зазвичай радять пацієнтам, і може погіршити їхній стан.
Обстеження печінки. За запитом про "нормальні показники аналізів крові" ШІ видавав набір чисел без пояснень і без урахування віку, статі чи інших важливих чинників. Це може створити хибне враження, що людина здорова, навіть за наявності серйозного захворювання.
Онкологічні тести для жінок. Пошук інформації про рак піхви приводив до твердження, що ПАП-тест використовується для його виявлення. За словами експертів, це повністю неправильна інформація і може призвести до ігнорування реальних симптомів.
Психічне здоров’я. У зведеннях щодо психозу та розладів харчової поведінки траплялися поради, які профільні організації назвали "дуже небезпечними" або такими, що можуть відштовхнути людей від звернення по допомогу.
Що кажуть фахівці
Представники медичних і пацієнтських організацій наголошують: люди часто звертаються до пошуку в моменти тривоги чи кризи. У такому контексті помилкова або неповна інформація, подана як готова відповідь, може мати серйозні наслідки.
Окреме занепокоєння викликає й те, що однакові запити інколи дають різні відповіді ШІ — залежно від часу пошуку та джерел, які система використовує.
Позиція Google
У Google відповіли, що більшість оглядів на основі ШІ є точними та корисними, а рівень їхньої достовірності співставний з іншими форматами пошукових підсумків. Компанія також заявила, що постійно працює над підвищенням якості, особливо у темах, пов’язаних зі здоров’ям, і вживає заходів, якщо ШІ неправильно інтерпретує інформацію або втрачає контекст.
Читайте новини "МБ" у Google News | Facebook | Telegram | Viber | Instagram
