Гугл отстрани дел од своите здравствени резимеа генерирани од вештачка интелигенција откако истрагата на Гардијан откри дека луѓето биле изложени на ризик од штета поради лажни и погрешни информации. Компанијата соопшти дека нејзините прегледи на ВИ, кои користат генеративна вештачка интелигенција за да обезбедат преглед на основните информации за одредена тема или проблем, се „корисни“ и „сигурни“. Но, некои од резимеата, кои се појавуваат на врвот од резултатите од пребарувањето, прикажувале неточни здравствени информации, ставајќи ги корисниците во ризик од штета, објавува Гардијан . Во еден случај што експертите го опишаа како „опасен“ и „алармантен“, Гугл дал лажни информации за клучните тестови за функцијата на црниот дроб што би можеле да ги доведат во заблуда луѓето со сериозни заболувања на црниот дроб да мислат дека се здрави. Гардијан откри дека пишувањето „кој е нормалниот опсег за крвни тестови за црниот дроб“ дава многу бројки, малку контекст и никакво објаснување за националноста, полот, етничката припадност или возраста на пациентите. Експертите рекоа дека она што ВИ прегледите на Гугл го прикажуваат како нормално може драстично да се разликува од она што всушност се смета за нормално. Резимеата би можеле да ги наведат сериозно болните пациенти погрешно да мислат дека имаат нормален резултат од тестот и да не вложат напор да присуствуваат на прегледи за здравствена заштита. По истрагата, компанијата ги отстрани прегледите на корисничкиот интерфејс за клучните зборови „кој е нормалниот опсег за крвни тестови на црниот дроб“ и „кој е нормалниот опсег за тестови за функција на црниот дроб“. „Ние не коментираме за поединечни отстранувања во рамките на Пребарувањето. Во случаи кога прегледите на корисничкиот интерфејс пропуштаат одреден контекст, ние работиме на подобрување, а исто така преземаме мерки во согласност со нашите политики каде што е соодветно“, рече портпарол на Гугл. Ванеса Хебдич, директорка за комуникации и политика во British Liver Trust, добротворна организација за здравје на црниот дроб, рече: „Ова се одлични вести и задоволни сме што го гледаме отстранувањето на прегледите на Гугл ВИ во овие случаи“. „Сепак, поставувањето на прашањето на поинаков начин сè уште може да обезбеди потенцијално погрешен преглед на ВИ и ние остануваме загрижени дека другите здравствени информации произведени од ВИ може да бидат неточни и збунувачки“, додаде таа. Гардијан откри дека пишувањето мали варијации на оригиналните барања во Гугл , како што се „lft референтен опсег“ или „lft референтен опсег на тест“, предизвика прегледи на ВИ. Тоа беше голема загриженост, според Хебдич. „Тестот за функција на црниот дроб или LFT е збирка од различни крвни тестови. Разбирањето на резултатите и што да се прави следно е комплексно и вклучува многу повеќе од споредување на збир на броеви“, нагласи таа. „Но, AI Overviews го претставува списокот на тестови со задебелени букви, што им олеснува на читателите да пропуштат дека овие бројки можеби дури и не се точни за нивниот тест.“ „Понатаму, ВИ скринингот не предупредува дека некој може да добие нормални резултати од овие тестови дури и кога има сериозно заболување на црниот дроб и му е потребна дополнителна медицинска нега. Ова лажно уверување може да биде многу штетно“, предупредува тој. Гугл, кој има 91% удел на глобалниот пазар на пребарувачи, изјави дека ги разгледува новите примери што му ги обезбеди Гардијан. „Нашата најголема загриженост во врска со сето ова е што се работи за длабинско разгледување околу еден резултат од пребарувањето, а Гугл може едноставно да ги исклучи ВИ прегледите поради тоа, но тоа не го решава поголемото прашање на ВИ прегледите за здравјето“, нагласи Хебдич. Сју Фарингтон, претседателка на Форумот за информации за пациенти, кој промовира здравствени информации засновани на докази за пациентите, јавноста и здравствените работници, го поздрави отстранувањето на резимеата, но рече дека загриженоста останува. „Ова е добар резултат, но тоа е само првиот чекор во она што е потребно за да се одржи довербата во резултатите од пребарувањето на Google поврзани со здравјето. Сè уште има премногу примери каде што Google AI прегледите им даваат на луѓето неточни здравствени информации“, нагласи таа. Милиони возрасни лица низ целиот свет веќе имаат тешкотии со пристапот до сигурни здравствени информации, рече Фарингтон. „Затоа е толку важно Гугл да ги насочува луѓето кон сигурни, истражени здравствени информации и понуди за нега од доверливи здравствени организации“, додава тој. Прегледите на AI сè уште се појавуваат за други примери што Гардијан првично ги истакна на Гугл. Тие вклучуваат резимеа на информации за ракот и менталното здравје кои експертите ги опишаа како „целосно погрешни“ и „вистински опасни“. Кога беше прашана компанијата зошто овие ВИ прегледи не беа отстранети, од Гугл истакнале дека тие се поврзуваат со познати и реномирани извори и ги информираат луѓето кога е важно да побараат професионален совет. „Нашиот внатрешен тим од клиничари го разгледа она што беше споделено со нас и утврди дека во многу случаи информациите не беа неточни и беа поткрепени со висококвалитетни веб-страници“, изјави портпаролот на Гугл. Виктор Тангерман, виш уредник на технолошката веб-страница „Футуризам“, рече дека резултатите од истрагата на „Гардијан“ покажале дека „Гугл“ има многу работа да заврши „за да се осигури дека неговите алатки за вештачка интелигенција не шират опасни здравствени дезинформации“.