Ezzel valószínűleg valóra vált az orvosok rémálma.
A Google egészségügyi mesterséges intelligenciája, a Med-Gemini alaposan felkavarta az állóvizet, agyi képalkotó felvételek elemzése közben ugyanis kitalált egy olyan struktúrát, ami az emberi szervezetben egyszerűen nem létezik. Bryan Moore neurológus hívta fel arra a figyelmet, hogy
az MI egy nem létező basilar ganglia nevű agyterületet azonosított.
A Google elismerte a hibát, és a magyarázat szerint a Med-Gemini valószínűleg összekeverte a többek között a mozgás szabályozásában kulcsszerepet játszó bazális gangliont (basal ganglia) az agytörzs közelében húzódó alapi verőérrel, az arteria basilarisszal. Érdekes módon a cég csak a blogbejegyzését igazította ki, míg 2024-es hivatalos kutatási tanulmány máig változatlan maradt.
Nem meglepő, hogy a szakma nem hagyta szó nélkül az esetet. Többen élesen bírálták a történteket, mondván, hogy az MI klinikai használata – például a radiológiai elemzésekben – túl korai és meggondolatlan, és szigorúbb ellenőrzést sürgetnek, hiszen egy ilyen tévedés a valós orvosi gyakorlatban akár végzetes következményekkel is járhat.
„Ez rendkívül veszélyes. A probléma ezekkel a gépelési hibákkal vagy más, úgynevezett hallucinációkkal az, hogy nem bízom benne, hogy az emberek képesek minden szinten átnézni őket. (...) Számomra az MI-nek jóval magasabb hibamentességi küszöböt kell elérnie, mint egy embernek”
– mondta Maulin Shah, a Providence egészségügyi rendszer vezető orvosi informatikusa. Az Emory Egyetem radiológiai és informatikai docense, Judy Gichoya szerint pedig „az MI-k természete, hogy hajlamos kitalálni dolgokat, és nem mondja azt, hogy »nem tudom«, ami óriási probléma az olyan nagy tétű területeken, mint az orvostudomány”.
Eközben a Google pedig teljes gőzzel halad előre ezen a téren is, márciusban ugyanis bejelentette, hogy – a rendkívül hibára hajlamos – AI Overviews (AI Áttekintések) keresési funkciója egészségügyi tanácsokat is ad majd.
(Forrás: Futurism, fotó: Getty Images)
Ez is érdekelhet:
Videón, ahogy feltörik a Google AI-t, ami aztán átveszi az okosotthon irányítását
Ezt a videót akár komoly figyelmeztetésnek is vehetjük.
A Meta 86 milliárd forintos fizetéssel tudta csak elcsábítani a 24 éves fejlesztőt
Egy közgazdász professzor erre mondta azt, hogy ez „a kockák bosszújának csúcspontja”.
A Google új reklámja kíméletlenül odaszúr az Apple-nek
Ezzel 1–0 a Google-nek.
