Jak bychom měli vidět neobjektivní klinická data v lékařském strojovém učení? Výzva k archeologickému pohledu


Výzkumníci z MIT, Johns Hopkins University a Alan Turing Institute tvrdí, že nakládání s neobjektivními lékařskými daty v systémech umělé inteligence není tak jednoduché, jak naznačuje rčení „odpadky dovnitř, odpadky ven“. Modely zaujaté umělou inteligencí se staly populární ve zdravotnickém průmyslu. Obvykle, když jsou data zkreslená, lidé se to snaží opravit tím, že shromažďují více dat od nedostatečně zastoupených skupin nebo vytvářejí syntetická data, aby se věci vyvážily. Vědci se však domnívají, že tento technický přístup vyžaduje širší pohled. Říkají, že bychom měli vzít v úvahu historické a současné sociální faktory. Tímto způsobem můžeme účinněji bojovat proti zaujatosti v oblasti veřejného zdraví. Autoři si uvědomili, že problémy s daty často považujeme za technické nepříjemnosti. Porovnali data s prasklým zrcadlem odrážejícím naše minulé činy, které nemusí ukazovat úplnou pravdu. Jakmile však pochopíme naši historii prostřednictvím dat, můžeme pracovat na řešení a zlepšování našich postupů v budoucnu.

V novinách s názvem „Zvažování zkreslených dat jako informativních artefaktů ve zdravotní péči s pomocí umělé inteligence“, tři výzkumníci tvrdí, že bychom měli vidět neobjektivní lékařská data jako cenné artefakty v archeologii nebo antropologii. Tyto artefakty odhalují praktiky, přesvědčení a kulturní hodnoty, které vedly k nerovnostem ve zdravotnictví. Například široce používaný algoritmus chybně předpokládal, že nemocnější černoši potřebují stejnou péči jako zdravější bílí pacienti, protože nezohledňoval nerovný přístup ke zdravotní péči. Výzkumníci naznačují, že namísto pouhého opravování zkreslených dat nebo jejich vyřazení bychom měli použít přístup „artefaktů“. To znamená rozpoznat, jak sociální a historické faktory ovlivňují sběr dat a vývoj klinické umělé inteligence. Počítačoví vědci nemusí plně porozumět sociálním a historickým aspektům dat, která používají, proto je nezbytná spolupráce, aby modely umělé inteligence fungovaly dobře pro všechny skupiny ve zdravotnictví.

Výzkumníci si uvědomují výzvu v přístupu založeném na artefaktech, který zjišťuje, zda data byla rasově opravena, což znamená, že jsou založeny na předpokladu, že těla bílých mužů jsou standardem pro srovnání. Zmiňují příklad, kdy byla opravena rovnice měření funkce ledvin za předpokladu, že černoši mají více svalové hmoty. Výzkumníci musí být připraveni zkoumat takové opravy během svého výzkumu. V jiném dokumentu vědci zjistili, že zahrnutí rasy, kterou si sami oznámili, do modelů strojového učení může situaci pro menšinové skupiny zhoršit. Vlastní rasa je sociální konstrukt a nemusí vždy pomoci. Přístup by měl záviset na dostupných důkazech.

Předpojaté datové sady by neměly být uchovávány tak, jak jsou, ale mohou být cenné, pokud se s nimi zachází jako s artefakty. Vědci z National Institutes of Health (NIH) kladou důraz na etický sběr dat. Pochopení předsudků v různých kontextech může pomoci vytvořit lepší umělou inteligenci pro konkrétní populace. Tento přístup může také vést k novým politikám k odstranění zkreslení. Vědci stále pracují na řešení současných problémů zdravotní péče, spíše než aby se obávali hypotetických problémů s umělou inteligencí v budoucnosti.


Podívejte se na Papír 1Papír 2, a Referenční článekVeškerá zásluha za tento výzkum patří výzkumníkům na tomto projektu. Také se nezapomeňte připojit náš 30k+ ML SubReddit, 40 000+ Facebook komunita, Discord Channel, a E-mailový newsletter, kde sdílíme nejnovější zprávy o výzkumu AI, skvělé projekty AI a další.

Pokud se vám naše práce líbí, náš newsletter se vám bude líbit..


bhoumik Bhoumik Mhatre

Bhoumik Mhatre je studentem třetího ročníku UG na IIT Kharagpur a studuje program B.tech + M.Tech v oboru těžebního inženýrství a vedlejší obor ekonomie. Je datovým nadšencem. V současné době má výzkumnou stáž na National University of Singapore. Je také partnerem společnosti Digiaxx Company. "Jsem fascinován nedávným vývojem v oblasti datové vědy a rád bych o nich provedl výzkum."




Odkaz na zdroj

zanechte odpověď

Vaše e-mailová adresa nebude zveřejněna. Povinná pole jsou označena *

Můžete použít tyto HTML značky a atributy: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>

cs_CZCzech