június 14, 2024

Androbit techmagazin

Az Androbit tényeken alapuló híreivel, exkluzív videofelvételeivel, fotóival és frissített térképeivel maradjon naprakész Magyarország legfrissebb fejleményein.

A UnitedHealth mesterséges intelligenciája tagadja a hibára vonatkozó állításokat – áll a keresetben

A UnitedHealth mesterséges intelligenciája tagadja a hibára vonatkozó állításokat – áll a keresetben

Játszik

Évek óta létfontosságú döntések születtek arról, hogy ki kapja meg a Medicare fedezetet, az egészségbiztosító társaságok háttérirodáiban. Az életet megváltoztató döntések egy részét most az AI szoftver hozza meg.

Legalábbis ezt állítja két család, akik a héten beperelték a UnitedHealth Groupot, mondván, hogy a biztosítóóriás a feltörekvő technológiát használta két idős férfi rehabilitációs időszakának megtagadására vagy lerövidítésére a haláluk előtti hónapokban.

Szerintük a UnitedHealth mesterséges intelligenciája, vagyis az AI „merev és irreális” döntéseket hoz arról, hogy mi kell ahhoz, hogy a betegek felépüljenek súlyos betegségekből, és megtagadják tőlük a szakképzett ápoló- és rehabilitációs központokban való ellátást, amelyekre a Medicare Advantage terveknek kell vonatkozniuk. szövetségi pert indított Minnesotában két idős beteg birtoka Wisconsinban. A csoportos kereset státuszát kérő per szerint illegális megengedni, hogy a mesterséges intelligencia felülírja az orvosok ajánlásait ezeknek a férfiaknak és a hozzájuk hasonló betegeknek. A családok szerint az ilyen értékeléseket egészségügyi szakembereknek kell elvégezniük.

A családok azt jelzik a perben, hogy szerintük a biztosító megfosztja az idős betegeket az ellátástól, akik nem állnának vissza, pedig a bizonyítékok azt mutatják, hogy a mesterséges intelligencia gyengén végzi el az emberek szükségleteinek felmérését. Azt mondják, hogy a cég algoritmusokat használt a lefedettségi tervek meghatározására és az orvosok ajánlásainak felülbírálására az AI program megdöbbentően magas hibaaránya ellenére.

A bírósági dokumentumok szerint a páciensek követeléseinek több mint 90%-át belső fellebbezések vagy szövetségi közigazgatási bírók hatályon kívül helyezték. A valóságban azonban csak néhány beteg támadta meg az algoritmusok döntéseit. A betegek kis százaléka – 0,2%-a – úgy döntött, hogy fellebbezési eljárással küzd az elutasítások ellen. A UnitedHealth Medicare Advantage tervei alapján biztosított emberek túlnyomó többsége „vagy saját zsebből fizeti a költségeket, vagy lemond az előírt utóakut ellátásuk fennmaradó részéről” – áll a keresetben.

READ  Elon Musk Twitter-mániája nem az elsődleges oka a Tesla részvényeinek csökkenésének

A minnesotai biztosítási óriáscéget beperlő családokat képviselő ügyvédek szerint az elutasítások magas aránya a biztosító stratégiájának része.

„A saját profitjukat az emberek elé helyezik, akikkel szerződést kötöttek, majd jogilag kötelesek fedezni azt” – mondta Ryan Clarkson kaliforniai ügyvéd, akinek ügyvédi irodája több ügyet is indított mesterséges intelligenciát használó cégek ellen. – Ilyen egyszerű, csak kapzsiság.

A naviHealth mesterséges intelligencia szoftverét, amelyre a keresetben hivatkoztak, nem használják fedezetről szóló döntések meghozatalára – mondta a UnitedHealth a USA TODAY-nek közleményében.

„Az eszköz útmutatóként szolgál arra, hogy tájékoztassuk a szolgáltatókat, a családokat és más gondozókat arról, hogy a betegnek milyen segítségre és ellátásra lehet szüksége mind az intézményben, mind a hazatérés után” – mondta a cég.

A vállalat szerint a fedezetről szóló döntések a Centers for Medicare and Medicaid Services és a fogyasztói biztosítási terveken alapulnak.

A cég azt mondta: „Ennek a pernek nincs érdeme, és határozottan védekezni fogunk.”

Az ilyen jellegű perek nem újkeletűek. Egyre növekvő perek részét képezik.

Júliusban Clarkson ügyvédi irodája pert indított probléma kontra CIGNA Healthcare, amely azt állítja, hogy a biztosító mesterséges intelligenciát használt a követelések elutasításának automatizálására. A cég eljárást indított a ChatGPT gyártója ellen is OpenAI És Google.

A családok fizetik a drága ellátást, amelyet a biztosító megtagad

Az e heti per felperesei két elhunyt wisconsini lakos, Jane B. rokonai. Loken és Del. Henry Tetzloff, mindketten a UnitedHealth privát Medicare-csomagjain keresztül biztosítottak.

2022 májusában a 91 éves Loken otthon elesett, eltörte a lábát és a bokáját, aminek következtében rövid kórházi tartózkodásra volt szüksége, majd egy hónapig egy rehabilitációs intézetben, amíg felépült. Lukin orvosa ezután fizikoterápiát javasolt, hogy visszanyerje erejét és egyensúlyát. A wisconsini férfi kevesebb mint három hetet töltött fizikoterápián, mire biztosítótársasága felmondta a fedezetét, és azt javasolta, hogy engedjék ki a kórházból, és küldjék haza gyógyulni.

Egy fizikoterapeuta Luken állapotát „bénultnak” és „gyengének” minősítette, de családja kérését, hogy folytassák a kezelést, a kereset szerint elutasították.

READ  3M füldugó elleni perek előre, szabályok, bár csődügy

Családja az elutasítás ellenére a kezelés folytatása mellett döntött. Lefedettség nélkül a családnak havi 12-14 ezer dollárt kellett fizetnie a közel egy éves kezelésért. Lukin a létesítményben halt meg 2023 júliusában.

A másik férfi családja is aggodalmát fejezte ki amiatt, hogy az AI algoritmus megtagadja a szükséges rehabilitációs szolgáltatásokat.

Tetzloff 2022 októberében egy agyvérzésből lábadozott, és orvosai azt javasolták, hogy a 74 éves férfit legalább 100 napra szállítsák át a kórházból egy rehabilitációs intézménybe. A biztosító először 20 nap után akarta megszüntetni a fedezetét, de a család fellebbezett. A biztosítótársaság ezután további 20 nappal meghosszabbította Tetzloff tartózkodását.

A férfi orvosa további fiziko- és foglalkozásterápiát javasolt, de ellátása 40 nap után megszűnt. A család több mint 70 000 dollárt költött a gondozására a következő 10 hónapban. Tetzloff utolsó hónapjait egy ápolóintézetben töltötte, ahol október 11-én meghalt.

10 fellebbezés a csípőtörés rehabilitációjára

A jogi lépéseket azután indították el, hogy a Medicare szószólói aggodalmukat fejezték ki a mesterséges intelligencia technológia rutinszerű használatával kapcsolatban, hogy megtagadják vagy csökkentsék az idősek gondozását a magán Medicare tervekben.

2022-ben a Center for Medicare Advocacy megvizsgálta több biztosító társaság mesterséges intelligencia-szoftverének használatát a rehabilitációs és otthoni egészségügyi környezetben. Érdekvédelmi csoport jelentés Arra a következtetésre jutott, hogy az AI-programok gyakran szigorúbb lefedettségi döntéseket hoztak, mint amennyit a Medicare megengedett volna, és a döntésekből hiányzott az egyes esetek egyedi körülményeinek értékeléséhez szükséges részletesség.

„Azt láttuk, hogy a hagyományos Medicare hatálya alá tartozó több gondoskodást végleg megtagadtak vagy idő előtt felmondtak” – mondta David Lipshutz, a Center for Medicare Advocacy igazgatóhelyettese és politikai főügyvédje.

Egyes idősek, akik fellebbeznek az elutasítás ellen, haladékot kaphatnak, hogy ismét leállítsák őket, mondta Lipschutz. Példaként említette A Connecticuti nő aki három hónapos tartózkodást keresett egy rehabilitációs központban, miközben felépült a csípőprotézis műtétből. 10 fellebbezést nyújtott be és nyert meg, miután a biztosítótársaság többször is megpróbálta felmondani a fedezetét és korlátozni tartózkodását.

READ  A Twitter forráskódjának egy része kiszivárgott az internetre: jelentés

Annak fontossága, hogy „ember legyen a hurokban”

Az ügyekben nem érintett jogi szakértők szerint a mesterséges intelligencia termékeny célpontja lett azoknak az embereknek és szervezeteknek, amelyek a feltörekvő technológia használatának visszaszorítására vagy formálására törekszenek.

Az egészségbiztosítók és mások számára, akik mesterséges intelligencia programokat alkalmaznak, fontos szempont annak biztosítása, hogy az emberek is részt vegyenek a döntésben – mondta Gary Marchant, az Arizonai Állami Egyetem Sandra Day O’Connor Jogi Kollégiumának Jogi, Tudományos és Innovációs Központjának karának igazgatója. Elkészítési folyamat.

Míg a mesterséges intelligencia rendszerek hatékonyak és gyorsan elvégezhetik a kezdetleges feladatokat, a programok önmagukban is hibázhatnak, mondta Marchant.

„Néha az AI-rendszerek nem ésszerűek, nincs józan eszük” – mondta Marchant. „Embernek kell lennie a hurokban.”

Azokban az esetekben, amikor a biztosítótársaságok mesterséges intelligenciát használnak a kárigényekkel kapcsolatos döntések meghozatalára, Marchant szerint a kulcsfontosságú jogi tényező az lehet, hogy a társaság milyen mértékben van kitéve az algoritmusnak.

A UnitedHealth keresete szerint a vállalat korlátozta a dolgozók „belátási jogát, hogy eltérjenek” az algoritmustól. Azok az alkalmazottak, akik eltértek az AI-program elvárásaitól, fegyelemre vagy elbocsátásra kerültek – áll a keresetben.

A UnitedHealth-ügyekben és hasonló perekben nyomon követhető egyik tényező az, hogy az alkalmazottak mennyire elkötelezettek az AI-modell követése iránt, mondta Marchant.

„Egyértelmű, hogy lehetőséget kell biztosítani az emberi döntéshozó számára, hogy felülbírálja az algoritmust” – mondta Marchant. „Ez csak egy nagy probléma az AI-ban és az egészségügyben.”

Azt mondta, fontos figyelembe venni a vállalatok mesterséges intelligencia-rendszereinek felállításának következményeit. Azt mondta, hogy a vállalatoknak meg kell fontolniuk, hogy mennyire tisztelik az algoritmust, tudván, hogy az AI hatalmas mennyiségű adatot képes beemelni, és „hihetetlenül erős” és „hihetetlenül pontos”.

Ken Alltucker az X-en, korábban Twitteren, a @kalltucker címen található, vagy e-mailt küldhet az [email protected] címre..