آنچه برای از بین بردن تعصب هوش مصنوعی در مراقبت های بهداشتی لازم است

هوش مصنوعی در سراسر صنعت مراقبت های بهداشتی با هدف ارائه مراقبت های موثرتر و بهبود نتایج برای بیماران استفاده می شود. اما اگر سیستم‌های سلامت و فروشندگان مراقب نباشند، هوش مصنوعی این پتانسیل را دارد که از تصمیم‌گیری مغرضانه حمایت کند و ارزش سهام را بدتر کند.

سارا آوان، کارشناس سهام با مدیرعامل Action for Racial Equity و مدیر ارشد PwC، در این باره گفت: «سوگیری الگوریتمی واقعاً کاربرد الگوریتمی است که نابرابری موجود را ترکیب می‌کند. سمیناری که توسط انجمن پزشکی دیجیتال و انجمن فناوری مصرف کننده برگزار شد.

و این ممکن است در وضعیت اجتماعی-اقتصادی، نژاد و پیشینه قومی، مذهب، جنسیت، ناتوانی، گرایش جنسی و غیره باشد. و نابرابری ها را در سیستم های بهداشتی تشدید می کند. بنابراین در حالی که هوش مصنوعی می تواند به شناسایی سوگیری و کاهش تعصب انسان کمک کند، اما واقعاً این ویژگی را نیز دارد. قدرت سوگیری در مقیاس در کاربردهای بسیار حساس.”

Milissa Campbell، مدیر عامل و سرپرست بینش سلامت در NTT DATA Services گفت: مراقبت های بهداشتی در استفاده از تجزیه و تحلیل داده ها از سایر صنایع عقب تر است. اما مهم است که قبل از اینکه یک سازمان به هوش مصنوعی هجوم آورد، اصول اولیه را کشف کنید.

“داشتن چشم اندازی برای انتقال به هوش مصنوعی باید چشم انداز شما باشد، شما باید از قبل برنامه و نقشه راه خود را داشته باشید و روی آن کار کنید. اما ابتدا به چالش های اساسی خود رسیدگی کنید، درست است؟” او گفت. “از آنجایی که هر یک از ما که در زمینه تجزیه و تحلیل انجام داده ایم، می گوییم زباله وارد، زباله بیرون کن. بنابراین ابتدا اصول بنیادی خود را با چشم اندازی به سمت حرکت به سمت یک رویکرد هوش مصنوعی بسیار بی طرفانه و با مدیریت اخلاقی بررسی کنید.”

کارول مک کال، مدیر ارشد تجزیه و تحلیل سلامت در ClosedLoop.ai، گفت که سوگیری می تواند از خود داده ها رخنه کند، اما می تواند از نحوه برچسب گذاری اطلاعات نیز ناشی شود. مشکل این است که برخی از سازمان‌ها از هزینه به‌عنوان نماینده‌ای برای وضعیت سلامت استفاده می‌کنند، که ممکن است مرتبط باشد، اما لزوماً معیار مشابهی نیست.

او گفت: «به عنوان مثال، اگر برای آن تحت Medicaid، در مقابل Medicare، در مقابل یک قرارداد تجاری، روش مشابهی را پرداخت کنید: قرارداد تجاری ممکن است 1.30 دلار پرداخت کند، Medicare 1 دلار و Medicaid 70 سنت پرداخت می کند.

“و بنابراین، یادگیری ماشین کار می کند، درست است؟ یاد می گیرد که افراد Medicaid و ویژگی های مرتبط با افرادی که از Medicaid استفاده می کنند هزینه کمتری دارند. اگر از هزینه آینده استفاده کنید، حتی اگر به طور دقیق به عنوان یک نماینده برای بیماری پیش بینی شود، شما مغرضانه خواهید بود. ”

موضوع دیگری که مک کال می بیند این است که سازمان های مراقبت های بهداشتی اغلب به دنبال نتایج منفی مانند بستری شدن در بیمارستان یا بستری مجدد هستند، و نه نتایج مثبتی که می خواهند به آن دست یابند.

و کاری که انجام می‌دهد این است که ارزیابی واقعی اینکه آیا نوآوری‌هایمان کار می‌کنند یا خیر، برای ما دشوارتر می‌کند. زیرا باید بنشینیم و تمام ریاضیات پیچیده را طی کنیم تا بسنجیم که آیا چیزها اتفاق نیفتاده‌اند، نه به طور فعال. اگر این کار را انجام دهند، تبلیغ می کنند.”

در حال حاضر، مک کال خاطرنشان می کند که بسیاری از سازمان ها نیز به دنبال نتایجی نیستند که ممکن است سال ها طول بکشد تا آشکار شوند. کمپبل با طرح‌های بهداشتی کار می‌کند و گفت، چون ممکن است اعضا از سالی به سال دیگر به بیمه‌گر متفاوتی نقل مکان کنند، در نظر گرفتن سرمایه‌گذاری‌های بلندمدت که می‌تواند سلامت کل جمعیت را بهبود بخشد، همیشه منطقی مالی نیست.

این احتمالاً یکی از بزرگترین چالش‌هایی است که من با آن روبرو هستم، تلاش برای هدایت سازمان‌های برنامه سلامت که از یک دیدگاه، به این مفهوم متعهد هستند، اما [are] محدود به ROI بسیار سخت و سریع آن در کوتاه مدت است. باید رقم بزنیم [this] کمپبل گفت: به عنوان یک صنعت یا پاشنه آشیل ما باقی خواهد ماند.

Awan گفت، سازمان های مراقبت های بهداشتی که برای مقابله با سوگیری در هوش مصنوعی کار می کنند باید بدانند که تنها نیستند. همه افراد درگیر در این فرآیند، از جمله فروشندگان در بخش فناوری و مقامات نظارتی، مسئولیت ارتقای مدل‌های اخلاقی را دارند.

“فکر نمی‌کنم کسی این تماس را ترک کند و احساس کند که شما باید این مشکل را فقط خودتان به عنوان یک سازمان مبتنی بر مراقبت‌های بهداشتی حل کنید. یک اکوسیستم کامل در پس‌زمینه اتفاق می‌افتد که شامل همه چیز است، از مقررات دولتی گرفته تا شما او گفت: “در حال کار با یک فروشنده فناوری که الگوریتم هایی را برای شما طراحی می کند، آنها نوعی خدمات کاهش خطر خواهند داشت.”

همچنین مهم است که به دنبال بازخورد کاربر باشید و با تغییر شرایط، تنظیمات را انجام دهید.

“من فکر می کنم که چارچوب ها باید به گونه ای طراحی شوند که با زمینه مرتبط باشند. و این چیزی است که از فروشندگان شما می خواهید. اگر آنها بیایند و سعی کنند یک مدل از پیش آموزش دیده یا چیزی شبیه جعبه سیاه به شما بفروشند، باید اجرا کنید. مک کال گفت، نه پیاده روی، به سمت خروجی.

“احتمال اینکه آن چیز برای شرایطی که اکنون در آن هستید درست نباشد، چه رسد به شرایطی که کسب و کار شما در یک سال آینده خواهد بود، بسیار زیاد است. و شما می توانید با استقرار آسیب واقعی وارد کنید. الگوریتم هایی که زمینه داده ها، بیماران و منابع شما را منعکس نمی کنند.”