مطالعه: مدل‌های یادگیری عمیق هوش مصنوعی می‌توانند نژاد را از روی نتایج تصویربرداری پیش‌بینی کنند

با توجه به یک مطالعه، مدل‌های یادگیری عمیق هوش مصنوعی را می‌توان برای پیش‌بینی نژاد گزارش‌شده از طریق نتایج تصویربرداری آموزش داد و نگرانی‌هایی را در مورد بدتر شدن نابرابری‌های سلامتی ایجاد کرد. مطالعه منتشر شده در سلامت دیجیتال Lancet.

محققان دریافتند مدل ها می توانند نژاد را از انواع مختلف نتایج تصویربرداری قفسه سینه، از جمله اشعه ایکس، سی تی اسکن و ماموگرافی تشخیص دهند. این توانایی را نمی توان به توزیع بیماری ردیابی کرد، جایی که یک بیماری در میان گروه های خاص یا ویژگی های آناتومیک شایع تر است.

این مطالعه همچنین نشان داد که مدل یادگیری عمیق همچنان می‌تواند نژاد را حتی در صورت استفاده از تصاویر با کیفیت پایین پیش‌بینی کند، تا جایی که یک مدل آموزش‌دیده بر روی تصاویر فیلتر شده بالا گذر می‌تواند زمانی که رادیولوژیست‌های انسانی نمی‌توانند تشخیص دهند که تصویر یک اشعه ایکس است یا خیر، عمل کند. اصلا

“برای نتیجه گیری، مطالعه ما نشان داد که سیستم های هوش مصنوعی پزشکی می توانند به راحتی یاد بگیرند که هویت نژادی خود گزارش شده را از تصاویر پزشکی تشخیص دهند، و جداسازی این قابلیت بسیار دشوار است. ما دریافتیم که هویت نژادی بیمار تنها از داده های تصویربرداری پزشکی به راحتی قابل یادگیری است. نویسندگان این مطالعه نوشتند و می‌توان آن را به محیط‌های خارجی و در چندین روش تصویربرداری تعمیم داد.

ما قویاً توصیه می‌کنیم که همه توسعه‌دهندگان، تنظیم‌کننده‌ها و کاربرانی که در تجزیه و تحلیل تصویر پزشکی درگیر هستند، استفاده از مدل‌های یادگیری عمیق را با احتیاط کامل در نظر بگیرند، زیرا چنین اطلاعاتی ممکن است برای تداوم یا حتی بدتر کردن نابرابری‌های نژادی به خوبی مستند شده در عمل پزشکی مورد سوء استفاده قرار گیرند. “

چرا مهم است

محققان نوشتند که تداوم توانایی‌های مدل‌ها نشان می‌دهد که کنترل رفتار در مواقع ضروری می‌تواند دشوار باشد و این موضوع نیاز به مطالعه بیشتر دارد. از آنجایی که رادیولوژیست‌های انسانی معمولاً نمی‌توانند نژاد را از روی نتایج تصویربرداری تعیین کنند، نمی‌توانند بر مدل‌ها نظارت داشته باشند و به طور بالقوه مشکلاتی را که ایجاد می‌شود کاهش دهند.

“نتایج مطالعه ما تاکید می کند که توانایی مدل های یادگیری عمیق هوش مصنوعی برای پیش بینی نژاد خود گزارش شده به خودی خود موضوع مهمی نیست. با این حال، یافته ما مبنی بر اینکه هوش مصنوعی می تواند به طور دقیق نژاد گزارش شده خود را حتی از خراب، برش و نویز پیش بینی کند. محققان نوشتند که تصاویر پزشکی، اغلب زمانی که متخصصان بالینی نمی توانند، خطر بزرگی را برای همه استقرار مدل ها در تصویربرداری پزشکی ایجاد می کند.

روند بزرگتر

همانطور که هوش مصنوعی به حوزه های بیشتری در مراقبت های بهداشتی و علوم زیستی گسترش می یابد، کارشناسان این کار را انجام داده اند نگرانی هایی را در مورد احتمال تداوم و تشدید نابرابری های سلامت نژادی مطرح کرد.

با توجه به الف مطالعه منتشر شده هفته گذشته در مجله انجمن انفورماتیک پزشکی آمریکا، یافتن سوگیری در هوش مصنوعی و یادگیری ماشینی نیازمند رویکردی کل نگر است که برای پرداختن به آن به دیدگاه های متعدد نیاز دارد، زیرا مدل هایی که برای یک گروه از افراد عملکرد خوبی دارند ممکن است برای گروه های دیگر شکست بخورند.