سوگیری های نژادی و دیگر سوگیری ها در الگوریتم های هوش مصنوعی برای مراقبت های بهداشتی را می توان با حمایت عمومی برطرف کرد



از مردم خواسته شده است تا به حذف سوگیری های مبتنی بر نژاد و سایر گروه های محروم در الگوریتم های هوش مصنوعی برای مراقبت های بهداشتی کمک کنند.

محققان بهداشتی خواستار حمایت برای رسیدگی به این موضوع هستند که چگونه گروه‌های «اقلیتی» که به طور فعال به دلیل ساختارهای اجتماعی در معرض آسیب هستند، مزایای آینده استفاده از هوش مصنوعی در مراقبت‌های بهداشتی را نخواهند دید. این تیم به رهبری دانشگاه بیرمنگام و بیمارستان های دانشگاهی بیرمنگام در این مقاله می نویسند طب طبیعت امروز در مورد راه اندازی یک مشاوره در مورد مجموعه ای از استانداردها که آنها امیدوارند تعصبات موجود در الگوریتم های هوش مصنوعی را کاهش دهد.

شواهد فزاینده‌ای وجود دارد که نشان می‌دهد برخی از الگوریتم‌های هوش مصنوعی برای گروه‌های خاصی از مردم – به‌ویژه آنهایی که در گروه‌های نژادی/قومی اقلیت‌شده هستند، کمتر کار می‌کنند. برخی از این موارد ناشی از سوگیری در مجموعه داده های مورد استفاده برای توسعه الگوریتم های هوش مصنوعی است. این بدان معناست که بیماران سیاه‌پوست و گروه‌های قومی در اقلیت ممکن است پیش‌بینی‌های نادرستی دریافت کنند که منجر به تشخیص اشتباه و درمان‌های اشتباه شود.

STANDING Together یک همکاری بین‌المللی است که بهترین استانداردها را برای مجموعه داده‌های مراقبت‌های بهداشتی مورد استفاده در هوش مصنوعی ایجاد می‌کند و تضمین می‌کند که آنها متنوع، فراگیر هستند و گروه‌های دارای نمایندگی یا اقلیت را پشت سر نمی‌گذارند. این پروژه توسط آزمایشگاه هوش مصنوعی NHS و بنیاد سلامت تامین می شود و این بودجه توسط موسسه ملی تحقیقات بهداشت و مراقبت، شریک تحقیقاتی NHS، بهداشت عمومی و مراقبت اجتماعی، به عنوان بخشی از آزمایشگاه هوش مصنوعی NHS اداره می شود. ابتکار اخلاق هوش مصنوعی

دکتر Xiaoxuan Liu از موسسه التهاب و پیری در دانشگاه بیرمنگام و یکی از رهبران پروژه STANDING Together گفت:

“با درست کردن پایه داده، STANDING Together تضمین می کند که “هیچ کس پشت سر نمی گذارد” زیرا ما به دنبال باز کردن مزایای فناوری های داده محور مانند هوش مصنوعی هستیم. ما مطالعه دلفی خود را برای عموم باز کرده ایم تا بتوانیم دسترسی خود را به حداکثر برسانیم. به جوامع و افراد. این به ما کمک می‌کند اطمینان حاصل کنیم که توصیه‌های STANDING Together واقعاً نشان‌دهنده آنچه برای جامعه متنوع ما اهمیت دارد، است.

پروفسور Alastair Denniston، مشاور چشم پزشک در بیمارستان های دانشگاهی بیرمنگام و پروفسور انستیتوی التهاب و پیری در دانشگاه بیرمنگام رهبری پروژه را بر عهده دارند. پروفسور دنیستون گفت:

به عنوان یک پزشک در NHS، از ورود فناوری‌های هوش مصنوعی که می‌توانند به ما در بهبود مراقبت‌های بهداشتی ارائه‌شده به ما کمک کنند، استقبال می‌کنم – تشخیص سریع‌تر و دقیق‌تر، درمانی که به طور فزاینده‌ای شخصی‌سازی می‌شود و رابط‌های سلامتی که کنترل بیشتری به بیمار می‌دهد. اما ما همچنین باید اطمینان حاصل کنیم که این فناوری‌ها فراگیر هستند.

این یکی از پربارترین پروژه‌هایی است که من روی آن کار کرده‌ام، زیرا نه تنها علاقه شدید من به استفاده از داده‌های معتبر معتبر و علاقه به اسناد خوب برای کمک به کشف، بلکه نیاز مبرم به مشارکت گروه‌های اقلیت و محروم در تحقیقات را نیز در بر می‌گیرد. که به نفع آنهاست البته در گروه دوم، زنان هستند.»


Jacqui Gath، شریک بیمار، STANDING Together Project

پروژه STANDING Together به عنوان بخشی از مطالعه اجماع دلفی اکنون برای مشاوره عمومی باز است. محققان از عموم مردم، متخصصان پزشکی، محققان، توسعه‌دهندگان هوش مصنوعی، دانشمندان داده، سیاست‌گذاران و تنظیم‌کننده‌ها دعوت می‌کنند تا به بررسی این استانداردها کمک کنند تا مطمئن شوند که برای شما و هر کسی که با آن‌ها همکاری می‌کنید کار می‌کنند.

منبع:

مرجع مجله:

گاناپاتی، اس. و همکاران (2022) مقابله با سوگیری در مجموعه داده های هوش مصنوعی از طریق ابتکار STANDING together. طب طبیعت. doi.org/10.1038/s41591-022-01987-w.



منبع