مدل دقیقاً چه چیزی را یاد میگیرد؟ اگر پاسخ «هزینهٔ ثبتشده» باشد، نمیتوان بدون بررسی آن را برابر با «نیاز سلامت» دانست. متغیری که اندازهگیری آن آسان است، ممکن است نمایندهٔ مناسبی برای مسئله نباشد.
یک یافتهٔ مهم دربارهٔ برچسب
پژوهش Obermeyer و همکاران؛ سوگیری الگوریتم سلامت — Science نشان داد استفاده از هزینه بهعنوان نمایندهٔ نیاز سلامت، میتواند در یک الگوریتم مدیریت جمعیت به سوگیری منجر شود. درس قابل انتقال، بررسی رابطهٔ متغیر هدف با نیاز واقعی است؛ نه تعمیم اندازهٔ اثر همان مطالعه به هر سامانه یا کشور.
از هدف تا داده
در یک مثال فرضی، «تعداد مراجعه» را نمایندهٔ شدت مشکل میگیریم. اما دسترسی، توان پرداخت یا فاصلهٔ محل زندگی نیز میتوانند بر مراجعه اثر بگذارند. مدل ممکن است ترکیبی از این عوامل را یاد بگیرد، در حالی که نام خروجی فقط «نیاز» است.
برای بازبینی، بنویسید برچسب چگونه ساخته شده، چه کسانی کمتر در داده دیده میشوند و چه گروههایی احتمالاً به روش دیگری اندازهگیری شدهاند. حذف یک متغیر حساس، خودبهخود همهٔ مسیرهای انتقال سوگیری را حذف نمیکند.
گزارش بهجای یک عدد کلی
عملکرد را در زیرگروههای مرتبط و با حجم نمونهٔ روشن بررسی کنید. اگر دادهٔ یک گروه کم است، عدم قطعیت را پنهان نکنید. اصل توجه به عدالت و مسئولیت در WHO؛ اخلاق و راهبری هوش مصنوعی برای سلامت مطرح است؛ اجرای آن در پروژه به تعریف مسئله، داده و تصمیمهای تیم بستگی دارد.
بازبینی سوگیری فقط مرحلهای در پایان توسعه نیست. از همان لحظهای شروع میشود که تصمیم میگیریم چه چیزی را پیشبینی کنیم.
منابع این یادداشت
- Obermeyer و همکاران؛ سوگیری الگوریتم سلامت — Science pubmed.ncbi.nlm.nih.gov
- WHO؛ اخلاق و راهبری هوش مصنوعی برای سلامت www.who.int
دکتر میلاد جلالی
بنیانگذار ریسرچ ادیتور و محتوانگار. کار من به پژوهش، آموزش هوش مصنوعی و برندینگ پزشکی متصل است.
رزومه و سوابق ↖پروژهها ↖
