هوش مصنوعی و سنجش شخصیت؛ پاسخ خوش‌خوان با آزمون معتبر فرق دارد

پس از چند پیام، یک چت‌بات می‌تواند توصیفی مفصل از شخصیت کاربر بنویسد. بخشی از متن ممکن است برای خواننده آشنا باشد، اما این تجربه به‌تنهایی نشان نمی‌دهد ابزار سازهٔ روان‌شناختی مشخصی را معتبر اندازه گرفته است. احساس انطباق، جای طراحی مطالعه را نمی‌گیرد.

خروجی قرار است چه کاربردی داشته باشد؟ تمرین خوداندیشی، پژوهش روان‌سنجی و ارزیابی حرفه‌ای اهداف یکسانی ندارند. پیش از بحث دربارهٔ دقت، کاربرد را محدود کنید. برای ادعای سنجش، تعریف سازه، روش مرجع و جمعیت هدف باید روشن باشد.

ثبات پاسخ را بررسی کنید در یک آزمون پژوهشی، تغییر جزئی صورت سؤال، ترتیب اطلاعات یا نسخهٔ مدل را ثبت کنید. اگر توصیف با این تغییرها عوض شود، باید بدانیم این ناپایداری در نتیجه چه نقشی دارد. استفاده از همان پاسخ‌ها برای ساخت و ارزیابی ابزار هم می‌تواند نتیجه را منحرف کند.

دادهٔ حساس را به متن تبلیغاتی تبدیل نکنید متن‌های شخصی حاوی اطلاعاتی هستند که جمع‌آوری و استفادهٔ دوباره از آن‌ها باید هدف روشن داشته باشد. رضایت به گفت‌وگو لزوماً رضایت به انتشار نمونهٔ آن نیست. WHO؛ اخلاق و راهبری هوش مصنوعی برای سلامت برای فکر کردن به خودمختاری، شفافیت و مسئولیت در ابزارهای سلامت مرجع مناسبی است.

اگر از مدل برای تولید پرسش یا دسته‌بندی اولیهٔ دادهٔ پژوهش استفاده می‌کنید، نقش آن و بازبینی انسانی را گزارش کنید. ICMJE؛ استفادهٔ نویسندگان از هوش مصنوعی مسئولیت نویسنده را در این استفاده‌ها روشن می‌کند. خروجی مدل نباید بدون شواهد همان کاربرد، به تشخیص یا برچسب قطعی دربارهٔ فرد تبدیل شود.