سه اصل بنیادین برای اعتماد به هوش مصنوعی در بخش سلامت
بر اساس تحقیقی که شرکت مشاوره ZS انجام داده است، اصلیترین مانع در رشد حداکثری هوش مصنوعی در سیستم سلامت، عدم اعتماد به کارایی و دقت نتایج حاصل از فناوریهای متاثر از هوش مصنوعی است. این بنیاد، سه اصل زیر را به عنوان چهارچوبهایی که باید هوش مصنوعی رعایت کند تا اعتماد لازم برای بهرهگیری از این ابزار فناورانه در بخش سلامت، ایجاد شود را معرفی کرده است:- مسئولیتپذیری: دادهها، منبع اصلی تصمیمگیری سیستمهای هوشمندی هستند که بر اساس اصول یادگیری ماشین فعالیت میکنند. مدیریت غیرمسئولانه دادهها و الگوریتمها، میتواند ناخواسته منجر به سوگیری نامناسب و تحلیلهای متناقصی در استدلال ماشین بشود، تصمیمهایی که نتیجه آن برداشت غلط کاربر خواهد بود.
- صلاحیت: هر نوآوری که کارایی نداشته باشد، فقط یک تخیل است. اما میزان حاشیه خطا در نتایج حاصل از محاسبات ماشین اهمیت زیادی دارد. در فضای کنونی، اشتباهات پزشکان به مراتب قابل چشمپوشیتر از اشتباه مشابهی است که از جانب یک ماشین رخ میدهد. به این مفهوم که مردم عادی و متخصصان، حاشیه بسیار باریکی را برای خطای ماشین قائل میشوند.
- شفافیت: آگاهی از اینکه دنیای ماشینها سرشار از محدودیتهای محاسباتی و استدلالی است، به تشکیل و حفظ اعتماد به هوش مصنوعی در مراقبتهای پزشکی، کمک شایانی میکند.