هشدار درباره خطای ابزارهای هوش مصنوعی در ثبت تشخیص و دارو

یک نهاد نظارتی و بازرسی وابسته به سرویس سلامت همگانی انگلستان (NHS) با انتشار گزارشی هشدارآمیز در روزنامه گاردین، نسبت به خطرات بالقوه جدی و خطاهای تشخیصی ناشی از استفاده کنترل‌نشده از ابزارهای هوش مصنوعی موسوم به «اِی‌آی اِسکرایب» (AI Scribe) در مراکز درمانی و بیمارستان‌ها هشدار داد. این نرم‌افزارهای مبتنی بر پردازش زبان طبیعی و مدل‌های زبانی بزرگ، مکالمات صوتی میان پزشک و بیمار را ضبط کرده و به صورت خودکار به یادداشت‌های پزشکی، تشخیص بیماری و خلاصه دارویی در پرونده الکترونیک تبدیل می‌کنند. بر اساس یافته‌های این گزارش بازرسی، علی‌رغم کاربرد گسترده ۲۷ ابزار مختلف هوش مصنوعی توسط هزاران پزشک عمومی و متخصص برای کاهش بار اداری و تایپ پرونده‌ها، مواردی از «توهم هوش مصنوعی» (AI Hallucination) و ثبت خطاهای پزشکی خطرناک کشف شده است. در یک نمونه بالینی، نرم‌افزار به اشتباه برای یک بیمار تشخیص بیماری تخریب‌کننده «دمیلیناسیون سیستم عصبی» (نظیر ام‌اس) را ثبت کرده بود، در حالی که مکالمه صرفاً درباره یک گزگز گذرا بوده است. در نمونه‌ای دیگر، هوش مصنوعی نام یک داروی حیاتی قلبی را با دارویی با تلفظ مشابه اما با اثری کاملاً متفاوت اشتباه ثبت کرده بود که خوشبختانه پیش از تحویل توسط خود بیمار متوجه خطا شدند. کارشناسان اخلاق پزشکی و ایمنی بیمار هشدار می‌دهند که اتکای کورکورانه پزشکان به متون تولیدشده توسط هوش مصنوعی بدون بازبینی دقیق کلمه به کلمه، می‌تواند داده‌های اشتباه را وارد سوابق دائمی سلامت بیماران کرده و به تصمیم‌گیری‌های درمانی فاجعه‌بار منجر شود. نهادهای ناظر خواستار تدوین استانداردهای سخت‌گیرانه اعتبارسنجی بالینی، آموزش کادر درمان و الزام شرکت‌های فناوری به ارتقای دقت شناسایی اصطلاحات دارویی و تشخیصی شده‌اند.