دارو و هوش مصنوعی: چرا صنعت دارو به انسان در رأس تصمیم‌ها نیاز دارد

در بخشی از صنعت که یک خطای حاکمیتی می‌تواند به‌اندازه تأییدیه نظارتی گران تمام شود و حتی جان انسان‌ها را به خطر بیندازد، گفتن «انسانی در حلقه تصمیم» دیگر نمی‌تواند به‌عنوان تور ایمنی کافی تلقی شود. در بسیاری از کسب‌وکارهای دارویی، این عبارت ظاهر نظارت را می‌سازد بدون واقعیت پاسخ‌گویی. بر پایه گزارش PMLiVE، مؤسسه HFS Research با همکاری Altimetrik یک پیمایش روی ۵۰۵ مدیر ارشد از سازمان‌های فهرست Global 2000 انجام داده است که ۶۸ نفر از آن‌ها در بریتانیا فعال‌اند، تا دریابند تصمیم‌های هوش مصنوعی چگونه گرفته می‌شود، مالکیت نتایج بر عهده کیست و مسئولیت‌پذیری چگونه میان شرکا و پلتفرم‌ها جابه‌جا می‌شود. این پژوهش نشان می‌دهد صنعت دارو هوش مصنوعی را به‌طور گسترده به کار گرفته است: در کشف دارو، عملیات بالینی، فارماکوویژیلانس، کارکردهای تجاری و فراتر از آن، سامانه‌های هوشمند هم‌اکنون پیشنهادهایی می‌دهند که تصمیم‌های سرنوشت‌ساز را شکل می‌دهند. اما به گزارش این پژوهش، استقرار هوش مصنوعی با حاکمیت آن یکی نیست و فاصله میان این دو روزبه‌روز بیشتر می‌شود. به نوشته PMLiVE، یافته‌های این بررسی باید هر مدیری در صنعت داروسازی را به توقف و بازنگری وادارد، زیرا شکاف حاکمیتی‌ای که آشکار می‌کند، دقیقاً در حوزه‌هایی خطرناک‌تر است که پیامدهای اشتباه در آن‌ها سنگین‌ترین است. به نوشته این گزارش، پرسش اصلی دیگر «آیا از هوش مصنوعی استفاده کنیم؟» نیست؛ پرسشی که سازمان‌های دارویی باید به آن پاسخ دهند این است که تصمیم‌های هوش مصنوعی چگونه گرفته می‌شود، مالک نتایج آن کیست و این مسئولیت‌پذیری در زنجیره‌ای از شرکا، پیمانکاران و پلتفرم‌ها چگونه جابه‌جا می‌شود. یافته‌های این پیمایش نشان می‌دهد شکاف حاکمیتی در سازمان‌هایی که پیامدهای خطا در آن‌ها سنگین‌تر است، خطرناک‌تر ظاهر می‌شود. در حوزه‌هایی مانند فارماکوویژیلانس یا تصمیم‌های مربوط به کارآزمایی‌های بالینی، پیامد یک تصمیم خودکار و رهاشده فقط مالی نیست؛ می‌تواند به آسیب بیمار یا بازگشت پرونده از سوی ناظر منجر شود. به همین دلیل بر پایه این پژوهش، ساختن سازوکار روشن برای مالکیت تصمیم، پایش خروجی سامانه‌ها و مستندسازی در سراسر زنجیره شریکان، شرط لازم برای استفاده مسئولانه از هوش مصنوعی در صنعت دارو است.