سازمان‌های نظارتی استرالیا تحقیقات گسترده‌ای را درباره سوءاستفاده از هوش مصنوعی در سیستم مدیکر آغاز کردند

نهادهای عالی نظارت و بازرسی سلامت در استرالیا از آغاز یک برنامه تحقیقاتی و حسابرسی گسترده در خصوص نفوذ و سوءاستفاده از سیستم‌های خودکار و الگوریتم‌های هوش مصنوعی در صدور صورتحساب‌ها و ثبت کدهای خدمات درمانی در طرح ملی بیمه سلامت (Medicare) خبر دادند. این تحقیقات جامع پس از آن کلید خورد که گزارش‌هایی از سوی حسابرسان بالینی مبنی بر استفاده برخی از کلینیک‌ها و مراکز درمانی از نرم‌افزارهای تولید خودکار پرونده‌های پزشکی برای افزایش غیرواقعی تعرفه‌ها و دریافت مبالغ مازاد از بودجه عمومی دریافت شد. بر اساس یافته‌های اولیه مأموران بازرسی، برخی ابزارهای هوش مصنوعی مولد با بازنویسی و شبیه‌سازی مشاوره‌های پزشکی و افزودن سوابق بالینی ساختگی، خدمات ساده سرپایی را به عنوان خدمات تخصصی پیچیده (رویه موسوم به Upcoding اتوماتیک) طبقه‌بندی کرده و خسارات مالی سنگینی به منابع مالی عمومی وارد آورده‌اند. این پدیده چالشی کاملاً نوظهور در تقاطع فناوری دیجیتال، اخلاق پزشکی و اقتصاد سلامت است که ابعاد نظارتی پیچیده‌ای دارد. وزارت بهداشت استرالیا اعلام کرده است که فناوری‌های هوش مصنوعی و یادگیری ماشین باید منحصراً در مسیر ارتقای کیفیت مراقبت بالینی، تشخیص زودهنگام بیماری‌ها و کاهش بار فرسودگی کادر درمان به کار گرفته شوند و هرگونه سوءاستفاده مالی با پیگرد قضایی سنگین مواجه خواهد شد. در این چارچوب، الگوریتم‌های متقابل داده‌کاوی برای شناسایی الگوهای نامتعارف ثبت نسخ و صورتحساب‌ها فعال شده است. این پرونده لزوم تدوین چارچوب‌های قانون‌گذاری و استانداردهای اعتبارسنجی دقیق برای ابزارهای هوش مصنوعی بالینی در سیستم‌های سلامت سراسر جهان را بیش از پیش نمایان ساخته و ضرورت حسابرسی الگوریتمی مداوم را به یک اولویت حاکمیتی بدل کرده است.