در حالی که تب استفاده از هوش مصنوعی در تشخیص و درمان داغتر از همیشه است، مجله معتبر «نیچر مدیسین» با انتشار مقالهای کوبنده، ادعاهای تبلیغاتی شرکتهای فناوری را زیر سؤال برد و نسبت به پیامدهای جبرانناپذیر اعتماد کور به چتباتها هشدار داد.
به گزارش کاویان گلد و براساس گزارش هوشیو، در دنیای هوش مصنوعی، مرز بین «بهبود سلامت» و «فریب علمی» به مویی بند شده است. در حالی که طبق آخرین آمارها در سال ۲۰۲۶، میلیونها نفر در سراسر جهان به جای مراجعه به پزشک، تشخیص بیماری خود را به دست چتباتها سپردهاند، جامعه علمی اکنون ترمز این قطار پرسرعت را کشیده است.
ژورنال معتبر Nature Medicine در تازهترین شماره خود، با لحنی بیسابقه به نقد نفوذ زودهنگام هوش مصنوعی در سیستمهای درمانی پرداخته است. در بخشی از این سرمقاله آمده است:«شواهد مبنی بر اینکه ابزارهای هوش مصنوعی ارزش افزودهای برای بیماران، پزشکان یا سیستمهای بهداشتی ایجاد میکنند، همچنان نایاب است.»
این نشریه استدلال میکند که بازار امروز پر شده از محصولات و مقالاتی که ادعای «تأثیر بالینی مثبت» دارند، اما هیچ توافق جمعی بر سر اینکه چه سطح از شواهدی برای اثبات این ادعاها لازم است، وجود ندارد. نتیجه این آشفتگی، پیادهسازی زودهنگام و خطرناک ابزارهایی است که هنوز در دنیای واقعی امتحان خود را پس ندادهاند.
گزارشهای میدانی نشان میدهد که مدلهای بزرگ زبانی (LLM) علیرغم ظاهر فریبنده، با مشکلات ساختاری دستوپنجه نرم میکنند:
تشخیصهای اشتباه ۸۰ درصدی: مطالعهای در ژورنال JAMA Medicine فاش کرد که مدلهای پیشرو هوش مصنوعی در مواجهه با علائم مبهم و پیچیده، در بیش از ۸۰ درصد موارد از تشخیص درست باز میمانند.
توهم در تحلیل تصاویر: برخی مدلها بدون آنکه تصویری به آنها ارائه شود، گزارشهای بالینی مفصل و ساختگی از تصاویر رادیولوژی خیالی ارائه دادهاند.
بیماریهای ساختگی: در یک آزمایش جالب، محققان دانشگاه گوتنبرگ دو مقاله جعلی درباره یک بیماری پوستی کاملاً ساختگی منتشر کردند؛ دیری نپایید که هوش مصنوعی نه تنها وجود این بیماری را تأیید کرد، بلکه مقالات دیگری نیز با استناد به آن دادههای غلط، به چاپ رسیدند.
دکتر «جیمی رابرتسون»، استادیار جراحی در دانشکده پزشکی هاروارد، معتقد است اگرچه هوش مصنوعی میتواند کارهای خستهکننده مثل کدنویسی برای تحلیل دادهها را سرعت ببخشد، اما اتکای بیش از حد به آن، «صلابت علمی» را قربانی میکند. او هشدار میدهد که دادههای بیشازحد تعمیمیافته و توهمات آماری هوش مصنوعی، در حال آلوده کردن بدنه دانش پزشکی هستند.
سرمقاله نیچر تأکید میکند که مرحله بعدی پیشرفت هوش مصنوعی، نه در گرو مدلهای قدرتمندتر، بلکه در گرو ایجاد یک چارچوب ارزیابی دقیق است. تا زمانی که معیارهای مشخصی برای تعریف «تأثیر بالینی» وجود نداشته باشد، استفاده از این ابزارها چیزی فراتر از یک ریسک بزرگ بر روی جان انسانها نخواهد بود.
۲۲۷۲۲۷