هوش مصنوعی در سالهای اخیر از یک فناوری آزمایشی به یکی از ابزارهای جدی در حوزه پزشکی تبدیل شده است. از تحلیل تصاویر پزشکی و کمک به تشخیص بیماریها گرفته تا جستوجوی منابع علمی و پشتیبانی از تصمیمگیری بالینی، مدلهای هوش مصنوعی بهتدریج در بخشهای مختلف فعالیت پزشکان وارد شدهاند.
حالا یک مطالعه جدید، تصویر دقیقتری از تأثیر هوش مصنوعی در تصمیمگیری بالینی پزشکان ارائه کرده است. نتایج این پژوهش نشان میدهد استفاده از یک سیستم مبتنی بر مدلهای زبانی بزرگ (LLM) توانسته دقت پزشکان را در برخی سناریوهای بالینی افزایش دهد؛ اما در مقابل، یک خطر مهم نیز وجود دارد: پزشکان ممکن است در صورت مشاهده استنادهای علمی، حتی به پاسخ اشتباه هوش مصنوعی اعتماد بیشتری کنند.
این یافته نشان میدهد آینده پزشکی احتمالاً نه در جایگزینی پزشک با هوش مصنوعی، بلکه در ایجاد همکاری مؤثر میان پزشک و سیستمهای هوشمند شکل خواهد گرفت. پس در ایران فلوشیپ همراه ما باشید تا بررسی دقیق تری از موضوع داشته باشیم.
مطالعه جدید درباره هوش مصنوعی در تص میمگیری بالینی چه میگوید؟
این پژوهش که در ۱ اوت ۲۰۲۶ منتشر شده، تأثیر یک سیستم مبتنی بر مدل زبان بزرگ را بر عملکرد پزشکان در تصمیمگیریهای بالینی بررسی کرده است.
در این مطالعه، ۴۶ پزشک در سناریوهای بالینی مختلف مورد ارزیابی قرار گرفتند. پژوهشگران بررسی کردند که آیا استفاده از یک سیستم هوش مصنوعی مجهز به قابلیت بازیابی اطلاعات و منابع علمی میتواند کیفیت تصمیمگیری پزشکان را افزایش دهد یا خیر.
نتایج نشان داد دقت پزشکان در شرایطی که از این سیستم کمک میگرفتند، از ۷۰.۸ درصد به ۸۲.۶ درصد افزایش پیدا کرد.
این افزایش نشان میدهد مدلهای زبانی بزرگ میتوانند در برخی موقعیتها به پزشکان کمک کنند تا اطلاعات بیشتری را در اختیار داشته باشند و تصمیم بالینی دقیقتری بگیرند.
با این حال، بخش مهمتر مطالعه مربوط به زمانی بود که خود سیستم هوش مصنوعی پاسخ اشتباه ارائه میکرد.
دقت پزشکان با کمک هوش مصنوعی چقدر افزایش یافت؟
بر اساس نتایج مطالعه، استفاده از سیستم هوش مصنوعی باعث افزایش قابلتوجه دقت تصمیمگیری پزشکان شد.
افزایش عملکرد از ۷۰.۸ درصد به ۸۲.۶ درصد نشان میدهد که AI میتواند بهعنوان یک ابزار پشتیبان، اطلاعات مرتبط را سریعتر در اختیار پزشک قرار دهد و فرایند بررسی شواهد را تسهیل کند.
این موضوع بهخصوص در شرایطی اهمیت پیدا میکند که پزشک با حجم زیادی از اطلاعات علمی، مقالات و دستورالعملهای پزشکی مواجه است.
یکی از فناوریهایی که در این مطالعه مورد توجه قرار گرفته، Retrieval-Augmented Generation یا RAG است. در این روش، مدل هوش مصنوعی تنها بر اساس اطلاعاتی که از قبل در فرایند آموزش خود دریافت کرده پاسخ نمیدهد، بلکه میتواند اطلاعات مرتبط را از منابع بازیابی کرده و بر اساس آن پاسخ تولید کند.
در تئوری، این رویکرد میتواند احتمال ارائه پاسخهای نادرست را کاهش دهد؛ اما مطالعه جدید نشان میدهد که وجود منابع و استنادها بهتنهایی تضمین نمیکند پاسخ AI درست باشد.
CORA چیست و چگونه به پزشکان کمک میکند؟
سیستم مورد بررسی در این پژوهش، CORA نام دارد و از قابلیتهای مدلهای زبانی بزرگ برای پشتیبانی از تصمیمگیری پزشکی استفاده میکند.
ایده اصلی چنین سیستمهایی این است که پزشک بتواند به جای جستوجوی دستی میان حجم زیادی از منابع، از یک سیستم هوشمند برای پیدا کردن اطلاعات مرتبط با یک مسئله بالینی استفاده کند.
این فناوری میتواند در آینده برای فعالیتهایی مانند:
- بررسی سریع منابع علمی
- پیدا کردن شواهد مرتبط با یک بیماری
- مقایسه گزینههای درمانی
- کمک به تشخیص افتراقی
- خلاصهسازی اطلاعات پزشکی
- دسترسی سریعتر به دستورالعملهای بالینی
مورد استفاده قرار گیرد.
با این حال، نقش AI در این فرایند باید پشتیبان تصمیمگیری پزشک باشد، نه جایگزین آن.
مشکل اصلی: وقتی هوش مصنوعی پاسخ اشتباه میدهد
شاید مهمترین یافته این مطالعه، افزایش دقت پزشکان نباشد؛ بلکه هشداری باشد که درباره اعتماد بیشازحد به هوش مصنوعی ارائه میکند.
در بخشی از پژوهش، زمانی که هوش مصنوعی پاسخ اشتباه ارائه میداد، وجود استنادهای ظاهراً معتبر باعث شد پزشکان مقاومت کمتری در برابر پاسخ نادرست داشته باشند.
به بیان ساده، پزشک ممکن است با خود فکر کند:
«این پاسخ حتماً درست است، چون AI برای آن منبع علمی ارائه کرده است.»
در حالی که وجود citation الزاماً به معنی درست بودن نتیجهگیری AI نیست.
بر اساس نتایج مطالعه، مقاومت پزشکان در برابر پاسخ اشتباه زمانی که پاسخ دارای استناد بود، به شکل قابلتوجهی کاهش پیدا کرد.
این موضوع یکی از چالشهای مهم استفاده از مدلهای زبانی بزرگ در پزشکی است؛ زیرا یک پاسخ اشتباه که بدون منبع ارائه شود ممکن است راحتتر مورد تردید قرار گیرد، اما همان پاسخ اگر با ارجاع علمی همراه باشد، میتواند بسیار متقاعدکنندهتر به نظر برسد.
چرا استنادهای AI میتوانند خطرناک باشند؟
یکی از مشکلات شناختهشده مدلهای زبانی بزرگ، تولید اطلاعات نادرست یا Hallucination است.
مدل ممکن است پاسخی تولید کند که از نظر ظاهری کاملاً منطقی باشد، اما بخشی از اطلاعات آن اشتباه باشد یا حتی منبعی را به شکل نادرست تفسیر کند.
در پزشکی، این مسئله اهمیت بسیار بیشتری دارد؛ زیرا تصمیم اشتباه میتواند مستقیماً بر سلامت بیمار تأثیر بگذارد.
بنابراین پزشک نباید صرفاً به دلیل وجود یک citation به پاسخ هوش مصنوعی اعتماد کند. لازم است منبع اصلی بررسی شود و اطلاعات ارائهشده با دانش بالینی، شرایط بیمار و دستورالعملهای معتبر مقایسه شود.
این موضوع اهمیت آموزش سواد هوش مصنوعی برای پزشکان را نیز بیشتر میکند.
آیا هوش مصنوعی میتواند جایگزین تصمیمگیری پزشکان شود؟
نتایج این مطالعه چنین نتیجهای را تأیید نمیکند.
برعکس، یافتههای پژوهش نشان میدهد ارزش اصلی AI میتواند در همکاری با پزشک باشد.
هوش مصنوعی میتواند در جمعآوری و سازماندهی اطلاعات، پیدا کردن منابع و ارائه گزینههای احتمالی بسیار سریع عمل کند؛ اما تصمیم نهایی همچنان به ارزیابی پزشک نیاز دارد.
پزشک علاوه بر اطلاعات پزشکی، عوامل مختلفی مانند شرایط اختصاصی بیمار، سابقه پزشکی، داروهای مصرفی، علائم بالینی و بسیاری از متغیرهای دیگر را در نظر میگیرد.
بنابراین مدل مناسب برای آینده پزشکی احتمالاً این نیست که:
AI به جای پزشک تصمیم بگیرد.
بلکه:
پزشک با کمک AI تصمیم دقیقتر و سریعتری بگیرد.
این یافتهها چه معنایی برای پزشکان و فلوشیپهای پزشکی دارد؟
گسترش هوش مصنوعی میتواند آموزش پزشکی و برنامههای فلوشیپ را نیز تحت تأثیر قرار دهد.
پزشکی که در آینده وارد یک فلوشیپ تخصصی میشود، احتمالاً علاوه بر دانش بالینی و مهارتهای تخصصی، باید توانایی کار با ابزارهای هوش مصنوعی را نیز داشته باشد.
این مهارتها میتوانند شامل موارد زیر باشند:
- ارزیابی صحت پاسخهای AI
- بررسی منابع و citationهای تولیدشده توسط مدلها
- استفاده صحیح از ابزارهای هوش مصنوعی پزشکی
- شناخت محدودیتهای مدلهای زبانی
- استفاده از AI برای جستوجوی منابع علمی
- تشخیص خطاها و hallucinationهای هوش مصنوعی
در نتیجه، آشنایی با AI ممکن است به یکی از مهارتهای مکمل مهم برای نسل جدید پزشکان تبدیل شود.
آینده همکاری پزشکان و هوش مصنوعی در پزشکی
مطالعه جدید نشان میدهد هوش مصنوعی میتواند عملکرد پزشکان را در برخی شرایط بهبود دهد، اما استفاده از آن بدون نظارت انسانی میتواند خطرهای جدیدی ایجاد کند.
افزایش دقت از ۷۰.۸ به ۸۲.۶ درصد یک نتیجه امیدوارکننده است؛ اما کاهش مقاومت پزشکان در برابر پاسخهای اشتباه دارای استناد، هشداری جدی درباره اعتماد بیشازحد به سیستمهای هوشمند محسوب میشود.
به همین دلیل، آینده هوش مصنوعی در پزشکی احتمالاً به میزان دقت مدلها بهتنهایی وابسته نخواهد بود. نحوه استفاده پزشکان از این فناوری، توانایی ارزیابی پاسخهای AI و آموزش صحیح متخصصان نیز اهمیت بسیار زیادی خواهد داشت.
برای پزشکان، هدف نباید این باشد که هوش مصنوعی را جایگزین دانش و تجربه بالینی کنند؛ بلکه باید یاد بگیرند چگونه از این فناوری بهعنوان یک ابزار قدرتمند برای تصمیمگیری بهتر استفاده کنند.
جمعبندی درباره هوش مصنوعی در تصمیمگیری بالینی پزشکان
هوش مصنوعی در تصمیمگیری بالینی پزشکان میتواند یک تحول مهم در آینده پزشکی ایجاد کند. مطالعه جدید نشان داده است که استفاده از یک سیستم مبتنی بر LLM و RAG میتواند دقت پزشکان را در برخی سناریوهای بالینی افزایش دهد.
اما همین مطالعه یک نکته مهم را نیز روشن میکند: هوش مصنوعی هرچقدر هم پیشرفته باشد، پاسخ آن نباید بدون بررسی پذیرفته شود.
برای پزشکان و بهخصوص نسل جدید متخصصانی که وارد دورههای فلوشیپ میشوند، یادگیری نحوه استفاده صحیح از AI میتواند در کنار دانش تخصصی و مهارتهای بالینی، به یک مزیت مهم تبدیل شود.
در نهایت، آینده پزشکی احتمالاً متعلق به پزشکانی خواهد بود که نه در برابر هوش مصنوعی قرار میگیرند و نه بهطور کامل به آن وابسته میشوند؛ بلکه میدانند چه زمانی، چگونه و تا چه اندازه از هوش مصنوعی برای تصمیمگیری بالینی استفاده کنند.
نظرات