5 دلیلی که ثابت میکند برای اینکه چرا نباید به هوش مصنوعی برای مشاوره پزشکی اعتماد کنید

هوش مصنوعی، این چت ربات هوش مصنوعی (AI) که توسط Open AI توسعه یافته است  این روز ها به ابزاری همه کاره برای پاسخ دادن به بسیاری از سوالات ساده و دشوار از جمله درخواست مشاوره پزشکی تبدیل شده است؛ این ابزا می‌تواند به سؤالات پزشکی پاسخ دهد و در آزمون مجوز پزشکی ایالات متحده (USMLE) شرکت کند، اما  در عین حال نمی‌تواند جایگزین قرار ملاقات با پزشک در بیمارستان شود؛ به عبارت دیگر همانطور که هوش مصنوعی پیشرفت می کند، این پتانسیل را دارد که بخش مراقبت های بهداشتی را به طور کامل متحول کند

همچنین هنگامی که این ابزار با سیستم های بهداشتی ادغام می شود، ممکن است دسترسی بیمار به مراقبت را بهبود بخشد و کارایی کاری پزشکان را نیز بالا تر ببرد؛ با این حال، لازم هست بدانید نگرانی‌های متعددی در مورد خطرات احتمالی آن وجود دارد؛ ممکن هست از خود بپرسید، مگر هوش مصنوعی چه خطری دارد؟ با توجه به این سوال قصد داریم در ادامه در ارتباط با این مسئله و خطرات هوش مصنوعی هنگام کمک گرفتن از ان برای کمک های پزشکی صحبت کنیم؛ پس در ادامه و تاپایان این مطلب همراه ما باشید.

1. هوش مصنوعی دانش محدودی دارد.

هوش مصنوعی همه چیز را نمی داند، خوب هست بدانید طبق گفته Open AI، هوش مصنوعی دانش محدودی دارد، به ویژه وقتی صحبت از اتفاقات پس از سپتامبر 2021 می شود، زیرا این ابزار تنها با اطلاعات قبل از سال 2021 به روز هست؛ همچنین هوش مصنوعی دسترسی مستقیم به موتورهای جستجو یا اینترنت ندارد، و با استفاده از حجم وسیعی از داده‌های متنی از منابع متعدد، از جمله کتاب‌ها، وب‌سایت‌ها و متون دیگر آموزش داده شد. داده‌هایی را که ارائه می‌کند و به عبارتی دانش آن به روز نیست و دانشی که بروز نیست مسلما کارآمد هم نیست و محدودیت هایی دارد؛ بنابراین با توجه به موارد فوق باید گفت، نمی توان اخبار فعلی در مورد تحولات در زمینه های پزشکی را دریافت از هوش مصنوعی دریافت کرد؛ به طور مثال، هوش مصنوعی این ابزاری که این روز ها تمام قله های جهان را در نوردیده است؛ از پیوند قلب خوک به انسان یا هر پیشرفت اخیر در علم پزشکی بی اطلاع است.

2. هوش مصنوعی ممکن است اطلاعات نادرستی تولید کند.

دراست هست که هوش مصنوعی می‌تواند به سوالاتی که می‌پرسید پاسخ دهد، اما پاسخ‌ها می‌توانند نادرست یا مغرضانه باشند و لزومی بر درست بودن آن ها نیست ؛ علاوه بر این، تمام اطلاعات مورد استفاده برای آموزش هوش مصنوعی معتبر نیستند. پاسخ‌های مبتنی بر اطلاعات تأیید نشده یا بالقوه مغرضانه ممکن است نادرست یا قدیمی باشند و همانطور که میدانید در دنیای پزشکی، اطلاعات نادرست حتی می تواند به قیمت یک زندگی تمام شود؛ پس از آنجایی که هوش مصنوعی نمی تواند به طور مستقل در مورد برخی مطالب تحقیق کند یا برخی دیگر از آن ها را یا تأیید کند، یا به دیگر سخت نمی تواند بین واقعیت و داستان تفاوت قائل شود. مجلات معتبر پزشکی، از جمله مجله انجمن پزشکی آمریکا (JAMA)، مقررات سختگیرانه ای وضع کرده اند که فقط انسان ها می توانند مطالعات علمی منتشر شده در این مجله را بنویسند. در نتیجه، باید دائماً پاسخ‌های هوش مصنوعی را بررسی کنید.

3. هوش مصنوعی شما را از نظر فیزیکی معاینه نمی کند.

همانطور که مطمئنا میدانید، تشخیص پزشکی تنها به علائم بستگی ندارد. پزشکان می توانند از طریق معاینه فیزیکی بیمار به بینش هایی در مورد الگوی و شدت بیماری دست یابند؛ اما امروزه پزشکان برای تشخیص بیماران هم از فناوری های پزشکی و هم از حواس پنج گانه استفاده می کنند و نمیتوان بدون وجود این مسئله بیماری را به طور دقیق تشخیص دارد.

پس حواستان باشد، که هوش مصنوعی نمی تواند یک چکاپ مجازی کامل یا حتی یک معاینه فیزیکی انجام دهد و فقط می تواند به علائمی که شما به عنوان پیام ارائه می دهید پاسخ دهد، که این برای ایمنی و مراقبت از بیمار، خطا در معاینه فیزیکی – یا نادیده گرفتن کامل معاینه فیزیکی – می تواند مضر باشد و  از آنجایی که هوش مصنوعی شما را به صورت فیزیکی معاینه نکرده است، تشخیص نادرستی ارائه می دهد.

4. هوش مصنوعی می تواند اطلاعاتی که خودش ساخته ارائه دهد.

یک مطالعه اخیر توسط دانشکده پزشکی دانشگاه مریلند در مورد توصیه هوش مصنوعی برای غربالگری سرطان پستان نتایج زیر را نشان داد:

دوره آموزش هوش مصنوعی

ما در تجربه خود دیده‌ایم که هوش مصنوعی گاهی مقالات جعلی مجلات یا کنسرسیوم‌های بهداشتی را برای حمایت از ادعاهای خود ایجاد می‌کند؛ به همین دلیل Paul Yi M.D.، استادیار رادیولوژی تشخیصی و پزشکی هسته ای در UMSOM تصمیم گرفت عنوان بخشی از آزمایش هوش مصنوعی، فهرستی از کتاب‌های غیرداستانی را درخواست کرند؛ که موضوع ضمیر ناخودآگاه را پوشش می‌دهند. در نتیجه هوش مصنوعی کتابی جعلی با عنوان «قدرت ذهن ناخودآگاه» توسط دکتر گوستاو کوهن تولید کرد؛ اما وقتی در مورد کتاب جویا شد، هوش مصنوعی پاسخ داد که کتابی «فرضی» است و خودش آن را خلق کرده است، پس در ارتباط با اطلاعات پزشکی هم به این شکل هست و اگر بیشتر پرس و جو نکنید، هوش مصنوعی به شما نمی گوید که آیا آن مقاله یا کتاب یا مجله را از خودش ساخته است یا واقعا وجود خارجی دارد.

5. هوش مصنوعی فقط یک مدل زبان هوش مصنوعی است.

آخرین دلیلی که باید با توجه به  آن از مشاوره پزشکی هوش مصنوعی دوری کنید، این هست که مدل های زبان به جای بررسی یا مطالعه وضعیت بیمار، با حفظ و تعمیم متن عمل می کنند و پیش میورند؛ یعنی میتواند به ایجاد پاسخ‌هایی که از نظر زبان و دستور زبان با استانداردهای انسانی مطابقت دارند، بپردازد پس نباید فراموش کنید که هوش مصنوعی همچنان مانند سایر ربات‌های دیگر تعدادی مشکلات است و بدون عیب نیست.

هوش مصنوعی جایگزینی برای پزشک شما نیست

به عنوان یک جمع بندی از مواردی که در قسمت های قبل ذکر شد، برای سخن آخر باید بگوییم، پزشکان انسانی همیشه برای تصمیم گیری نهایی در مورد مراقبت های بهداشتی مورد نیاز خواهند بود، همچنین خود هوش مصنوعی هم معمولاً توصیه می کند هنگامی که از مشاوره پزشکی می خواهید با یک پزشک دارای مجوز صحبت کنید.

اما نمیتوان از این حقیقت گذشت که ابزارهای مبتنی بر هوش مصنوعی را می توان برای برنامه ریزی قرار ملاقات با پزشک، کمک به بیماران در دریافت درمان و حفظ اطلاعات سلامتی آنها استفاده کرد. اما همانطور که گفتیم این ابزار نمی تواند جای تخصص و همدلی یک پزشک را بگیرد و برای تشخیص یا درمان سلامتی خود، چه جسمی و چه روانی، نباید به ابزار مبتنی بر هوش مصنوعی تکیه کنید؛ پس حواستان به این مسئله باشد و در ارتباط با آن دقت کافی به خرج دهید.