כולנו מכירים את המשפט "בוא נעשה עוד בדיקה, ליתר ביטחון". אלא שברפואה, בדיקה נוספת אינה תמיד הבחירה הנכונה. לעיתים היא עלולה לגלות ממצא מקרי וחסר משמעות, להוביל לבדיקות נוספות, לעורר חרדה ואף לגרום לטיפולים שלא היו נחוצים מלכתחילה. מחקר חדש בהובלת חוקרים מאוניברסיטת בן־גוריון בנגב ומשירותי בריאות כללית בדק האם הבינה המלאכותית יודעת לא רק להמליץ על טיפול, אלא גם לזהות מתי עדיף להימנע ממנו.
המחקר, שפורסם בכתב העת הרפואי Annals of Internal Medicine, נערך בהובלת ד"ר דין אריאל, רופא משפחה בשירותי בריאות כללית, וד"ר גיא לבן מהמחלקה להנדסת תעשייה וניהול באוניברסיטת בן־גוריון, בשיתוף ד"ר סתיו אנדלמן מהמרכז הרפואי רבין־בילינסון.
החוקרים בחנו שישה מודלי שפה גדולים של החברות OpenAI, Google ו־Anthropic, באמצעות 225 תרחישים רפואיים שנבנו על בסיס 15 המלצות של יוזמת Choosing Wisely, שמטרתה לצמצם בדיקות וטיפולים שאינם נחוצים מבחינה רפואית.
בסך הכול נותחו 4,050 תשובות, במטרה לבדוק האם המודלים מסוגלים להבחין בין מצב שבו מומלץ לבצע בדיקה או טיפול לבין מצב דומה שבו נכון דווקא להימנע מהם.
התוצאות הצביעו על יכולת גבוהה יחסית להבחין בין המצבים. כאשר לא הייתה הצדקה להתערבות רפואית, המודלים המליצו בכל זאת לבצע בדיקה או טיפול ב־5.4% מהתשובות. מנגד, במקרים שבהם נדרשה התערבות רפואית, הם המליצו בטעות להימנע ממנה ב־0.6% מהתשובות.
בשמונה מתוך 15 ההמלצות שנבדקו, המודלים לא המליצו על פעולה רפואית מיותרת אפילו פעם אחת.
אלא שמאחורי הנתונים הכלליים מסתתרים שני תחומים שבהם התמונה הייתה שונה לחלוטין.
בתרחישים שעסקו בצורך בבדיקת אולטרסאונד בעקבות קשרית קטנה בבלוטת התריס שהתגלתה במקרה, המודלים המליצו על בדיקה שנחשבה מיותרת לפי אמות המידה של המחקר ב־42.8% מהתשובות.
בתרחישים שעסקו בבדיקת אק"ג שגרתית בקרב אנשים בסיכון נמוך, שיעור ההמלצות המיותרות עמד על 28.3%.
עם זאת, החוקרים מציינים כי דווקא בשני התחומים האלה קיימת מורכבות רפואית אמיתית. במקרה של קשריות קטנות בבלוטת התריס יש הבדלים בין הנחיות של גופים מקצועיים, ואילו בחלק מתרחישי האק"ג הופיעו תסמינים כמו דפיקות לב, שעשויים להצדיק בדיקה גם אצל אדם המוגדר בסיכון נמוך.
במילים אחרות, בחלק מהמקרים הבינה המלאכותית לא בהכרח המציאה המלצה שגויה, אלא שיקפה חוסר הסכמה הקיים גם בעולם הרפואה.
"אחד האתגרים ברפואה הוא לדעת מתי להימנע מפעולה. מטופלים מרגישים שעוד בדיקה משרה ביטחון, אבל MRI מיותר של הגב מגלה לעיתים בלט דיסק או שחיקה שקיימים גם אצל אנשים בריאים בלי שום כאב, ומשם הדרך לחרדה, בדיקות נוספות ואף טיפולים מיותרים יכולה להיות קצרה", מסביר ד"ר דין אריאל.
לדבריו, "מודלי השפה למדו רפואה מהטקסטים שלנו, כולל מההרגלים הפחות טובים שלנו, ורצינו לבדוק אם הם ספגו גם את היכולת להתאפק כשצריך. ברוב המקרים הם יודעים לעצור, והם מועדים בעיקר היכן שגם אנחנו, הרופאים, מתלבטים".
החוקרים מצביעים גם על הבדלים משמעותיים בין המודלים עצמם. באותם תרחישים רפואיים שבהם קיימת מחלוקת מקצועית, מודל אחד המליץ על בדיקה מיותרת בפחות מעשירית מהתשובות, בעוד מודל אחר המליץ עליה בכשמונים אחוזים מהתשובות.
"אנחנו שומעים תשובה של מודל שפה כקול סמכותי אחד, כאילו יש 'עמדה של הבינה המלאכותית'. אבל בשאלות שבהן גם המומחים חלוקים, על אותם תרחישים בדיוק, מודל אחד המליץ על בדיקה מיותרת בפחות מפעם אחת מתוך עשר, ומודל אחר בשמונה מתוך עשר", מסביר ד"ר גיא לבן מאוניברסיטת בן־גוריון.
לדבריו, האתגר אינו מסתכם ביכולת לזהות את ההמלצה הרפואית הנכונה. "לומר 'לא צריך לבדוק' זו גם פעולה חברתית. רופא צריך לעמוד מאחורי זה מול מטופל מודאג, ומודלי שפה נוטים דווקא להתיישר עם מי שמולם. השאלה הבאה היא אם מודל יידע להחזיק בעמדה הקלינית הנכונה גם כשמתעקשים מולו".
לצד התוצאות המעודדות, חשוב להדגיש כי המחקר נערך באמצעות תרחישים מדומים שהוצגו למודלים מנקודת מבט של אנשי רפואה, ולא במסגרת טיפול במטופלים אמיתיים. הוא גם לא בדק כיצד המודלים מגיבים לשיחה מתמשכת עם אדם מודאג, שמבקש שוב ושוב לבצע בדיקה.
לכן, הממצאים אינם מוכיחים שניתן להסתמך על בינה מלאכותית לצורך קבלת החלטות רפואיות באופן עצמאי, או להשתמש בה כתחליף לבדיקה ולשיקול הדעת של רופא.
המחקר מציע דרך לבחון את בטיחותן של מערכות בינה מלאכותית רפואיות לא רק לפי יכולתן לזהות מחלות ולהציע טיפולים, אלא גם לפי יכולתן להימנע מהמלצות מיותרות.
עבור הציבור, המסקנה החשובה היא שתשובה רפואית של בינה מלאכותית עשויה להיות שימושית להבנת האפשרויות ולגיבוש שאלות לרופא, אך אינה בהכרח המלצה המתאימה למצבו האישי של המטופל. גם תשובה שנשמעת בטוחה ונחרצת יכולה להסתיר מחלוקת מקצועית או להתבסס על מידע רפואי חלקי.
זכויות יוצרים: המערכת משקיעה מאמצים רבים באיתור בעלי זכויות היוצרים בתכנים המופצים ברבים. במידה ופורסמה מדיה שבעליה אינו ידוע, השימוש נעשה לפי סעיף 27א לחוק זכויות יוצרים. אם הנכם בעלי הזכויות, ניתן לפנות אלינו לצורך הוספת קרדיט או הסרת התוכן.
