חדשות

הסכנות האתיות של שימוש בטכנולוגית בינה מלאכותית ברפואה (מתוך הכנס השנתי מטעם ה-RSNA)

05/12/2019

 

בנייר עמדה מטעם ה-American College of Radiology Data Science Institute מתייחסים מומחים לאפשרות שימוש בנתונים באופן לא-אתי, הטיות אינהרנטיות של מסדי נתונים ומגבלות מערכות למידה המבוססות על אלגוריתמים בכל הנוגע לשימוש ברפואה באמצעי בינה מלאכותית.  במהלך הכנס השנתי מטעם ה-Radiological Society of North America הציג אחד המומחים את העמדה של הארגון לנושא, תוך הבהרה כי קיים תחום אפור גדול מאוד בין הגישה האתית האבסולוטית לשימוש בנתונים ובין הליכי קבלת החלטות המבוססות על תועלת.

 

המטרה של הרדיולוג היא לנסות ולהפיק תועלת רבה ככל האפשר משימוש אתי באפשרויות בינה מלאכותית, אך מצד שני לעמוד בפיתוח של שימוש לא-אתי בנתונים הדמייתיים ובינה מלאכותית לצורך רווח כלכלי.

 

המומחים מסבירים כי חברות שונות, חוקרים ואיגודים ממשלתיים מעוניינים כולם בנתונים עליהם מתבססים אלגוריתמים. הבעיה היא כי מאגרי נתונים ממרכזים אוניברסיטאיים, המהווים לרוב את המקור לאיסוף הנתונים, הם לרוב מאוד הומוגניים.

 

מסקנות ממחקר המבוסס על נתונים אלו אינן בהכרח משקפות את התוצאות הצפויות באוכלוסיה הכללית מאחר וישנן הטיות אפשריות רבות. עם זאת, עבור המטופלים, ישנה חשיבות רבה לפרטיות החולה והוא רשאי לבקש כי הנתונים שלו ישמרו פרטיים ולא ישמש להכשרת אלגוריתמים חדשים.

 

על-מנת להכשיר אלגוריתם לספק תוצאות רלבנטיות נדרשים נתונים מגוונים. יתרה מזאת, על-מנת שמערכות לימוד מכונה יהיו בעלות ערך אמיתי, נדרשת כמות גדולה מאוד של נתונים, לרוב ממספר מקורות, דבר הדורש שחרור נתונים רבים לצרכים אלו.

 

הטיות של הנתונים עלולות להוביל להשלכות שליליות, שכן האלגוריתמים כיום טובים בחיזוי מגמות ולכן אם מכניסים נתונים מוטים, צפויות תוצאות שהן מוטות באופן אינהרנטי. אחד המאמרים שפורסם בכתב העת Science הדגים טענה זו, כאשר זוהתה הטיה על-רקע גזעי – האלגוריתם זיהה כי הושקעו פחות כספים בחולים שחורים, בהשוואה ללבנים, ולכן קבע באופן שגוי כי מטופלים שחורים אינם חולים בדרגה חמורה כמו מטופלים לבנים. הסרת המרכיב הכלכלי כסמן לצורך בטיפול רפואי העלימה את ההטיה המגדרית בניבוי צורך בטיפול מוגבר.

 

חשוב לציין כי כאשר מפתחים אלגוריתמים המבוססים על נתונים מבית חולים יחיד, אזי האלגוריתם תקף לאותו בית חולים בלבד. יש למצוא את הדרך להביא לשיתוף פעולה של מספר בתי חולים, מאחר שכך ניתן להבטיח ייצוג הולם של אוכלוסיות שונות.

 

מתוך הכנס השנתי מטעם ה-RSNA

 

לידיעה במדסקייפ

 

 

מידע נוסף לעיונך

© e-Med 2020 | כל הזכויות שמורות
שתף מקרה קליני