גטי אימג'ס
הבינה המלאכותית (AI) נעה במהירות ותהפוך לכלי תמיכה חשוב בטיפול קליני. מחקרים מראים שאלגוריתמים של AI יכולים במדויק לזהות מלנומות ו לחזות סרטן שד עתידי.
אבל לפני שניתן יהיה לשלב AI בשימוש קליני שגרתי, עלינו להתמודד עם האתגר של הטיה אלגוריתמית. לאלגוריתמים של בינה מלאכותית עשויים להיות הטיות מובנות שעלולות להוביל לאפליה ולבעיות פרטיות. מערכות בינה מלאכותית יכולות גם לקבל החלטות ללא הפיקוח הנדרש או קלט אנושי.
דוגמה להשפעות הפוטנציאליות המזיקות של AI מגיעה מ- פרויקט בינלאומי שמטרתה להשתמש בבינה מלאכותית כדי להציל חיים על ידי פיתוח טיפולים רפואיים פורצי דרך. בניסוי, הצוות הפך את מודל ה-AI ה"טוב" שלהם כדי ליצור אפשרויות למודל AI חדש שיעשה "נזק".
תוך פחות משש שעות של אימון, אלגוריתם הבינה המלאכותית ההפוך יצר עשרות אלפי גורמי לוחמה כימיים פוטנציאליים, עם הרבה יותר מסוכנים מסוכני הלוחמה הנוכחיים. זוהי דוגמה קיצונית הנוגעת לתרכובות כימיות, אך היא משמשת קריאת השכמה להערכת ההשלכות האתיות הידועות והבלתי-ניתנות להערכת הבינה המלאכותית.
AI בטיפול קליני
ברפואה, אנו עוסקים בנתונים הפרטיים ביותר של אנשים ולעתים קרובות בהחלטות שמשנות חיים. מסגרות אתיקה בינה מלאכותית הן הכרחיות.
אל האני פרויקט אפילפסיה אוסטרלי שואפת לשפר את חייהם של אנשים ולהפוך את הטיפול הקליני לזמין יותר. בהתבסס על הדמיית מוח מתקדמת, מידע גנטי וקוגניטיבי מאלפי אנשים עם אפילפסיה, אנו מתכננים להשתמש בבינה מלאכותית כדי לענות על שאלות שאין עליהן תשובה כרגע.
האם ההתקפים של האדם הזה יימשכו? איזו תרופה היעילה ביותר? האם ניתוח מוח הוא אפשרות טיפול ראויה? אלו הן שאלות יסוד שהרפואה המודרנית מתקשה להתמודד עמן.
בתור המוביל בינה מלאכותית של פרויקט זה, הדאגה העיקרית שלי היא שה-AI נע במהירות והפיקוח הרגולטורי הוא מינימלי. הנושאים האלה הם הסיבה שהקמנו לאחרונה א מסגרת אתית לשימוש ב-AI ככלי תמיכה קליני. מסגרת זו מתכוונת להבטיח שטכנולוגיות הבינה המלאכותית שלנו יהיו פתוחות, בטוחות ומהימנות, תוך טיפוח הכלה והגינות בטיפול הקליני.
אז איך אנחנו מיישמים אתיקה של AI ברפואה כדי להפחית הטיה ולשמור על שליטה על אלגוריתמים? עקרון מדעי המחשב "זבל פנימה, זבל החוצה" חל על AI. נניח שאנו אוספים נתונים מוטים מדגימות קטנות. סביר להניח שאלגוריתמי ה-AI שלנו יהיו מוטים ולא ניתנים לשכפול בסביבה קלינית אחרת.
דוגמאות להטיות לא קשה למצוא בדגמי AI עכשוויים. מודלים פופולריים של שפה גדולה (ChatGPT למשל) ומודלים של דיפוזיה סמויה (DALL-E ו-Stable Diffusion) מראים כיצד הטיות מפורשות לגבי מגדר, אתניות ומעמד סוציו-אקונומי יכולים להתרחש.
חוקרים גילו שהנחיות פשוטות של משתמשים יוצרות תמונות המנציחות סטריאוטיפים אתניים, מגדריים ומעמדיים. למשל, הנחיה לרופא מייצר בעיקר תמונות של רופאים גברים, דבר שאינו עולה בקנה אחד עם המציאות שכן כמחצית מכלל הרופאים במדינות ה-OECD הן נשים.
יישום בטוח של AI רפואי
הפתרון למניעת הטיה ואפליה אינו טריוויאלי. מתן אפשרות לשוויון בריאות וטיפוח הכללות במחקרים קליניים הם ככל הנראה בין פתרונות ראשוניים למאבק בהטיות בבינה מלאכותית רפואית.
מעודד, מנהל המזון והתרופות האמריקאי הציע לאחרונה הפיכת הגיוון לחובה בניסויים קליניים. הצעה זו מייצגת מהלך לקראת מחקרים קליניים פחות מוטים ומבוססים על קהילה.
מכשול נוסף להתקדמות הוא מימון מחקר מוגבל. אלגוריתמי בינה מלאכותית דורשים בדרך כלל כמויות משמעותיות של נתונים, מה שעלול להיות יקר. חיוני להקים מנגנוני מימון משופרים המספקים לחוקרים את המשאבים הדרושים לאיסוף נתונים רלוונטיים קלינית המתאימים ליישומי AI.
אנו גם טוענים שעלינו לדעת תמיד את פעולתם הפנימית של אלגוריתמי AI ולהבין כיצד הם מגיעים למסקנות ולהמלצות שלהם. מושג זה מכונה לעתים קרובות "יכולת הסבר" ב-AI. זה קשור לרעיון שבני אדם ומכונות חייבים לעבוד יחד לתוצאות מיטביות.
אנו מעדיפים לראות את יישום החיזוי במודלים כבינה "מוגברת" ולא "מלאכותית" - אלגוריתמים צריכים להיות חלק מהתהליך ומקצועות הרפואה חייבים להישאר בשליטה על קבלת ההחלטות.
בנוסף לעידוד השימוש באלגוריתמים הניתנים להסבר, אנו תומכים במדע שקוף ופתוח. על מדענים לפרסם פרטים על מודלים של AI ועל המתודולוגיה שלהם כדי לשפר את השקיפות והשחזור.
מה אנחנו צריכים ב-Aotearoa ניו זילנד כדי להבטיח יישום בטוח של AI בטיפול רפואי? דאגות האתיקה של AI מובלים בעיקר על ידי מומחים בתחום. עם זאת, תקנות AI ממוקדות, כמו האיחוד האירופי חוק בינה מלאכותית הוצעו, תוך התייחסות לשיקולים אתיים אלה.
חוק הבינה המלאכותית האירופי מתקבל בברכה ויגן על אנשים העובדים במסגרת "בינה מלאכותית בטוחה". ממשלת בריטניה פרסמה לאחרונה את שלהם גישה פרואקטיבית לרגולציה של AI, משמש תוכנית לתגובות ממשלתיות אחרות לבטיחות בינה מלאכותית.
ב-Aotearoa, אנו טוענים לאימוץ עמדה פרואקטיבית ולא תגובתית לבטיחות בינה מלאכותית. היא תקים מסגרת אתית לשימוש בבינה מלאכותית בטיפול קליני ובתחומים אחרים, שתניב בינה מלאכותית ניתנת לפירוש, בטוחה וחסרת פניות. כתוצאה מכך, הביטחון שלנו יגדל שהטכנולוגיה החזקה הזו מועילה לחברה תוך שמירה עליה מפני נזק.
על המחבר
מנגור פדרסן, פרופסור חבר לפסיכולוגיה ומדעי המוח, אוקלנד אוניברסיטת טכנולוגיה
מאמר זה פורסם מחדש מתוך שיחה תחת רישיון Creative Commons. קרא את ה מאמר מקורי.
ספרים קשורים:
הגוף שומר על הציון: מוח וגוף בריפוי טראומה
מאת בסל ואן דר קולק
ספר זה בוחן את הקשרים בין טראומה לבריאות גופנית ונפשית, ומציע תובנות ואסטרטגיות לריפוי והחלמה.
נשימה: המדע החדש של אמנות אבודה
מאת ג'יימס נסטור
ספר זה חוקר את המדע והפרקטיקה של הנשימה, ומציע תובנות וטכניקות לשיפור הבריאות הגופנית והנפשית.
פרדוקס הצמח: הסכנות הנסתרות במזונות "בריאים" הגורמים למחלות ולעלייה במשקל
מאת סטיבן ר. גונדרי
ספר זה בוחן את הקשרים בין תזונה, בריאות ומחלות, ומציע תובנות ואסטרטגיות לשיפור הבריאות והרווחה הכללית.
קוד החסינות: הפרדיגמה החדשה לבריאות אמיתית ואנטי אייג'ינג רדיקלי
מאת ג'ואל גרין
ספר זה מציע נקודת מבט חדשה על בריאות וחסינות, תוך הסתמכות על עקרונות של אפיגנטיקה ומציע תובנות ואסטרטגיות לייעול בריאות והזדקנות.
המדריך המלא לצום: רפא את גופך באמצעות צום לסירוגין, יום חלופי וארוך
מאת ד"ר ג'ייסון פונג וג'ימי מור
ספר זה חוקר את המדע והפרקטיקה של צום ומציע תובנות ואסטרטגיות לשיפור הבריאות והרווחה הכללית.
אשר
