ארגון הבריאות העולמי מפרסם קווים מנחים לשימוש אתי בבינה מלאכותית גנרטיבית בתחום הבריאות
במהלך לקראת ממשל אתי של קידום יצירתי בינה מלאכותית טכנולוגיית (AI) בתחום הבריאות, ארגון הבריאות העולמי (WHO) פרסם הנחיות מקיפות לגבי מודלים רב-מודאליים גדולים (LMMs). מודלים אלה, המסוגלים לקבל קלט נתונים מגוונים כגון טקסט, סרטונים ותמונות, זכו לאימוץ חסר תקדים, עם פלטפורמות כמו ChatGPT, בארד וברט נכנסים לתודעת הציבור ב-2023.
ההנחיות של ארגון הבריאות העולמי, הכוללות למעלה מ-40 המלצות, מכוונות לממשלות, חברות טכנולוגיה וספקי שירותי בריאות, במטרה להבטיח שימוש אחראי ב-LMMs לקידום והגנה על בריאות האוכלוסייה. ד"ר ג'רמי פארר, המדען הראשי של ארגון הבריאות העולמי, הדגיש את היתרונות הפוטנציאליים של AI ייצור טכנולוגיות בתחום הבריאות אך הדגישו את הצורך במידע שקוף ובמדיניות לניהול הסיכונים הנלווים.
LMMs, הידועים בחיקוי שלהם של תקשורת אנושית וביכולת לבצע משימות שאינן מתוכנתות במפורש, מציגים חמישה יישומים רחבים בתחום הבריאות, כפי שתואר על ידי ארגון הבריאות העולמי. אלה כוללים אבחון וטיפול קליני, שימוש מונחה מטופל לחקירת סימפטומים וטיפול, משימות משרדיות וניהוליות ברשומות בריאות אלקטרוניות, חינוך רפואי ואחיות באמצעות מפגשי חולים מדומים, ומחקר מדעי ופיתוח תרופות לזיהוי תרכובות חדשות.
עם זאת, ההנחיה מדגישה סיכונים מתועדים הקשורים ל-LMMs, כולל הפקת מידע שקרי, לא מדויק או מוטה. זה יוצר נזק פוטנציאלי לאנשים המסתמכים על מידע כזה לצורך קבלת החלטות בריאותיות קריטיות. האיכות וההטיה של נתוני האימון, הנוגעים לגורמים כמו גזע, אתניות, מוצא, מין, זהות מגדרית או גיל, עלולות לסכן את שלמות התפוקות של LMM.
מעבר לסיכונים בודדים, ארגון הבריאות העולמי מכיר באתגרים רחבים יותר למערכות הבריאות הנובעים מ-LMMs. אלה כוללים חששות לגבי הנגישות והמחיר סביר של ה-LMMs המתקדמים ביותר, "הטיית אוטומציה" פוטנציאלית של אנשי מקצוע ומטופלים בתחום הבריאות, וכן אבטחת סייבר נקודות תורפה המסכנות את מידע המטופל ואת האמינות של אלגוריתמי AI במתן שירותי בריאות.
צריך מעורבות מחזיקי עניין לפריסת LLMs
כדי להתמודד עם אתגרים אלה, ארגון הבריאות העולמי מדגיש את הצורך במעורבות מבעלי עניין שונים לאורך הפיתוח והפריסה של LMMs. ממשלות, חברות טכנולוגיה, ספקי שירותי בריאות, חולים והחברה האזרחית נקראות להשתתף באופן פעיל בהבטחת השימוש האחראי בטכנולוגיות AI.
ההנחיה מספקת המלצות ספציפיות לממשלות, ומטילה עליהן את האחריות העיקרית לקבוע סטנדרטים לפיתוח, פריסה ושילוב של LMMs בבריאות הציבור ובפרקטיקות רפואיות.
ממשלות נקראות להשקיע או לספק תשתית שלא למטרות רווח או ציבורית, לרבות כוח מחשוב ומערכי נתונים ציבוריים, הנגישים למפתחים במגזרים שונים. משאבים אלו יהיו מותנים בכך שמשתמשים ידבקו בעקרונות ובערכים אתיים. יש להפעיל חוקים, מדיניות ותקנות כדי להבטיח ש-LMMs בתחום הבריאות יעמדו בחובות אתיות ובסטנדרטים של זכויות אדם, תוך שמירה על היבטים כמו כבוד, אוטונומיה ופרטיות.
ההנחיה מציעה גם להקצות סוכנויות רגולטוריות, קיימות או חדשות, להעריך ולאשר LMMs ויישומים המיועדים לשימוש רפואי, במסגרת המגבלות של משאבים זמינים. יתר על כן, מומלץ לבצע ביקורת חובה לאחר שחרור והערכות השפעה על ידי צדדים שלישיים בלתי תלויים עבור פריסות LMM בקנה מידה גדול. הערכות אלו צריכות לכלול שיקולים להגנה על נתונים וזכויות אדם, עם תוצאות והשפעות מפורקות לפי מאפייני המשתמש, כגון גיל, גזע או מוגבלות.
מפתחים של LMMs מופקדים גם על אחריות מפתח. הם מתבקשים להבטיח שמשתמשים פוטנציאליים וכל בעלי העניין הישירים והעקיפים, כולל ספקים רפואיים, חוקרים מדעיים, אנשי מקצוע בתחום הבריאות ומטופלים, יהיו מעורבים כבר מהשלבים המוקדמים של פיתוח AI. תהליכי עיצוב שקופים, מכילים ומובנים צריכים לאפשר לבעלי עניין להעלות סוגיות אתיות, להשמיע חששות ולספק מידע.
בנוסף, LMMs צריכים להיות מתוכננים לביצועים טובים-defiהתקנת משימות בדיוק ובאמינות הדרושים כדי לשפר את מערכות הבריאות ולקדם את תחומי העניין של המטופלים. מפתחים חייבים גם להיות בעלי יכולת לחזות ולהבין תוצאות משניות פוטנציאליות של יישומי הבינה המלאכותית שלהם.
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
קומאר הוא עיתונאי טכנולוגי מנוסה עם התמחות בצמתים דינמיים של AI/ML, טכנולוגיית שיווק ותחומים מתפתחים כמו קריפטו, בלוקצ'יין ו NFTס. עם ניסיון של למעלה מ-3 שנים בתעשייה, קומאר ביסס רקורד מוכח ביצירת נרטיבים מרתקים, ביצוע ראיונות מעוררי תובנות ומתן תובנות מקיפות. המומחיות של קומאר טמונה בהפקת תוכן בעל השפעה גבוהה, כולל מאמרים, דוחות ופרסומי מחקר עבור פלטפורמות בולטות בתעשייה. עם מערך מיומנויות ייחודי המשלב ידע טכני וסיפור סיפורים, קומאר מצטיין בהעברת מושגים טכנולוגיים מורכבים לקהלים מגוונים בצורה ברורה ומרתקת.
מאמרים נוספים
קומאר הוא עיתונאי טכנולוגי מנוסה עם התמחות בצמתים דינמיים של AI/ML, טכנולוגיית שיווק ותחומים מתפתחים כמו קריפטו, בלוקצ'יין ו NFTס. עם ניסיון של למעלה מ-3 שנים בתעשייה, קומאר ביסס רקורד מוכח ביצירת נרטיבים מרתקים, ביצוע ראיונות מעוררי תובנות ומתן תובנות מקיפות. המומחיות של קומאר טמונה בהפקת תוכן בעל השפעה גבוהה, כולל מאמרים, דוחות ופרסומי מחקר עבור פלטפורמות בולטות בתעשייה. עם מערך מיומנויות ייחודי המשלב ידע טכני וסיפור סיפורים, קומאר מצטיין בהעברת מושגים טכנולוגיים מורכבים לקהלים מגוונים בצורה ברורה ומרתקת.
