AI בעולם המכשור הרפואי: פיתוח מודלים שעומדים בדרישות הרגולציה

האתגר: בינה מלאכותית כ"קופסה שחורה"

אלגוריתמים רפואיים רבים מבוססים על למידת מכונה ולמידה עמוקה, אך אחד האתגרים המשמעותיים הוא חוסר השקיפות שלהם. רגולטורים כמו ה-FDA  טרם אישרו מכשירים בעלי סיכון גבוה, כמו אלגוריתמים לאבחון מחלות, משום שקבלת החלטות שגויה עלולה להוביל להשלכות חמורות. לכן, לצד פיתוח האלגוריתם עצמו, יש צורך באמצעי בקרה, אימות והסמכה קפדניים.

Explainable AI

בסופו של דבר הכי חשוב שהרופאים והמטופלים יסמכו על ההחלטות של המודל- ובשביל כך, חייב לסגל יכולות לפרק את "הקופסא השחורה" מבפנים.

באמצעות MATLAB ניתן לפתח מודלים ברמת שקיפות גבוהה –  כך שניתנים לנו הכלים להבנת תהליך קבלת ההחלטות של המודל, באמצעות טכניקות שונות כגון:

LIME – ניתוח התרומה של משתנים שונים לתחזיות

גרפים של תלות חלקית (PDP) וציפייה מותנית (ICE)

 Grad-CAM,CAM, ומיפוי הפעלה לזיהוי דפוסים חשובים במידע רפואי

Shapley Values

Occlusion Sensitivity

סקירה של שיטות שונות להבנה של מודלים, והכוונה איך להשתמש בהן – בהתאם לסוג המודל.

בניית מודלים רובסטיים – שיעבדו גם בעולם האמיתי

היכולת להסביר את החלטות המודל והבנת המודל הם הצעד הראשון.
עם זאת, כשמתקדמים עם הפיתוח, ייתכן שנרצה גם לוודא שהמודל נבנה בצורה יציבה.
מה הכוונה ביציבה? רשתות נוירונים עשויות להיות רגישות לשינויים מינוריים בקלטים שהן מקבלות – שינויים קטנים מאוד בקלט (שלרוב לא נראים לבני אדם) יכולים לגרום לטעויות בסיווג והניבוי.

על מנת להתמודד עם אותן שגיאות לא רצויות – נצטרך לדאוג לאימות והערכת ביצועים –  באופן מתודי, וכך לוודא שהמודל פועל נכון גם בעולם האמיתי.

אפשר להשתמש ב-Deep learning Toolbox Verification Library כדי לאמת אם רשת למידה עמוקה עמידה נגד דוגמאות "מבלבלות" שכאלה בעלות שינויים קטנטנים, ולחשב את גבולות הפלט עבור סדרת גבולות קלט.

אימות המודלים – הטמעה מהמעבדה ועד לקליניקה

בנוגע לאימות מודלים, חשוב לוודא שהמודל עבר מחקרים קליניים לפני שהוא מאושר להפצה (וזה בלי קשר ל-MATLAB).
יצרני מכשירים רפואיים אחראים לוודא שהמודלים מבוססי הבינה המלאכותית אכן עובדים כמו שצריך, בשיתוף פעולה עם חוקרים קליניים. במדריך "Good Machine Learning Practice" מדגישים את החשיבות של אימות המודלים דרך מחקרים קליניים שכוללים את אוכלוסיית החולים המיועדת.

באמצעות MATLAB מתאפשר השיתוף של היישום עם קלינאים לבדיקת המודל בסביבות אמיתיות, בין אם זה במערכת עצמאית או בשרת שמאפשר גישה רחבה יותר. כל זה תוך היכולת:

✔️       לשתף מודלים עם בתי חולים ורופאים לאימות בזמן אמת

✔️       להטמיע בשרתים רפואיים עבור עיבוד כמויות גדולות של נתונים

✔️       לייצר קוד C/C++ לפריסה במערכות קליניות קיימות

תהליכי הסמכה  (IEC 62304)

לסיסטמטיקס יחד עם MathWorks ניסיון בהסמכה לקבלת הכרה בעמידה בתקנים השונים. בפרט נוכל לעזור לכם לעמוד בדרישות  IEC 62304 לפיתוח תוכנה עבור מכשירים רפואיים, תקן שדורש תהליכים מדויקים לפיתוח תוכנה עבור מכשירים רפואיים, כולל הגדרה של כל שלב בתהליך.

באמצעות היכולות של כלי MathWorks קיימת תמיכה גם בתהליך הפיתוח עצמו, עם כלים שמסייעים בתכנון מפורט, ניתוח דרישות תוכנה, עיצוב ארכיטקטורה, ביצוע ובדיקת unit testing, אינטגרציה, ובדיקת מערכת כולה כחלק מתהליך הפיתוח של מכשירים רפואיים. וכמו כן ולא פחות חשוב מכך – מתאפשרת היכולת להערכת השפעת השינויים בתוכנה באמצעות סימולציות של כל רכיב שהתעדכן.
ואם כל זה לא היה מספיק – גם יצירת תיעוד רגולטורי באופן אוטומטי – של מרבית המסמכים הנדרשים כדי לעמוד בסטנדרטים של IEC 62304 לפיתוח ותחזוקה של תוכנה רפואי – הוא אפשרי עם כלי MathWorks.

לסיכום, באמצעות היכולות של כלי MathWorks מוצע פתרון שלם לפיתוח, אימות והטמעה של מודלים מבוססי בינה מלאכותית במכשור רפואי, תוך הקפדה על שקיפות, בטיחות ועמידה בתקנים מחמירים.

רוצים ללמוד עוד? היכנסו לקישור וקראו מאמר בנושא כיצד ניתן לפתח ולהסמיך בינה מלאכותית למכשור רפואי.

למידע נוסף:

1. וובינר (46:29) – Explainable and interpretable AI for medical device certification
2. וובינר (42:43) – Developing IEC 62304 – Compliant Embedded Software for Medical Devices
3. אתר MathWorks – תעשיית Medical Devices

תגיות: AI | certification | Explainable AI | IEC 62304 | Medical Device Industry | SaMD