פריסה והטמעה של מערכות AI
Deep Learning Deployment on NVIDIA Jetson
פיתוח, ייצור קוד והטמעה אוטומטית של אלגוריתמי AI וראייה ממוחשבת
על חומרת Jetson עם תוצאות בזמן אמת.
מציגה:
מורן גולדמברג, ראש צוות LTC
התהליך ההנדסי:
פיתוח רשתות Deep Learning ואלגוריתמים לעיבוד תמונה ב-MATLAB, ייצור קוד אוטומטי והטמעתו ישירות על חומרת NVIDIA Jetson להרצה בזמן אמת.
המימוש בפועל:
מצלמת רשת מזינה וידאו חי ל-Jetson, אשר מריץ במקביל רשת סיווג (Classification) ואלגוריתם Edge Detection. התוצאות מוצגות בזמן אמת על גבי מסך אינטראקטיבי יחד עם תמונת הווידאו החיה.
טכנולוגיות מפתח:
MATLAB | Deep Learning | NVIDIA Jetson | GPU Code Generation
תיאור הדמו:
מערכות AI וראייה ממוחשבת נדרשות כיום לפעול ישירות על חומרה משובצת (Edge Devices), תוך עמידה במגבלות זמן אמת, ביצועים וצריכת משאבים.
בדמו זה נציג תהליך מלא שבו מפתחים ב-MATLAB רשת Deep Learning ואלגוריתם לעיבוד תמונה, מייצרים עבורם קוד באופן אוטומטי ומטמיעים אותם ישירות על NVIDIA Jetson. המערכת מקבלת וידאו חי ממצלמת רשת, מבצעת סיווג אובייקטים וזיהוי קצוות בזמן אמת, ומציגה על המסך באופן אינטראקטיבי את הקלט מהמצלמה ואת תוצאות העיבוד המתקבלות מהחומרה המוטמעת.
מרכיבי הדמו:
- Live Video Acquisition: קליטת וידאו חי ממצלמת רשת המחוברת למערכת.
- Deep Learning Classification Network: רשת נוירונים המבצעת סיווג בזמן אמת של אובייקטים וסצנות המופיעים בתמונה.
- Edge Detection Accelerator: אלגוריתם לזיהוי קצוות הרץ על גבי החומרה ומדגיש מאפיינים חזותיים בתמונה.
- Automatic Deployment to Jetson: ייצור קוד אוטומטי, העברה לחומרת NVIDIA Jetson והרצה ישירה על המעבד וה-GPU המשובצים.
- Interactive Live Visualization: הצגת הווידאו החי לצד תוצאות הסיווג וזיהוי הקצוות על מסך אינטראקטיבי בזמן אמת.
דגשים טכניים:
- Automatic Code Generation for Edge AI: המרה אוטומטית של אלגוריתמים ורשתות Deep Learning לקוד אופטימלי עבור פלטפורמת NVIDIA Jetson.
- Hardware-Accelerated Inference: ניצול יכולות ה-GPU של Jetson לצורך ביצוע Inference מהיר ויעיל על וידאו חי שנכנס למערכת.
- Multi-Algorithm Real-Time Processing: הרצה סימולטנית של רשת Deep Learning ואלגוריתם Vision קלאסי על אותה פלטפורמת חומרה.
- Seamless Transition from Design to Deployment: מעבר ישיר מסביבת הפיתוח ב-MATLAB להרצה על חומרת יעד ללא כתיבת קוד ידנית.