הסטארט אפ טנסורליפ (Tensorleap) נחשף היום לראשונה עם גיוס סיד של 5.2 מיליון דולר ועם טכנולוגיה שלדברי היזמים תטלטל את עולם הבינה המלאכותית. החברה פיתחה פלטפורמה שיודעת להסביר למפתחים למה מודל הלמידה העמוקה (deep learning) שלהם לא מתפקד כנדרש, למה הוא מזהה אופניים כבני אדם שחוצים את הכביש או מנווט מתל אביב לפתח תקווה דרך ראש העין.
היעדר היכולת להסביר (explainability) את ההחלטות של מודלי למידה עמוקה הוא אחת הבעיות המטרידות ביותר בעולמות הבינה המלאכותית. לטסלה נדרשו שבועות כדי לנסות ולהסביר למה מכונית אוטונומית שלה התנגשה ברכב חונה (האורות המהבהבים היו הבעיה), מודלים מתוחכמים בתחום הבריאות הדיגיטלית מתקשים לקבל אישור FDA בגלל שאי אפשר להסביר את קבלת ההחלטות שלהם והאיחוד האירופי מאיים לאסור שימוש במודלים שלא ניתן יהיה להוכיח שהם פועלים באופן אחראי.
"עתיד עולם הטכנולוגיה תלוי במידה רבה ברשתות נוירונים ואנחנו החברה הראשונה שהמציאה כלי שבודק רשתות נוירונים", אומר דודי בן דוד, מנכ"ל החברה. "אנחנו חושבים שנעשה שינוי עצום בעולם. מיליוני מדעני נתונים בעולם שמפתחים טכנולוגיות למידה עמוקה עובדים כיום עם עיניים עצומות, כי רשת הנוירונים היא קופסה שחורה שאין מושג מה קורה בתוכה".
בן דוד מסביר שבניגוד למערכות למידת מכונה קלאסית, שבהן מגדירים למודל את הנתונים שהוא צריך למצוא - בלמידה עמוקה באמצעות רשתות נוירונים, המודלים מוצאים את התכונות הרלוונטיות בעצמם: "הבעיה היא שמדעני הנתונים התרחקו מהבעיה: המודל מוצא מאות אלפי תכונות ומקבל החלטות והם לא מבינים מה בעצם המודל מצא בתוך הדאטה".
דודי בן דוד, מנכ"ל טנסורליפ: "בעזרת הכלי שלנו מדען הנתונים יכול לתקן את רשת הנוירונים או לתקן את מערכת הנתונים שהמודל התאמן בעזרתם, כך שלא תהיה הטייה וגם שתהיה התאמה טובה יותר לנתונים מהעולם האמיתי. הוא מאיץ את זמני הפיתוח ומאפשר להפעיל את המודל עם פחות כשלונות"
כולם מדברים על הצורך בהסבריות של מערכות למידה עמוקה, מה מייחד את הפתרון שלכם?
"אנשים משתמשים במילה הסבריות בצורה קלה מדי. ברשת נוירונים, בגלל שהיא קופסה שחורה, יכולות להיות עשרות ומאות שכבות של חישוב וכל שכבה מבצעת אלפי ומיליוני חישובים. הסבריות לרשתות כאלה היא משהו מורכב בהרבה ממערכות למידת מכונה. טנסורליפ היא החברה הראשונה בעולם, למיטב היכרותינו, שמציעה הסבריות מלאה של רשתות נוירונים".
איך זה משנה את עבודתו של מדען הנתונים?
"בעזרת הכלי שלנו מדען הנתונים יכול לתקן את רשת הנוירונים או לתקן את מערכת הנתונים שהמודל התאמן בעזרתם, כך שלא תהיה הטייה וגם שתהיה התאמה טובה יותר לנתונים מהעולם האמיתי. הוא מאיץ את זמני הפיתוח ומאפשר להפעיל את המודל עם פחות כשלונות מול העולם האמיתי".
הפלטפורמה של טנסורליפ היא כלי בינה מלאכותית בפני עצמו. המערכת מתחברת למודל הנבדק ומוציאה כמויות נתונים גדולות החוצה, סורקת את הנתונים מול הקוד של המודל במטרה למצוא הסברים לנקודות בהן המודל שגה. תהליך דומה יכול להיעשות על מודל שכבר פועל בשטח, ובו טנסורליפ בודקת את הנתונים שנאספו בעבודה השוטפת ובמטרה להסביר למה המודל הולך ומתרחק מהתוצאות שעבורן פותח. הממצאים של טנסוליפ מוצגות למדעני הנתונים ב"מפת חום" שמראה ויזואלית איפה יש בעיות שצריך לטפל בהן.
טנסורליפ הוקמה ב-2019 על ידי בן דוד (CEO), יותם עזריאל (CTO) וניר בן דוד (CCO). כעת השלימה החברה גיוס סיד בתוספת גיוס המשך בסכום כולל של 5.2 מיליון דולר מהקרנות Angular Ventures, Sozo Ventures, Industry Ventures. החברה מעסיקה 15 עובדים במרכז הפיתוח ברמת גן.
לחברה יש שבעה לקוחות משלמים שהיא נמנעת מלפרט את שמותיהם, בהם חברות גדולות ומוכרות. "המערכת כבר מראה תוצאות מצוינות אצל הלקוחות", אומר בן דוד. "יש חברות שהעריכו משך הקמת פרויקט ב-10-12 חודשים וסיימו אותו בפחות משלושה חודשים. יש חברות שמבקשות מאיתנו אינטגרציה מלאה, כך שהמערכת שלנו תאתר כשלונות בעבודה בשטח ותציג מיידית דוח עם הסברים לכשלונות, מה שיאפשר לסגור את הלופ בתוך שעות ולא שבועות".
המערכת של טנסורליפ היא פלטפורמה מבוססת דמי מנוי שעובדת במודל SaaS או לחילופין במודל של התקנה פיזית באתר הלקוח במקרים שבהם נדרשת חשאיות. היא תומכת בכל סוגי הנתונים המשמשים במערכות בינה מלאכותית - תמונות, טקסט, גרפים, מידע טבלאי ועוד, והיא מתאימה לדברי החברה לתחומים רבים - מוצרים רפואיים, ייצור שבבים, גיימינג, נהיגה אוטונומית ופלטפורמות מדיה חברתית.
גיל דיבנר, שותף כללי ומייסד, Angular Ventures, אומר: "טנסורליפ הקימה קטגוריה חדשה בפיתוח רשתות עצביות. טכנולוגיה זו תגדיר מחדש את אופן הפיתוח של מודלים של למידה עמוקה ותאפשר הרחבה משמעותית של אחד ממגזרי טכנולוגיית הבינה המלאכותית הצומחים ביותר".