מנהיגי טכנולוגיה, מומחי בינה מלאכותית ומדעי נתונים, חוקרים ומפתחים מהתעשייה והאקדמיה התכנסו היום במטרה לסקור את החידושים בבינה מלאכותית אחראית ויישומים מעשיים, תוך טיפוח דיאלוג ושיתוף פעולה בין המגזרים. בפסגת Efficient & Responsible AI R&D הוצגו מקרי מבחן, מחקר ותובנות יישום בתחומי בינה מלאכותית מרכזיים המעצבים את הנוף הטכנולוגי.
הכנס, בהובלת Intel, HIT ו IAHLT- הציב במוקד הדיונים וההרצאות את האתגרים הכלכליים והמערכתיים של דור ה-AI הבא: מודלי שפה גדולים, סוכנים אוטונומיים וארכיטקטורות חישוב מתקדמות, ובעיקר השאלה כיצד מנהלים סיכונים כשהאלגוריתמים מתחילים לקבל החלטות בפועל – כל אלו לצד משמעויות של אחריות ויעילות.
בין הדוברים בכנס, נשיא HIT פרופ' אדוארד יעקובוב אשר הדגיש את החשיבות של שיתוף פעולה הדוק יותר עם התעשייה והתייחס לסכנות האימוץ המואץ של טכנולוגיות AI ללא מסגרת רגולטורית ברורה. "אפשר לעשות זאת רק תוך שילוב כוחות בין האקדמיה לתעשייה", אמר.
הכנס נולד ביוזמת ד"ר נאווה שקד ראש בית הספר ללימודים רב תחומיים ב-HIT ואבנר אלגום מייסד ומנהל קהילת AI אקדמיה-תעשייה. מטעם השתתפו ד"ר רפאל ברכאן סגן נשיא לחדשנות, יזמות ובינלאומיות, ד"ר קובי ברדה מבית הספר ללימודים רב תחומיים. הוזמנו שני אורחי כבוד מחו"ל: ד"ר שרה בסון ראש תחום נגישות, מוגבלות והכלה בגוגל העולמית, ופרופ' קונסטנטינוס פטרידיס, סגן רקטור לבינלאומיות באוניברסיטה הים-תיכונית ההלנית בקפריסין.
הכנס שכל מטרתו הייתה דיון ושיח פורה בין נציגי האקדמיה והתעשייה סביב סוגיות אתיות רגולטוריות ואחריותיות כלל גם בכירים מאינטל, רפאל, Bright Data, ,Dellרשות הדיגיטל הלאומי ובכירים נוספים מארגונים מובילים בתעשייה אשר דנו בתובנות, פשרות ופתרונות התומכים בבינה מלאכותית אחראית.
ד"ר שרה בסון, אחראית על תחום נגישות והכלה במדינות מתפתחות בGoogle העולמית, ציינה כי בינה מלאכותית אינה מבטלת הטיות אנושיות. לדבריה, "בני אדם בונים את האלגוריתמים, אוספים את הנתונים ומחליטים מה לעשות עם התוצאות". היא הצביעה על אלגוריתמים חזותיים שממשיכים להדיר אוכלוסיות שלמות, לעיתים מבלי שהארגונים עצמם מודעים לכך, ואמרה שחלק מהאחריות הארגונית והחברתית של גוגל היא להנגיש את המידע לכלל האוכלוסיות, לרבות במדינות המתפתחות.
אמון במערכות אוטונומיות: הדילמה המבצעית
אלעד שטרית, סמנכ"ל בכיר למחקר ופיתוח ברפאל, תיאר שינוי תפיסתי בהפעלת מערכות לחימה. "אנחנו עוברים מעולם שבו מפעיל מטיס רחפן בעצמו לעולם של סוכנים – המפעיל מדבר והמערכת מפעילה צוות של רחפנים באופן אוטונומי", אמר. לדבריו, ברפאל כבר בוחנים את יכולות ה-AI על חומרים מבצעיים אמיתיים, אך מודים כי הדילמה המרכזית נותרת בעינה: "כמה נוכל לסמוך על המערכת ולתת לה לקבל החלטות לבד".
גם סוגיית התשתיות עלתה לדיון. תומר ששון, סגן נשיא בחטיבת המחשוב האישי של אינטל, קרא לאתגר את התלות בענן והדגיש את חשיבות הEdge- "העתיד של AI יישען יותר ויותר על עיבוד בקצה – במחשבים אישיים, ברובוטיקה ובמערכות רכב". לדבריו, מדובר לא רק בחיסכון בעלויות ובאנרגיה, אלא בתנאי בסיס לאמינות ולשליטה.
פרופ' פטרידס דיבר בהרצאתו על השתלבות הבינה המלאכותית באקדמיה ואמר כי שיתופי פעולה בינלאומיים הם אחת התשובות לאתגרים שמציב עידן ה-AI והדגיש כי יש צורך ברור ברגולציה יחד עם חשיבה יצירתית על מנת למנף את יתרונות הבינה והיעילות הרבה שהיא מביאה איתה לטובת העולם כולו.
בסיום הכנס הסכימו המשתתפים כי ככל שמערכות AI חודרות לתחומי חיים קריטיים יותר – מקבלת החלטות רפואיות ועד גיוס עובדים ואשראי פיננסי – גדל הצורך בעקרונות ברורים להבטחת שקיפות, הוגנות ואחראיות. ארגונים מובילים מבינים כיום שטכנולוגיית AI שאינה מיושמת באופן אחראי עלולה לגרום לנזקים משפטיים, לפגיעה במוניטין ולאובדן אמון הציבור. האקדמיה, מצידה, ממלאת תפקיד חיוני בפיתוח מתודולוגיות להערכת הטיות, ביצירת סטנדרטים אתיים ובהכשרת דור חדש של מפתחי AI המודעים להשלכות החברתיות של עבודתם. השילוב בין מחקר אקדמי לבין יישום מעשי בארגונים הוא המפתח ליצירת מערכות AI שיהיו לא רק יעילות, אלא גם צודקות ובנות אמון.
