על ידי החלפת חלקים מהצמתים הקונבנציונליים ברשת עצבית (NN) ב-NNs זעירים, צוות מחקר מ-KAUST ומעבדת הבינה המלאכותית השוויצרית IDSIA המציאו מודל כללי של בינה מלאכותית (AI) המשפר את עצמו.
מחקר הוכחת הרעיון יכול לאפשר דור חדש של AI שיכול “ללמוד ללמוד” ללא תכנות אנושי.
המודלים הפופולריים ביותר של AI כיום הם רשתות עצביות מלאכותיות (NN) – רשתות מחוברות של צמתים ניתנים לתכנות בעלות חיבורים משוקללים המותאמים בהדרגה בתגובה לנתוני אימון מסומנים.
התוכנית המשמשת לשינוי המשקולות נקראת אלגוריתם למידה (LA), אשר מוגדר מראש על ידי המפתח האנושי.
ה-LA הפופולרי ביותר הוא התפשטות לאחור, שבאמצעותה ה-NN “לומד” על ידי התאמת המשקולות כדי לתת את התשובות הנכונות לקלט אימון. עם זאת, LA נוכחיים כמו התפשטות לאחור מוגבלים למה שניתן להמציא על ידי בני אדם ועשויים להיות לא אופטימליים.
“מאז שנות ה-70, המטרה העיקרית שלי הייתה לבנות בינה מלאכותית המשתפרת את עצמה שלומדת להיות הרבה יותר חכמה ממני”, אמר יורגן שמידהובר, אשר מכונה אבי הבינה המלאכותית המודרנית והוא מנהל הבינה המלאכותית של KAUST יוזמה.
“בעבודה זו, יצרנו שיטה ש’מטה לומדת’ לוס אנג’לס למטרות כלליות שמתחילות להתחרות ב-LA הישנה שתוכננה על ידי ההפצה האחורית.”
דוקטורט. הסטודנט לואיס קירש ושמידהובר החליפו את משקלי הצמתים ב-NNs קטנים שמשימה לגלות אלגוריתמים טובים לשינוי משקל בעצמם – שינוי פשוט ואלגנטי עם השלכות עצומות.
“בשיטה המוצעת שלנו, הנקראת Variable Shared Meta Learning או VSML, משקלי ה-NN אינם מעודכנים ישירות על ידי LA שהומצא על ידי אדם כדי לשפר את הסיווג; במקום זאת, ה-NN ‘מלמד את עצמו’ להשתפר.
“זה כבר לא משתמש בהפצה לאחור, אלא מגלה דרכים חדשות ללמידה השונות ממה שבני אדם המציאו”, אמר שמידהובר.
שיטות למידה קודמות של מטה הוגבלו לרוב לתחומים צרים של בעיות דומות. חשוב לציין, VSML מאפשרת גילוי של אלגוריתמים חדשים של למידה כללית שיכולים ללמוד לפתור בעיות בשיעורי בעיה ש-AI לא נתקל בהם בעבר.
קירש ושמידהובר דיווחו על מגוון ניסויים המשתמשים ב- VSML, המדגימים את מהירות הלמידה שלו, יכולת ההסתגלות שלו וגילוי של שיפור ספציפי לבעיה של התפשטות לאחור.
“אלגוריתמי למידת המכונה הנפוצים ביותר הומצאו וחווו על ידי בני אדם”, אמר שמידהובר. “האם נוכל גם לבנות אלגוריתמים של למידה מטה שלומדים LA טובות יותר כדי לבנות AI באמת משתפר בעצמו ללא כל מגבלה מלבד מגבלות החישוב והפיסיקה?”
עבודתו של שמידהובר היא צעד בכיוון הזה.
