מה זה כן ומה זה לא · יחידה 12 מתוך 20
האם אפשר להגיע מכאן לאינטליגנציה כללית
1956 · שבעים שנה של הבטחות מתוארכות ושתי עמדות שחיות היטב עם אותן עובדות
ב־31 באוגוסט 1955 הוגשה הצעת מחקר לקרן רוקפלר. ארבעה חתומים — ג׳ון מקארתי מדרטמות׳, מרווין מינסקי מהרווארד, נתניאל רוצ׳סטר מיבמ וקלוד שאנון ממעבדות בל — ביקשו מימון ל״מחקר בן חודשיים ועשרה אנשים בבינה מלאכותית״ בקיץ 1956. הסכום המבוקש היה 13,500 דולר. המשפט שפותח את ההצעה הוא ההנחה שכל התחום עומד עליה עד היום: ״כל היבט של למידה או כל תכונה אחרת של אינטליגנציה ניתנים באופן עקרוני לתיאור מדויק כל כך עד שאפשר לבנות מכונה שתדמה אותם״.
מה שקרה אחר כך מתועד. ב־1966 קבעה ועדה של המועצה הלאומית למחקר בארצות הברית שתרגום מכונה ״יקר יותר, מדויק פחות ואיטי יותר מתרגום אנושי״; אחרי הוצאה של כעשרים מיליון דולר, המימון הופסק. ב־1973 פרסם סר ג׳יימס לייטהיל דוח לממשלת בריטניה שטען שהתחום לא עמד ביעדים שהציב, והצביע על הפיצוץ הקומבינטורי — העובדה שאלגוריתמים שעובדים יפה בגרסה מוקטנת של בעיה קורסים בגרסה האמיתית שלה. באותה שנה התקיים עימות משודר בנושא ״הרובוט הרב־תכליתי הוא מיראז׳״. מחקר הבינה המלאכותית בבריטניה פורק כמעט כולו. לתקופה הזאת קוראים ״חורף״, והיה עוד אחד אחריה.
זה הרקע. עכשיו שני הצדדים, וחשוב לומר מראש שהם אינם חלוקים על העובדות אלא על המשמעות שלהן.
הצד שאומר שעוד מאותו דבר יספיק נשען על ממצא אמפירי ועל לקח היסטורי. הממצא: בעבודה מ־2020 נמצא שאיכות מודל שפה משתפרת לפי חוקי חזקה חלקים מול גודל המודל, כמות הנתונים ועוצמת החישוב, על פני יותר משבעה סדרי גודל. לא קפיצות ולא מקריות — קשר יציב שאפשר להמשיך אותו. הלקח ההיסטורי נוסח ב־2019 במאמר קצר בשם ״הלקח המר״, שטען שבכל פעם ששיטה כללית שמנצלת חישוב התמודדה מול שיטה שבנויה על ידע אנושי מקודד, הראשונה ניצחה — בשחמט, בגו, בזיהוי דיבור מאז תחרות משנות השבעים, ובראייה ממוחשבת. הניסוח: ״שיטות כלליות שמנצלות חישוב הן בסופו של דבר היעילות ביותר, ובפער גדול״. המסקנה: כל ניסיון לבנות ״מבנה״ מראש הוא בדיוק הטעות שחוזרת.
הצד שאומר שחסר משהו מבני מצביע על סוג מסוים של כישלון שלא נעלם עם הגודל. ב־2018 פורסם מאמר שמנה עשר בעיות, ביניהן שלמידה עמוקה ״רעבה לנתונים״, ש״היא רדודה ובעלת יכולת העברה מוגבלת״, שאין לה ״דרך טבעית להתמודד עם מבנה היררכי״, ושהיא ״אינה מסוגלת מטבעה להבחין בין סיבתיות למתאם״. באותה שנה פורסם ניסוי מדויק על הנקודה הזאת: רשתות אומנו על פקודות ניווט פשוטות והתבקשו להרכיב מהן צירופים חדשים. כשההבדל בין האימון למבחן היה קטן הן הצליחו, וכששיטתיות אמיתית נדרשה הן ״נכשלו באופן מרהיב״. הטענה אינה שהמערכות חלשות אלא שהן מכלילות אחרת מבני אדם, ושהפער הזה אינו סוגיה של כמות.
ההצעה הבונה ביותר מהצד הזה פורסמה בנובמבר 2019. היא מגדירה אינטליגנציה לא כמיומנות אלא כיעילות ברכישת מיומנות — כמה מהר מערכת לומדת משהו חדש, ביחס למה שכבר היה לה. הנקודה: ״ידע מוקדם בלתי מוגבל או נתוני אימון בלתי מוגבלים מאפשרים לנסיין ׳לקנות׳ רמות מיומנות שרירותיות״, כלומר ציון גבוה אינו מעיד על דבר אם לא יודעים כמה השקיעו כדי לקנות אותו. לצד ההגדרה נבנה מבחן של חידות ויזואליות קצרות שכל אחת מהן דורשת להסיק כלל מדוגמאות בודדות. ב־2024 נבדקו עליו 1,729 בני אדם על כל שמונה מאות החידות: הממוצע האנושי היה 76.2 אחוזים בחלק האחד ו־64.2 בחלק הקשה יותר, ו־790 מתוך 800 החידות נפתרו בידי לפחות אדם אחד בתוך שלושה ניסיונות. כלומר אלה חידות שבני אדם ממוצעים פותרים.
ועוד עובדה שמעניינת את שני הצדדים: העבודה שמנסה לאמוד מתי ייגמר הטקסט. בגרסה מעודכנת מ־2024 נאמדה כמות הטקסט האנושי הציבורי הזמין, והמסקנה הייתה שמודלים יאומנו על כמות בסדר גודל הזה בין 2026 ל־2032. שני הצדדים קוראים את זה אחרת. האחד רואה קיר שמתקרב; השני מצביע על נתונים סינתטיים, על העברה מתחומים עתירי נתונים ועל שיפורי יעילות. זו תחזית, והיא מסומנת כאן ככזו.
ואולי הדבר הכי שימושי לשמור מהיחידה הזאת אינו טיעון אלא הרגל. בכל פעם שמישהו אומר מתי זה יקרה, כדאי לשאול שלוש שאלות: מה בדיוק הוא מבטיח, באיזה תאריך, ועל סמך איזו שיטת אמידה. הוועדה מדרטמות׳ ביקשה חודשיים.
עובדות מפתח
- שנה
- 1956
- חלק
- הוויכוחים החוזרים
- שער
- מה זה כן ומה זה לא
- נושא
- קנה מידה מול מבנה
- הצדדים
- עוד מאותו דבר · חסר משהו מבני
להעמיק
הסילבוס של היחידה. כל קישור נבדק — מה שלא עבד, לא נכנס.
❯לקריאה
- הלקח המרהמאמר הקצר שמנסח את העמדה שקנה מידה מנצח ידע מקודד ומביא את הדוגמאות ההיסטוריות. באנגלית.
- חורפי הבינה המלאכותיתסקירה מתוארכת של שני גלי הקיצוץ כולל דוח לייטהיל והוועדה על תרגום מכונה. באנגלית.
◈מקורות וארכיון
- ההצעה המקורית מ־1955שני עמודים שבהם נולד המונח כולל המשפט הפותח והתקציב המבוקש. באנגלית.
- חוקי הגדילההממצא האמפירי שהצד הזה נשען עליו. באנגלית.
- עשר בעיות בלמידה עמוקההרשימה המפורטת של העמדה שטוענת שחסר משהו מבני. באנגלית.
- על מדידת אינטליגנציהההגדרה של אינטליגנציה כיעילות ברכישת מיומנות והמבחן שנבנה סביבה. באנגלית.
- כמה בני אדם באמת פותרים את החידותהבדיקה על 1,729 נבדקים שמספקת את קו ההשוואה האנושי. באנגלית.
ספרים
ספרים שלמים בנושא. אין קישורי קנייה — חנויות משתנות, ספר לא.
- Artificial Intelligence: A Guide for Thinking HumansMelanie Mitchell · 2019הספר הטוב ביותר על הפער בין מה שהובטח למה שנמסר בכל גל בתחום. לא אותר תרגום עברי.
- ההיסטוריה הקצרה של ה-AIטובי וולש · 2023סוקר את התחנות ואת התחזיות מהפילוסופים היוונים ועד היום. יצא בעברית בהוצאת תכלת.
- The Alignment ProblemBrian Christian · 2020מביא את שני הצדדים בלי להכריע ומסביר למה שניהם קוראים את אותן תוצאות אחרת. לא אותר תרגום עברי.
ההערה שלי
נשמרת בדפדפן הזה תוך כדי הכתיבה, ולא נשלחת לשום מקום.