האם זה מבין

מה ששני הצדדים מסכימים עליו הוא ארוך יותר ממה שנראה. איש אינו חולק על המנגנון: ניחוש של האסימון הבא, שוב ושוב. איש אינו חולק על הביצועים: המערכות האלה מנסחות טקסט קולח, מתרגמות, מסכמות, ועוברות מבחנים שנכתבו לבני אדם. ואיש מהצדדים הרציניים אינו טוען שיש שם חוויה מודעת. הוויכוח כולו הוא על השאלה מה ״הבנה״ בכלל אומרת, והאם היא דבר שאפשר למדוד מבחוץ.

טיורינג ראה את זה כבר ב־1950 וניסה לעקוף. הוא כתב שהשאלה ״האם מכונות יכולות לחשוב״ היא ״חסרת משמעות מכדי שתהיה ראויה לדיון״, והחליף אותה בשאלה תפעולית. שלושים שנה אחר כך, ב־1980, החזיר אותה ג׳ון סרל לשולחן בניסוי מחשבתי אחד. דמיינו אדם סגור בחדר, שאינו יודע מילה סינית. מבעד לחריץ נכנסים דפים עם סימנים סיניים. בחדר יש ספר כללים באנגלית שאומר איזה סימנים להוציא בתגובה לאילו סימנים. האיש מבצע, והתשובות שיוצאות מהחדר טובות כמו של דובר סיני. סרל שואל: האם האיש מבין סינית. לא. ואם לא הוא, למה שמחשב שמריץ בדיוק את אותו תהליך יבין.

ההשגה המרכזית נקראת ״תשובת המערכת״: אמנם האיש לא מבין, אבל המערכת כולה — האיש, הספר, החדר והנייר — כן מבינה. סרל השיב בתנועה שהיא הלב של הטיעון שלו: נניח שהאיש משנן את כל ספר הכללים ואת כל הנתונים ומבצע הכול בראשו, בלי חדר ובלי נייר. עכשיו הוא הוא המערכת כולה, והוא עדיין לא יודע מה המילה הסינית ללחמנייה. כתב העת שפרסם את המאמר פרסם לצידו עשרים ושבע תגובות של חוקרים, וסרל השיב לכולן. הוויכוח הזה לא הסתיים מאז.

קדם לסרל מבקר אחר, יוברט דרייפוס, שכתב ב־1965 חיבור בשם ״אלכימיה ובינה מלאכותית״ ואחריו ספר בשם ״מה מחשבים אינם יכולים לעשות״. הוא טען שהתחום נשען על הנחות שלא הוכחו — למשל שכל ידע ניתן לפורמליזציה, ושהעולם מורכב מעובדות עצמאיות שאפשר לייצג בסמלים נפרדים. דרייפוס גם הפסיד בשחמט למחשב בערך ב־1967 אחרי שטען שמחשבים לא ישחקו שחמט ברמה סבירה, והתחום לא שכח לו את זה. אבל בדיעבד התחום כן קיבל את הטענה המרכזית שלו: חשיבה אנושית אינה נשענת בעיקרה על מניפולציה של סמלים לפי כללים מפורשים. ההצלחות של העשורים האחרונים באו דווקא מוויתור על הגישה שדרייפוס תקף.

וכעת שני הצדדים בגרסתם העכשווית ובמילים שלהם.

הצד שאומר שזו צורה בלבד מנסח את הטענה כך: משמעות היא היחס בין ביטוי לבין משהו מחוץ לשפה, ומערכת שראתה רק טקסט לא נחשפה מעולם לצד השני של היחס הזה. במאמר מ־2020 מובא ניסוי מחשבתי משלים: תמנון חכם מצותת לכבל תקשורת תת־ימי בין שני אנשים, לומד היטב את דפוסי האותיות, ומצליח להשתלב בשיחה בלי שיבחינו בו. ואז אחד המשתתפים נתקף דוב ומבקש עצה איך לבנות מלכודת. לתמנון אין שום דרך לעזור, לא מפני שהוא טיפש אלא מפני שמעולם לא ראה דוב, ענף או חבל. ״מערכת שאומנה על צורה בלבד אין לה מראש שום דרך ללמוד משמעות״. ב־2021 ניסחה אותה קבוצה את הכינוי שנדבק: מודל שפה הוא ״מערכת לתפירה מקרית של רצפי צורות לשוניות שראתה בחומר האימון שלה, לפי מידע הסתברותי על איך הן מצטרפות, בלי שום התייחסות למשמעות״.

הצד שאומר שנבנה שם ייצוג של עולם משיב שהטיעון הזה מניח את המבוקש. אם משמעות מוגדרת מראש כהצבעה על עצמים בעולם, אז כמובן שמערכת טקסטואלית נופלת — אבל ההגדרה הזאת אינה מוסכמת. בעמדה חלופית, שנקראת סמנטיקה של תפקיד מושגי, משמעות נקבעת ביחסים בין המצבים הפנימיים של מערכת, ואז השאלה נחתכת אמפירית ולא מראש. ולצד זה מובאות הראיות: מערכת שאומנה אך ורק על רצפי מהלכים חוקיים במשחק לוח פיתחה בתוכה ייצוג של מצב הלוח, שאפשר לקרוא ואפשר לשנות בכוח ולראות את הפלט משתנה בהתאם. במודלי שפה נמצאו ייצוגים ליניאריים של מיקום גיאוגרפי ושל זמן היסטורי. ב־2023 פורסמה תשובה ישירה לניסוי התמנון, שטוענת שהיעדר מודעות אינו רלוונטי, שאפשר לעגן ייצוגים גם מטקסט גולמי מפני שהטקסט נושא מבנה של העולם שכתב אותו, ושילדים לומדים שפה גם מטלוויזיה בלי אינטראקציה.

ואזהרה אחת ששייכת לשני הצדדים. בשנת 2022 נטען שיכולות מסוימות ״צצות״ — אינן קיימות במודלים קטנים ומופיעות בגדולים, בקפיצה ולא בהדרגה. ב־2023 פורסמה בדיקה שהראתה שהקפיצה נובעת ברוב המקרים ממדד לא רציף: כשמודדים תשובה כנכונה או שגויה בלבד, שיפור הדרגתי נראה כמו קפיצה, וכשמודדים בסולם רציף מתקבל עקום חלק. הניסוח שלהם: היכולות הצצות כביכול ״מתאדות עם מדדים אחרים או עם סטטיסטיקה טובה יותר״. זו דוגמה טובה לכמה מהוויכוח הזה מוכרע במכשיר המדידה ולא בעולם.