למה זה ממציא

ב־22 ביוני 2023 נתן שופט בבית המשפט הפדרלי במנהטן החלטה בתיק תעופה שגרתי. עורכי הדין של התובע הגישו כתב טענות ובו הפניות לשישה פסקי דין קודמים. אף אחד מהם לא היה קיים. השמות, המספרים, הציטוטים והשופטים — הכול נכתב במכונה. כשבית המשפט ביקש עותקים, הוגשו עותקים; גם הם נוצרו במכונה. השופט הטיל קנס של חמשת אלפים דולר, וכתב שני משפטים שכדאי לקרוא יחד. הראשון: ״התקדמויות טכנולוגיות הן דבר שבשגרה ואין שום דבר פסול מיסודו בשימוש בכלי בינה מלאכותית אמין לשם סיוע״. והשני: ״כשהתבקש לספק פסיקה, להראות הלכות מסוימות, להראות עוד תיקים ולתת כמה תיקים — הצ׳אטבוט נענה בכך שהמציא אותם״.

הדבר הזה אינו נדיר. אדם אחד מתחזק מסד נתונים של החלטות שיפוטיות שבהן בית משפט קבע במפורש שצד הסתמך על תוכן בדוי שנוצר במכונה. נכון ל־21 בספטמבר 2026 רשומים בו 2,046 מקרים ביותר מארבעים ושמונה תחומי שיפוט — 1,397 בארצות הברית, 218 בקנדה, 112 באוסטרליה, ו־57 בישראל. המספרים האלה ממשיכים לעלות, ולכן הם מתוארכים כאן; מה שלא ישתנה הוא הסדר גודל והעובדה שזה קורה בכל מקום.

מחוץ לבתי המשפט נמדד אותו דבר במחקר. בבדיקה שפורסמה בספטמבר 2023 נבחנו 636 הפניות ביבליוגרפיות שנוצרו במכונה על פני שמונים וארבעה נושאים. בגרסה אחת של המערכת חמישים וחמישה אחוזים מההפניות היו בדויות לחלוטין, ומבין אלה שהיו אמיתיות, ארבעים ושלושה אחוזים הכילו שגיאות מהותיות. בגרסה מאוחרת יותר המספרים ירדו לשמונה עשר ולעשרים וארבעה אחוזים. שיפור אמיתי, ורחוק מאוד מאפס.

ולמה זה קורה. חזרו ליחידה השישית: מטרת האימון היא לייצר המשך סביר. אין במערכת מדף נפרד שבו כתוב ״אלה הדברים שאני יודע״ ומדף שני שבו ״אלה שאני לא״. יש התפלגות הסתברויות על מילים, וממנה יוצאת מילה. כשהחומר מכיל את התשובה הנכונה, ההמשך הסביר הוא גם הנכון. כשלא — ההמשך הסביר הוא עדיין סביר. הפניה לפסק דין נראית כמו שם, מול שם, שנה, וכרך. זה דפוס קל מאוד לייצר, והוא ייראה נכון לחלוטין למי שלא בדק. זו לא תקלה במנגנון. זה המנגנון.

ב־2025 הוסיפו לזה טיעון חד יותר, שמסביר למה זה גם לא משתפר מעצמו. המערכות האלה נמדדות במבחנים, ורוב המבחנים נותנים נקודה על תשובה נכונה ואפס על תשובה שגויה ואפס גם על ״אני לא יודע״. בתנאים כאלה, לנחש עדיף תמיד. הניסוח של המחברים: ״מודלי שפה עוברים אופטימיזציה להיות נבחנים טובים, וניחוש כשלא בטוחים משפר את הציון״. כלומר חלק ממה שנקרא הזיה הוא פשוט התנהגות של נבחן רציונלי במבחן שבנוי לא נכון. ההצעה שלהם אינה מודל חדש אלא לשנות את שיטת הניקוד.

יש גם צד אופטימי, וכדאי להיות מדויקים בו. מחקר מ־2022 מצא שמודלים גדולים מכוילים היטב — כלומר כשהם נותנים לתשובה שלהם הסתברות של שבעים אחוז, היא נכונה בערך בשבעים אחוז מהמקרים — אבל זה נכון ״כשהשאלות מוצגות בפורמט הנכון״, בעיקר שאלות רב־ברירה ושאלות נכון או לא נכון. בטקסט חופשי זה מחזיק פחות טוב. ב־2024 פורסם ב״ניצ׳ר״ כלי שמזהה חלק מהבדיות בדרך אלגנטית: שואלים את אותה שאלה כמה פעמים ובודקים אם התשובות שונות במשמעות ולא רק בניסוח. כשהמודל יודע, הוא אומר את אותו דבר במילים אחרות; כשהוא בודה, הוא בודה כל פעם משהו אחר. המדד נקרא אנטרופיה סמנטית, והוא מודד אי־ודאות ״ברמת המשמעות ולא ברמת רצף מילים מסוים״.

והפתרון שנחשב למובן מאליו — לחבר את המודל למאגר מסמכים אמיתי ולתת לו לצטט מתוכו — עוזר ולא פותר. בבדיקה מ־2024 של כלי מחקר משפטי מסחריים שבנויים בדיוק כך נמצאו שיעורי בדיה שנעו בין שבעה עשר לשלושים ושלושה אחוזים, והמסקנה על הבטחות השיווק הייתה שהן ״מוגזמות״. כשיש מקור, המערכת עדיין צריכה לנסח ממנו תשובה, ובניסוח היא יכולה לסטות.

הערה על המילה. ״הזיה״ היא מטפורה קלינית שמייחסת למערכת חוויה תפיסתית, ויש הצעה להשתמש במקומה ב״בדיה״ — במובן של אדם שממלא בביטחון פער בזיכרון בלי לשקר. ההבחנה שימושית גם מעשית: יש שגיאות שיטתיות, שנובעות מכך שבחומר האימון כתוב דבר שגוי ולכן הן חוזרות באותה צורה, ויש בדיות, שנובעות מכך שבחומר אין תשובה כלל ולכן הן משתנות בכל פעם. השנייה היא שניתנת לאיתור בשיטה שלמעלה. הראשונה לא.