פתוח מול סגור

מה ששני הצדדים מסכימים עליו: פרסום פומבי של משקלי מודל הוא מעשה בלתי הפיך. אחרי שקובץ כזה יצא לאוויר אי אפשר להחזיר אותו, אי אפשר לעדכן אותו אצל מי שהוריד אותו, ומנגנוני הסינון שנבנו לתוכו ניתנים להסרה בידי מי שיודע מה הוא עושה. מכאן ואילך חלוקים.

ולפני הוויכוח, התקדים. בשנות התשעים הייתה הצפנה חזקה רשומה ברשימת אמצעי הלחימה של ארצות הברית, בקטגוריה אחת עם נשק. ייצוא הצפנה מעבר לארבעים סיביות חייב רישיון, ולכן דפדפנים שווקו בשתי גרסאות — אחת אמריקאית חזקה ואחת בינלאומית חלשה שאפשר היה לשבור בתוך ימים במחשב אחד. ב־1991 פורסמה ברשת תוכנת הצפנה לשימוש אישי, והיא הייתה ״האתגר המשמעותי הראשון ברמת הפרט לפיקוח על ייצוא קריפטוגרפיה״. הממשל הציע פתרון ביניים: שבב שמאפשר הצפנה חזקה אך שומר עותק של המפתח אצל הרשויות. ב־1997 פרסמו אחד עשר קריפטוגרפים בכירים דוח משותף שקבע ש״מערכות שחזור מפתחות הן מטבען פחות מאובטחות, יקרות יותר וקשות יותר לשימוש ממערכות מקבילות בלי יכולת שחזור״.

ואז הגיע בית המשפט. תביעה שהוגשה בפברואר 1995 בשם מתמטיקאי שרצה לפרסם קוד הצפנה שכתב הגיעה ב־1997 לקביעה שתקנות הייצוא אינן חוקתיות, ובמאי 1999 אישר בית המשפט לערעורים את ההחלטה וקבע ש״קוד מקור של תוכנה הוא דיבור המוגן בתיקון הראשון״. בינואר 2000 שינה הממשל את התקנות. התוצאה היא העולם שאנחנו חיים בו: הצפנה חזקה בכל טלפון ובכל אתר. הקטסטרופה שהובטחה לא הגיעה בצורה שבה הובטחה, והקושי שהצפנה יוצרת לגופי אכיפה הוא אמיתי ומתועד. שני המחנות מצטטים את הפרשה הזאת, וכל אחד מהם צודק בחלק שלו.

הצד שתומך בפרסום טוען ארבעה דברים. ראשית, ביקורת: אי אפשר לבדוק מערכת שאי אפשר לפתוח. כל מה שנכתב ביחידה על אחריות — הדירוג בעיריית רוטרדם שהתברר כ״מעט יותר טוב מבחירה אקראית״ — התאפשר רק מפני שמישהו השיג את המודל. שנית, תחרות: בלי משקלים זמינים, מי שרוצה לבנות משהו תלוי בשוער. שלישית, מחקר: כל עבודת הפירוש הפנימי שהוזכרה ביחידה על שכבות וייצוגים נעשית על מודלים שאפשר לפתוח. ורביעית, הלקח מההצפנה: פיקוח על פרסום מתמטיקה נכשל, ובינתיים החליש את האבטחה של כולם.

הצד שתומך בשליטה מקבל את שלושת הראשונים ומתעקש על הרביעי. ההבדל, לטענתו, אינו בעיקרון אלא באסימטריה: קוד הצפנה מגן על מי שמשתמש בו, ואילו מודל שהוסרו ממנו מנגנוני הסינון משמש את מי שמפעיל אותו נגד אחרים. ומעל הכול — אי־ההפיכות. אפשר לתקן חוק, אפשר לסגור שירות, אי אפשר לבטל הורדה. ולכן, לטענתו, ההחלטה צריכה להתקבל לפי היכולת הגרועה ביותר שהמודל עשוי לגלם, ולא לפי מה שנמדד בו ביום הפרסום.

המסגרת שהכי עוזרת להתקדם בוויכוח הזה הוצעה ב־2024 ונקראת ״סיכון שולי״: לא לשאול כמה מסוכן מודל פתוח, אלא כמה סיכון הוא מוסיף מעבר למה שכבר קיים — מנועי חיפוש, ספרות מקצועית, מודלים סגורים, ומומחיות אנושית. המסגרת הזאת מסבירה גם למה שני המחנות הגיעו למסקנות הפוכות: הם מדדו דברים שונים. גוף ממשלתי אמריקאי אימץ אותה ביולי 2024 בדוח על מודלים עם משקלים זמינים, והמלצתו הייתה לא להגביל אלא לנטר: ״הראיות הקיימות אינן מספיקות כדי לקבוע באופן חד־משמעי לא שהגבלות על מודלים כאלה מוצדקות ולא שהגבלות לעולם לא יהיו מתאימות בעתיד״. שלושה שלבים: לאסוף ראיות, להעריך אותן, ולפעול לפיהן.

ונותרה שאלה שקודמת לשתיהן: מה בכלל נחשב פתוח. באוקטובר 2024 פורסמה הגדרה רשמית שדורשת ארבע חירויות — להשתמש, לחקור, לשנות ולשתף — ושלושה רכיבים בפועל: מידע על הנתונים ״מפורט דיו כדי שאדם מיומן יוכל לבנות מערכת שוות ערך במהותה״, קוד מקור מלא לאימון ולהרצה, והמשקלים עצמם. כמעט שום מודל שמכונה היום פתוח אינו עומד בזה; מה שמשוחרר הם המשקלים בלבד, והנתונים והקוד נשארים סגורים. עבודה מ־2023 ניסחה את זה חריף יותר: גם המערכות ה״פתוחות״ ביותר ״אינן מבטיחות גישה דמוקרטית או תחרות משמעותית, ופתיחוּת לבדה אינה פותרת את בעיית הפיקוח והביקורת״, ולעיתים המילה מתפקדת ״יותר כשיווק מאשר כתיאור טכני״.