כשהמחשב ממציא פסקי דין: לקחי עיריית רמת גן

בית המשפט העליון שלח לאחרונה מסר חד וברור לכל מי שמגיש כתבי טענות: עידן הסבלנות כלפי ״הזיות״ בינה מלאכותית בהליכים משפטיים - תם.

פסק הדין בעניין עיריית רמת גן ‏(עע״מ 63194-08-25)‏ מציב רף חדש של אחריות מקצועית, ומספק לנו מפת דרכים מעשית לעבודה נכונה עם כלי בינה מלאכותית בפרקטיקה המשפטית.

30,000 שקלים. זה הסכום שנפסק שעל עיריית רמת גן לשלם על ״הזיות״ של בינה מלאכותית, ותזכורת כואבת לכך שכשמגישים לבית המשפט ״חוזר מנכ״ל״ שלא נולד מעולם - אי אפשר להאשים את המתמחה ב״טעות קולמוס״.

המקרה התחיל כשאב לילד עם צרכים מיוחדים ביקש מהעירייה הסעה עבור הבן שלו. העירייה דחתה את הבקשה - עם החלטה מנומקת להפליא, מלאה ציטוטים מפורטים מחוזר מנכ״ל. הבעיה? החוזר, לא היה קיים. האב, לא ויתר, ודרש לקבל לידיו את החוזר -- בקשה שלא ניתן היה למלא.

כך הגיע העניין לבית המשפט המחוזי בעתירה שהגיש האב נגד העירייה. אבל גם שם - העירייה לא עצרה. היא הוסיפה פסקי דין בדויים גם בכתבי הטענות. הצדדים לבסוף הגיעו לפשרה, אולם בית המשפט המחוזי לא נענה לבקשת האב לפסיקת הוצאות. על כך, הגיש האב הנחוש ערעור לעליון. אבל העירייה בשלה - פעם אחר פעם, גם אחרי שנחשפה, גם אחרי שבית המשפט העליון עצמו ביקש תשובה ספציפית בנושא - המשיכה להגיש פסקי דין בדויים.

בית המשפט קבע: כי העת לנקוט בסבלנות ובהבנה כלפי כתבי בי-דין שגויים, הנובעים משימוש בלתי מבוקר בבינה מלאכותית במסגרת הליכי משפט -- חלפה עברה. כשניסתה להאשים את המתמחים, בית המשפט קבע שמוטב שלא היתה מעלה טענה זו כלל.

החידוש המשמעותי ביותר בפסק הדין הוא בהכרה שרשות מינהלית המוסרת לאזרח החלטה המבוססת על ״הזיות״ בינה מלאכותית מפרה את חובת ההנמקה, פועלת בשרירות, ועלולה אף לבצע אצילת סמכות אסורה. האזרח הממוצע שמקבל החלטה מנומקת ומלאת ציטוטים - אין לו כלים לדעת שהכל בדוי, ובית המשפט ראה בכך חומרה יתרה על פני שימוש פסול בהליך משפטי.

חשוב להבין שהזיות הן לא ״באג״ שייעלם מחר בבוקר, אלא חלק מובנה מהאופן שבו מודלי שפה פועלים כיום. בעולם הפסיקה והחקיקה - כל אות ופסיק טעונים אימות במקור.

עקרון ה-Human in the Loop כדרך למנוע תוצאות דומות תפס מקום מרכזי בפסק הדין: עקרון זה יכול לבוא לביטוי, ״הן בשלב קבלת ההחלטה, הן בשלבים מוקדמים יותר של עיצוב האלגוריתם ואימון המערכת״. אין פסול בשימוש בבינה מלאכותית במסגרת קבלת החלטה אך יש ״לקיים בקרה, לבחון ולוודא. הדברים יפים הן באשר להפעלת שיקול הדעת לגופו, הן לגבי ההנמקה שבבסיס ההחלטה..״. בית המשפט הדגיש: פיקוח פורמלי בלבד אינו מספיק - נדרשת מעורבות אנושית אמיתית, הכוללת יכולת לזהות טעויות ונכונות לדחות את המלצות המערכת.

בית המשפט אף הזכיר במפורש את האפשרות להטיל הוצאות אישיות על עורך הדין עצמו - והפעם בחר שלא להפעיל אותה. הפעם. המסר ברור: מי שימשיך בהתנהלות הזו - לא בטוח שיזכה לאותה נדיבות.

איזכור פסק הדין: עע״מ 63194-08-25

המשפט הישראלי מתפתח בקצב מהיר בכל הנוגע לאחריות על שימוש בכלי בינה מלאכותית. עבור עורכי דין ומשרדים - זה לא רק שאלה של מניעת טעויות. זו שאלה של מודל עבודה, של תרבות ארגונית, ושל הגדרת מיהו האחראי הסופי על כל מסמך יוצא.

הבינה המלאכותית היא כלי רב עוצמה, אבל שיקול הדעת והאחריות  - נשארים אצלנו