זהירות, בינה מלאכותית לפניך

טעות חמורה של עיריית רמת גן, שהגיעה עד פתחו של בית המשפט העליון, יכולה ללמד משהו את חברי ועד הבית ולשמש כאות אזהרה לעידן ה-AI

רבים מאיתנו כבר גילו את הקסם שבכלי בינה מלאכותית כמוChatGPT . היכולת לנסח מכתב תשובה לדייר סרבן, לנסח תקנון לבית המשותף, או למצוא ציטוט משפטי בלחיצת כפתור, נראית כפתרון מושלם לחיסכון בזמן ובמשאבים.

אולם, פסק דין חדש ומהדהד של בית המשפט העליון עע"מ 63194-08-25 מציב תמרור אזהרה בוהק: שימוש בלתי מבוקר בבינה מלאכותית עלול להוביל לטעויות קשות, להטעיית דיירים ואף לסנקציות כספיות כבדות נגד הוועד או חברת הניהול.

תקציר המקרה

הפרשה החלה כאשר אב לילד בחינוך מיוחד פנה לעיריית רמת גן בבקשה לאשר הסעות לבנו. העירייה דחתה את הבקשה במכתב מנומק היטב, שכלל ציטוטים מפורטים מתוך "חוזר מנכ"ל משרד החינוך" והפניות לפסקי דין תקדימיים של בתי המשפט.

התפנית בעלילה

כאשר עורך הדין של האב בדק את האסמכתאות, התברר דבר מדהים – חוזר המנכ"ל לא קיים, ופסקי הדין מעולם לא ניתנו. התברר כי העירייה השתמשה בכלי בינה מלאכותית לניסוח התשובה, והמערכת "הזתה" (Hallucination) חוקים ופסקי דין שאינם קיימים במציאות.

בית המשפט העליון לא עבר על כך בשתיקה. השופטים קבעו כי מדובר בהתנהלות רשלנית, פסקו נגד העירייה הוצאות משפט גבוהות במיוחד (30,000 ש"ח) ומתחו ביקורת חריפה על השימוש בטכנולוגיה ללא פיקוח אנושי.

עיקרי הקביעות של בית המשפט העליון

1. הסכנה של "הזיות "– מערכות AI נוטות לעיתים להמציא עובדות, חוקים ונתונים שנראים אמינים מאוד אך הם שקריים לחלוטין.
2. חובת אדם בלולאה(Human in the loop)  – אסור להסתמך על פלט של מכונה כמו שהוא. חלה חובה על גורם אנושי לבדוק, לאמת ולאשר כל מסמך שיוצא תחת ידו.
3. האחריות היא על החותם – בית המשפט הבהיר כי לא ניתן להאשים את ה- AIבטעות. האחריות המשפטית המלאה מוטלת על האדם או הגוף שחתום על המסמך (עורך הדין, חברת הניהול או ועד הבית).
4. פערי כוחות – כאשר גוף בעל כוח (כמו ועד בית או חברת ניהול) פונה לאזרח/דייר, חובת ההגינות שלו מוגברת. שימוש במידע שגוי כדי להצדיק החלטה נחשב לפעולה שרירותית ופסולה.

מסקנות והמלצות מעשיות לוועדי בתים וחברות ניהול

כדי להימנע מתביעות משפטיות, פגיעה במוניטין ומהוצאות מיותרות, מומלץ לאמץ את כמה כללים:

• אימות נתונים (Fact-Checking) – השתמשתם בבינה מלאכותית כדי לנסח מכתב לדייר המצטט את חוק המקרקעין או את התקנון המצוי? אל תשלחו לפני שבדקתם כל סעיף וסעיף במקור המוסמך. אל תניחו שהמערכת דייקה.
• שקיפות מול הדיירים – אם החלטה מסוימת התקבלה על בסיס ניתוח נתונים של מערכת AI ראוי לציין זאת. שקיפות מפחיתה את הסיכון לטענות על הטעיה.
• ניסוח בלבד, לא החלטה–  מומלץ להשתמש בבינה מלאכותית ככלי עזר לניסוח (שיפור שפה, סידור מבני וכד') אך לא ככלי לקבלת החלטות משפטיות או כספיות.
• הגדרת נהלים בחברת הניהול – חברות ניהול צריכות לקבוע נוהל פנימי האוסר על עובדים לשלוח מכתבים המבוססים על AI ללא בקרה של מנהל או יועץ משפטי.
• הסתמכות על אנשי מקצוע – זכרו, ChatGPT הוא לא עורך דין ולא רואה חשבון. בנושאים קריטיים – כמו תביעות כספיות או סכסוכי שכנים מורכבים – אין תחליף לייעוץ מקצועי אנושי.

שימוש בלתי מבוקר בבינה מלאכותית עלול להוביל לטעויות קשות, להטעיית דיירים ואף לסנקציות כספיות כבדות נגד הוועד או חברת הניהול

לסיכום: הבינה המלאכותית היא כלי רב עוצמה שיכול לשדרג את עבודת הוועד, אך כפי שלמדנו מבית המשפט העליון – היא חייבת להישאר תחת פיקוח צמוד. מי שסומך על המכונה בעיניים עצומות, עלול למצוא את עצמו משלם בבית המשפט.