בית המשפט העליון מזהיר מפני תופעה מדאיגה שהולכת ומתפשטת: עורכי דין המגישים כתבי טענות המבוססים על פסיקה מומצאת שנוצרה על ידי מערכות בינה מלאכותית. בפסק דין תקדימי, חושפת השופטת גילה כנפי שטייניץ את הסכנות הטמונות בשימוש הבלתי מבוקר בטכנולוגיה החדשה.

המקרה שחשף את התופעה התרחש כאשר עורכת דין מהסיוע המשפטי הגישה עתירה המבוססת על 36 פסקי דין שלכאורה ניתנו על ידי בית המשפט העליון. בדיקה העלתה תמונה מטרידה: חמישה מפסקי הדין לא היו קיימים כלל, 14 הפניות כללו טעויות בסיסיות, ו-24 ציטוטים היו פרי דמיון.

"הזיות הבינה המלאכותית", כך מכנה השופטת את התופעה שבה המערכת 'הוזה' ובודה תוכן ויוצרת מידע כוזב. התופעה הזאת מציבה אתגרים משמעותיים למערכת המשפט. "מעיון בטקסט עצמו – קשה לדעת האם אכן מדובר בתוכן פיקטיבי, ואף מומחים בתחומם עשויים להתקשות בזיהויו", היא מתריעה.

הסכנות, מתברר, חורגות הרבה מעבר להמצאת פסקי דין. השופטת מצביעה על סיכון משמעותי לפרטיות הלקוחות: "הזנת נתוני לקוח אל מערכת בינה מלאכותית – ואפילו תוך השמטת פרטים מזהים – עלולה להוביל לזליגת מידע אישי ולפגיעה בפרטיותו של הלקוח, באופן העשוי לעלות כדי הפרת חובת הסודיות".

אתגר נוסף נוגע לקבילות ראיות שנוצרו על ידי בינה מלאכותית. "בתי משפט ברחבי העולם כבר נדרשים להתמודד עם כמות גוברת של ראיות שמתברר שנוצרו באמצעות טכנולוגיות אלה", מציינת השופטת, ומזהירה מפני טכנולוגיית ה'דיפ-פייק' המאפשרת יצירת "קבצי שמע, תמונות או סרטונים הנחזים כאמיתיים, של אירועים שלא היו ולא נבראו".

למרות החששות המשמעותיים, השופטת מדגישה כי אין לפסול את השימוש בבינה מלאכותית. "אל לנו לשפוך את התינוק עם המים", היא כותבת, ומציינת כי "בכלי הבינה המלאכותית טמון פוטנציאל רב לשיפור מרחיק לכת של המלאכה המשפטית; הגברת הגישה לערכאות והנגשת הדין; העמקת המחקר המשפטי ושיפור כתבי הטענות; ייעול ההליכים וקיצור משך ההתדיינות".

את עמדתה היא מבססת, בין היתר, על דבריו של נשיא בית המשפט העליון של ארצות הברית, ג'ון רוברטס, שהתייחס ל"פוטנציאל הטמון בכלי הבינה המלאכותית לסייע למתדיינים, לעורכי הדין ולשופטים בחיפוש אחר פתרונות צודקים, מהירים וזולים".

עם זאת, השופטת מבהירה כי "שימוש שעושים עורכי דין בכלי בינה מלאכותית, אין משמעו כי הם יכולים להתפרק מאחריותם ומשיקול דעתם המקצועי". היא מזהירה כי במקרים עתידיים של שימוש לרעה בכלים אלה, בתי המשפט עשויים להפעיל סנקציות חמורות, כולל סילוק על הסף של ההליך והטלת הוצאות אישיות על עורכי הדין. בנוגע למקרה הזה היא מדגישה: "משמדובר במקרה ראשון מסוגו שהובא לפתחו של בית משפט זה, והרבה לפנים משורת הדין, לא מצאתי לעשות שימוש באיזה מבין כלים אלה".

עוד ב-

ה-AI בדרך להשתלט על המקצוע שלכם? הנתונים המפתיעים נחשפים

לכתבה המלאה

"יש הסבורים כי לא ירחק היום שחובותיו של עורך הדין ישמיעו צורך להיעזר בכלים אלו", מסכמת השופטת, אך מדגישה כי בינתיים, "חובותיהם המקצועיות של עורכי דין דורשות לעשות בטכנולוגיה זו שימוש אחראי, זהיר וביקורתי, להבין לעומקן את יכולותיה ומגבלותיה, ולהתעדכן מעת לעת בכל הנוגע לחולשותיה וחוזקותיה". לדבריה הצטרפו בהסכמה גם השופטים דוד מינץ ויוסף אלרון.