לקראת מהפכת הרגולציה בתחום הבינה המלאכותית (AI)

תחום הבינה המלאכותית (AI) תפס בחודשים האחרונים תשומת לב רבה, בעיקר עקב הנגשתו לציבור הרחב באמצעות שחרור ממשקי Generative AI כגון ChatGPT, DALLE2 , Midjourney ועוד. 

אולם, העניין הציבורי הרב בנישה טכנולוגית ספציפית זו מסתיר במידה מסוימת את מהפיכת הרגולציה בתחום של בינה מלאכותית המתרגשת ובאה, במסגרתה ניכר מאמץ של יותר ויותר מדינות לעבור מעקרונות אתיים "רכים" יחסית ליצירת חקיקה ורגולציה מחייבת בהתייחס לפיתוח, הטמעה, הפצה ושימוש של מערכות בינה מלאכותית בתחומן.

כך, בד בבד עם עליית היכולות הטכנולוגיות בתחום זה והאפשרויות הגלומות בו לשימוש האנושות, משתרשת ההבנה בדבר פוטנציאל הפגיעה של אותן "קופסאות שחורות" בזכויות יסוד, ולכן רגולטורים עוברים מדיבור על עקרונות אתיים לעשייה בדמות הסדרה מחייבת ורגולציה נוקשה.

נדמה כי החודשים הקרובים צפויים להביא עימם מבול של חקיקה בתחום ה-AI.

באופן שאולי אינו מפתיע, האיחוד האירופי התייצב בראש החנית להסדרה רוחבית של תחום הבינה המלאכותית בתחומי האיחוד. טיוטת חוק הנקראת (AI ACT) AIA נמצאת בתהליכים מתקדמים לפני הגשתה לפרלמנט האירופי לאישור סופי. בטיוטת חוק זו מאמץ האיחוד האירופי גישה של ניהול סיכונים, תוך חלוקת הדומיינים השונים בהם ניתן לעשות שימוש בבינה מלאכותית לפי רמות הסיכון שהם עלולים להציב לזכויות אדם. הדרישות החוקיות חלות כמובן באופן שונה על כל שימוש, בהתאם למדרג. ככל שהסיכון גבוה יותר – כך יידרש מגוון רחב יותר של פעולות.

למשל, על תחומים הנכללים ברשימת המוגדרת כ-"סיכון גבוה" (וביניהם שימוש בבינה מלאכותית בחינוך, גיוס מועמדים להעסקה וניהול עובדים, תשתיות קריטיות, שירותים קריטיים (כגון מתן אשראי), הטמעה במערכות המשפט, הגירה, ועוד) יחולו דרישות מיוחדות החורגות מהרגולציה הקיימת באיחוד האירופי על מוצרים ושירותים. דרישות אלו יכללו ככל הנראה הקפדה על שימוש במאגרי דאטה באיכות גבוהה, חובת עריכת תסקירי סיכונים ויצירת תכנית ניהול סיכונים בהתאם, שקיפות מוגברת מול משתמשי המערכות, חיזוק אלמנט הפיקוח והמעורבות האנושית, הגברת אמינות המכונות ואף תיעוד ומתן מענה לרשויות הרגולציה לשם מעקב אחר קיום חובות אלו.

אומנם עסקינן בטיוטת חוק שעוד עשויה להשתנות, אולם היא הושגה לאחר כשנתיים של דיונים מעמיקים ועל כן היא צפויה להיות מוגשת בשבועות הקרובים לאישור סופי בפרלמנט האירופי ובהחלט ייתכן שתאושר עד לסוף השנה הנוכחית.

נוסף להתקדמות הניכרת של האיחוד האירופי, מדינות רבות ברחבי העולם (למשל קולורדו, אילינוי, קנדה ואפילו העיר ניו יורק) כבר פרסמו טיוטות חוק שעוסקות בהסדרת תחום הבינה המלאכותית בדומיינים שונים כגון ביטוח, גיוס וניהול עובדים, ועוד.

נציין כי גם בישראל פורסם לאחרונה מסמך מדיניות בנושא של בינה מלאכותית המלמד על גישה של אסדרה רגולטורית ספציפית ומותאמת בתחומים שונים. הסדרת תחום ה-AI המקומית מתפתחת כעת במהירות, ולראייה פרסומים אחרונים כגון טיוטת מסמך עקרונות שפרסם משרד הבריאות, מסמך הרשות להגנת הפרטיות בעניין חובת יידוע וגם חוות דעת של משרד המשפטים בקשר לשימוש בתכנים מוגנים לצורך למידת מכונה כשימוש הוגן בפן של זכויות קניין רוחני.

מהן משמעויות הרגולציה המתהווה?
ראשית, מובן כי אי עמידה בדרישות הרגולציה, לכשתיכנס לתוקף, תגרור סנקציות וקנסות.

עוד יודגש כי דברי חקיקה הרלוונטיים לשווקים משמעותיים, כגון האיחוד האירופי או ארה"ב, עשויים בהחלט להשפיע על יצירת נורמות גלובליות בתחום וליצור אפקט "כדור שלג" לפיו חברות המפתחות, מייצרות מוצרים, עוסקות בהטמעה, מקבלות שירותים הקשורים בבינה מלאכותית וכיוצ"ב, יצטרכו לעמוד בהן, בדומה לתופעה שנצפתה עם כניסתו לתוקף של ה-GDPR בשנת 2018.

אנו סבורים כי עמידה בכללי רגולציה תהפוך לדרישת יסוד בכל הקשור אף להשקעות בחברות המפתחות מוצרים הכוללים בינה מלאכותית, כמו גם בהתקשרויות לקבלת שירותים מאלו.

מאחר ש"הנדסה חוזרת" והוצאה של אלמנטים בעייתיים ממערכות קיימות הינו מהלך מורכב ונושא עימו פוטנציאל לעלויות נכבדות, אנו ממליצים ללקוחותינו להיערך לנושא כבר כעת, בין אם בלמידה ויישום עקרונות שמתבטאים במיוחד ב-AI ACT מוקדם ככל האפשר, עוד בשלב תכנון ופיתוח מוצרים הכוללים בינה מלאכותית (למשל הדרישה לאמן מערכות על בסיס מידע ב"איכות גבוהה", מעורבות אנושית בתהליך וכו'), ובין אם בבדיקת קיומם של עקרונות אלה כחלק ממו"מ לקבלת שירותים או השקעה בפעילויות מסוג זה.

נשמח להעמיד לשירות לקוחותינו את הידע הקיים אצלנו בנוגע לרגולציה המתגבשת בתחום של בינה מלאכותית, בצירוף עם היכרות משפטית של הרגולציה של האיחוד האירופי בתחום של הגנת הפרטיות המהווה מודל ל-AIA)  AI ACT).

כמו כן, בחודשים הקרובים נקיים כנס שיעסוק במספר היבטים משפטיים בולטים בתחום. לקבלת עדכונים הנכם מוזמנים להירשם בקישור הבא: טופס הרשמה לקבלת עדכונים מקצועיים והזמנות לכנסים.

הכותבים: אייל שגיא, שיר שושני כץ, חופית וסרמן רוזן וצוות מחלקת משפט וטכנולוגיה, משרד עורכי הדין AYR – עמר רייטר ז'אן שוכטוביץ ושות'.

האמור במסמך זה הוא מידע כללי בלבד ואינו מהווה חוות דעת משפטית או ייעוץ משפטי ואין לעשות בו כל שימוש אחר.