מדדים ומחקרים

הצד האפל של ה-AI: תגרום לשינוי או תרחיב את הפערים בחברה?

בינה מלאכותית הזדמנות או מכשול? מאז שנכנסה לחיינו, טכנולוגית ה-AI חוללה מהפכה בתחומים רבים. לצד הקדמה שזו הביאה, בקרב האוכלוסיות המוחלשות בחברה עולה החשש שזו רק תגדיל את הפערים בחברה

ד"ר האמה אבו-קשק וד"ר מייק דהאן | 20/10/2024 12:05

הבינה המלאכותית הפכה לגורם מרכזי שמוביל מהפכה בתחומים רבים, מחינוך ובריאות ועד כלכלה, תעשייה, ביטחון, רווחה וחברה. השימוש בטכנולוגיות AI מייעל תהליכים ומשפר את היכולות של ארגונים ויחידים באופן חסר תקדים בתחומים אלו.

עם זאת, ככל שטכנולוגיות אלו נוכחות יותר בחיי היומיום, מתעוררת חשש שהאוכלוסיות המוחלשות, הסובלות ממילא מפער דיגיטלי, ימצאו עצמן מחוץ למעגל ההתקדמות הטכנולוגית, עם קושי להשתלב במציאות המשתנה במהירות.

ישנם לא מעט חסמים לאימוץ ולהשתלבות שלא זוכים להתייחסות למרות הדיון הציבורי הער אודות הבינה המלאכותית. לכן יש צורך לדון בהצטלבות בין הפער הדיגיטלי לבין בינה מלאכותית. פער ידע אלגוריתמי או פער מודעות אלגוריתמית מתגלה כביטוי חדש של הפער הדיגיטלי.

המושג "פער בינה מלאכותית" מתאר את אי-השוויון הקיים בנוגע לגישה לטכנולוגיות AI (הפער ברמה הראשונה), היכולת להשתמש בהן (הרמה השנייה), והתוצאות של מעורבות בטכנולוגיות AI (הפער ברמה השלישית).

החסם הראשון הוא עצם הגישה הפיזית לטכנולוגיה (כולל טכנולוגית AI). באזורים פריפריאליים או מוחלשים כלכלית, התשתיות לא תמיד מספיקות. היעדר גישה לאינטרנט מהיר או למכשירים כמו מחשבים וסמארטפונים מונע מאנשים רבים את האפשרות להשתמש בטכנולוגיות AI וליהנות מהיתרונות שהן מציעות. לפס הרוחב של החיבור לרשת יש חשיבות גדולה.

נוסף על כך, חוסר באוריינות דיגיטלית ואוריינות AI הם בעיה אמיתית. אוכלוסיות מוחלשות רבות אינן מחזיקות בכישורים הדיגיטליים הבסיסיים הדרושים כדי להבין ולהתמודד עם הכלים המתקדמים הללו ולנצלם בצורה מושכלת ויעילה והן סובלות מפערי ידע ומיומנויות בתחום ה-AI. כמרצים, אנחנו רואים את זה בפועל בשיעורים. כתוצאה מכך, הן אינן מצליחות להשתלב בעולם העבודה, החינוך והבריאות הדיגיטליים שמתפתחים במהירות.

חסם נוסף המשפיע ישירות על היכולת לנצל את טכנולוגיות ה-AI הוא המצב הסוציו-אקונומי. אוכלוסיות מעמד כלכלי נמוך מתקשות לעמוד בעלויות של רכישת תוכנות, מכשירים טכנולוגיים ושימוש בגרסאות מתקדמות של כלים מבוססי AI הנמצאות לרוב בתשלום – מה שמכונה Material Access, או "נגישות חומרית" (לצד פערי נגישות, הרמה הראשונה של הפער הדיגיטלי).

היעדר משאבים כלכליים מביא לכך שאנשים מקבלים שירותים פחות איכותיים ואינם יכולים להפיק את מלוא התועלת מהכלים המתקדמים. תחומים רבים כמו בריאות, חינוך ותעסוקה נשארים בלתי נגישים עבורם.

קיימים גם מחסומי שפה ותרבות. מרבית הפיתוחים בתחום ה-AI פותחו באנגלית או בשפות דומיננטיות אחרות, מה שגורם לקושי עבור אוכלוסיות דוברות שפות אחרות לאמץ את הכלים הללו.

לצד כל זה, יש את עניין ה"עושר" של השפה עצמה. ככל שלכותבת ה-prompt שפה עשירה יותר, התוצאה, בין אם טקסט או תמונה, תהיה מוצלחת יותר. ככל שהשפה דלה יותר התוצאה תהיה פחות מוצלחת, וידרשו מחזורי תיקון רבים וארוכים.

לא רק, כי גם אם הפלטפורמות מונגשות לשפות שונות, לעיתים קרובות התוצר עצמו סובל מהטיה תרבותית או גזעית. נגישות שפתית ותרבותית מוגבלת מצמצמת את היכולת של קבוצות רבות להשתמש בטכנולוגיות הללו להבין ולהנות ממלוא הפוטנציאל שלהן.

ישנן גם הטיות במערכות הבינה המלאכותית .מכיוון שהמודלים מסתמכים על מערכי נתונים שעשויים לא לייצג בצורה הוגנת את כלל האוכלוסיות, תוצאותיהם עלולות להיות מוטות. רבות מהמערכות המבוססות על AI ולמידת מכונה (Machine Learning) מכילות הטיות – בין אם במערכות זיהוי פנים, מערכות רווחה או תחזיות כלכליות ושיטור נבואי.

ההטיות נובעות מהנתונים שהמודלים לומדים מהם, כאשר מוטמעים בהם הטיות חברתיות, גזעיות ומגדריות, אשר משתקפות בתוצאות ומנציחות את אי-השוויון. במחקרים שערכנו בשנה האחרונה נמצאו הטיות רבות, הכוללות ביטויים של אנטישמיות ואסלמופוביה, עם העדפה ברורה לערכים וייצוגים מערביים.

הפערים הללו יוצרים מצב שבו אוכלוסיות מוחלשות נדחקות לשוליים ואינן מצליחות להפיק תועלת מהיתרונות שמציעה הבינה המלאכותית. כדי להתמודד עם הפער הדיגיטלי ולהבטיח שטכנולוגיות הבינה המלאכותית ישרתו את כלל האוכלוסיות, יש לבצע כמה צעדים חיוניים.

ד"ר מייק דהאן, צילום: יח"צ

יש להנגיש טכנולוגיות מתקדמות לאוכלוסיות מוחלשות, לפתח תשתיות אינטרנט באזורים פריפריאליים, ולהשקיע בחינוך טכנולוגי ובאוריינות דיגיטלית. כמו כן, יש לפתח פלטפורמות התומכות בייצוג מגוון ורב תרבותי, שמשקף בצורה נאמנה יותר את החברה.

רגישות תרבותית ושפתית נדרשות כדי להבטיח שהטכנולוגיה תהיה נגישה גם לאוכלוסיות מגוונות. לבסוף, חשוב להבטיח שמערכות הבינה המלאכותית יתאמנו על מערכי נתונים מגוונים על מנת למנוע הטיות, וכך תוכל, אולי, לחתור לשוויון ושירות לכלל שכבות האוכלוסייה.

חשוב לזכור שפלטפורמות ה-AI בנויות על תוצרים אנושיים, עדכניים והיסטוריים כאחד. הוא מבוסס ידע, אמונות וחוויות אנושיות. בכך ה-AI לא רק משקף, אלא גם מבנה מציאות מסוימת, ובסופו של דבר מחזק, מקבע, ומשרת את ההגמוניה התרבותית וגם הפוליטית. לכן עלינו להמשיך במחקר ביקורתי ולבחון את ההשלכות החברתיות, האתיות והטכנולוגיות של הבינה המלאכותית, להעלות את המודעות הציבורית ולעורר דיון ציבורי, מבלי לחשוש לקחת את המושכות לידיים ולהוביל את ההתפתחות של הבינה המלאכותית לכיוון של שוויון ושוויון הזדמנויות.

ד״ר האמה אבו קשק. צילום: עדו לביא

עוד ב-

מתחרה חדשה ל-OpenAI: הבכירה שאחראית להצלחת החברה החליטה לערוק

לכתבה המלאה

*הכותבים הם ד"ר האמה אבו-קשק, מרצה בכירה במחלקה לתקשורת במכללה האקדמית ספיר וד"ר מייק דהאן, מרצה בכיר במחלקות לתקשורת ולמנהל ומדיניות ציבורית במכללה האקדמית ספיר.