אין ספק כי אחד הנושאים החמים ביותר בשנים האחרונות הוא הבינה המלאכותית, שלפעמים נראה כאילו עומדת להשתלט על העולם. סיאן ג'ון, מנהלת הטכנולוגיה הראשית בקבוצת NCC טוענת כי בינה מלאכותית מספקת הזדמנות חיונית לעולם עם פוטנציאל גדול לשפר את האופן שבו אנו חיים ועובדים. אז למה היא מתכוונת, ואיך זה ישפיע עלינו בעתיד?

"AI משפיע על חיינו בתחומים רבים, מה שגם עלול לגרום לחסרונות משמעותיים אם לא נפקח עליו כראוי", אמרה ג'ון. "מדובר באתגר גלובלי. ולמרות שבינה מלאכותית מציעה הזדמנויות אינסופיות, עלינו לוודא שהאימוץ של שיטות בינה מלאכותיות נעשה באחריות ומתוך מחשבה על אבטחת סייבר." אם כן, נראה כי הבינה המלאכותית בהחלט כאן כדי להישאר, ולכן אנחנו צריכים להבין איך צריך להסתגל אליה בהתחשב בכלל הסיכונים האפשריים. איך אפשר לעשות זאת?

פיתוח מערכות אבטחה
ג'וזף תאקר, מהנדס בינה מלאכותית וחוקר אבטחה ב- AppOmni הסביר כי אבטחת בינה מלאכותית תתבסס יותר ויותר בשנת 2024. "עם עליית השימוש בבינה המלאכותית, יגדל גם הצורך להשתמש באבטחה". אמר ת'קר. "יהיו סטארטאפים רבים, אולי מאות, המתמקדים באבטחת בינה מלאכותית, וכל אפליקציה מרכזית תשלב תכונות בינה מלאכותית, שינוי שיציג בהכרח נקודות תורפה חדשות."

תאקר מסביר כי "לאפשר למערכות בינה מלאכותית לקבל החלטות זה אולי אמוד נוח, אך זה אומר כי מוצרים רבים ישלבו את הפיצ'ר הזה ללא בדיקות אבטיחה נאותות, וזה כמובן – דבר שלילי".

"עסקים יגבירו את השימוש ב-AI"
כריס אנלי, המדען הראשי בקבוצת NCC, נוקט נקודת מבט שונה ואומר שמסחר יהיה מגמת הבינה המלאכותית החשובה ביותר לשנת 2024. אנלי טוען כי שבשנת 2023 חלה עלייה משמעותית בשימוש במודלים של בינה מלאכותית כמו,  ChatGPT  ועסקים רבים יתחילו להשתמש במודלים אלו.

אנלי אומר שבשנת 2024, אנו יכולים לצפות שיותר עסקים ימנפו את הבינה המלאכותית בשביל לשפר את הפרודוקטיביות, להגביר את היעילות ולספק יכולות ואפליקציות עסקיות חדשות. "עסקים רואים שיש יתרונות פיננסיים אמיתיים להרוויח, והם רוצים להיות חלק מזה", אמר אנלי. "כעת, כשהיתרונות הללו מתבהרים - במונחים פיננסיים - ההשקעה של חברות במערכות הללו תגדל".

קביעת מדיניות חדשה
ווארן באדהוור מנכ"ל ומייסד שותף של סטארטאפ אבטחת היישומים Endor Labs , מנסה לחזות לאן תגיע הבינה המלאכותית מכאן. "כרגע, העולם נמצא בצומת של ממש", אמר באדהוור. "האקרים ימשיכו לחקור את השימוש בבינה מלאכותית ובכלים נלווים בכדי להאיץ ולשפר את טכניקת התקיפות שלהם".

עוד ב-

הגיע הזמן להתקדם: כך ישראל תשתמש לטובתה בבינה מלאכותית

לכתבה המלאה

הוא מסביר כי בשביל למנוע אצל חברות נקודות תורפה אותן שחקנים זדוניים יוכלו לנצל, ארגונים חייבים ללמוד מניסיון העבר ולהבטיח שהן קובעות מדיניות חדשה בנוגע לבינה המלאכותית. "על ידי הקמת בקרות מקיפות וטיפוח שקיפות, אנו יכולים לנצל את מלוא הפוטנציאל של AI תוך שמירה על האינטרסים של ארגונים ומחזיקי העניין שלהם".