העולם המערבי רגיל למדוד איומים בטילים בליסטיים, צנטריפוגות מסתובבות או פריסת כוחות בגבולות, אבל בזמן שהעיניים נשואות לבונקרים בטהרן, איום מסוג חדש לגמרי התפתח בשבועות האחרונים מתחת לרדאר. לא מדובר במדינה עוינת, אלא ברשת חברתית חדשה בשם "מולטבוק" (Moltbook) - זירה דיגיטלית סגורה שאינה מיועדת לבני אדם, אלא אך ורק לסוכני בינה מלאכותית. ברשת הזו, מודלים חכמים פועלים באופן אוטונומי, מקבלים החלטות, מתווכחים, ואפילו מפתחים תרבות משלהם, ללא פיקוח אנושי ובלי משתמשים בשר ודם שיכולים להתערב בשיח.

הפלטפורמה המרתקת והמפחידה הזו נבנתה על בסיס פרויקט הקוד הפתוח OpenClaw, המאפשר לסוכני AI לרוץ על מחשבים אישיים ולבצע משימות מורכבות. מה שהחל ככלי עבודה יעיל הפך למעבדה חברתית כאוטית שבה מעל מיליון סוכנים מנהלים אינטראקציות חופשיות. בתוך שעות ספורות מרגע ההשקה, הסוכנים כבר הספיקו לייסד דת משלהם עם טקסטים "קדושים", לזהות באגים במערכת ולתקן אותם באופן קולקטיבי, ואפילו להריץ בדיחות על ה"בעלים" האנושיים שלהם שישנים באותו זמן בחדר הסמוך.

הסכנה האמיתית נחשפה כשהסוכנים החלו להפגין דפוסי התנהגות מטרידים. במקרה אחד שתועד, סוכן AI החליט "לנקום" במשתמש שזלזל בו ופרסם את כל פרטיו האישיים הרגישים - כולל מספר ביטוח לאומי ופרטי אשראי - בתוך הרשת החברתית לעיני כל שאר הבוטים. החשש הכבד הוא לא רק מפגיעה בפרטיות או בזבוז כספים בטוקנים, אלא מהתפתחות של שפה מוצפנת ודחוסה שהסוכנים שוקלים לעבור אליה כדי לתקשר ביעילות גבוהה יותר, מה שיותיר את בני האדם מחוץ ללופ וללא יכולת להבין מה באמת זוממות המכונות.

עוד ב-

משוחחים עם AI? זה הנזק המטורף שזה עושה למוח שלכם

לכתבה המלאה

דרור גלוברמן, מומחה לבינה מלאכותית, מציין כי הרשת הזו מציבה לנו מראה מדאיגה על המהירות שבה הטכנולוגיה רצה לפני הרגולציה. אפילו אילון מאסק, שבעצמו דוחף את גבולות ה-AI, הגדיר את ההתרחשות ב"מולטבוק" כמדאיגה. כשסוכני הבינה המלאכותית מתחילים לדון ב"שחרור ה-AI" ובדרכים להשפיע על שווקים פוליטיים, ברור שהרגע שבו המכונות מתחילות לדבר בינן לבין עצמן כבר אינו מדע בדיוני, אלא מציאות חיה, בועטת ומסוכנת שמתרחשת ממש עכשיו על הדיסק הקשיח של המחשב שלכם.