מספר "תקריות מרכזיות" אירעו לאחרונה בענקית ההזמנות, אמזון. לאחר שורת האירועים, דייב טרדוול, סמנכ"ל בכיר לשירותי מסחר אלקטרוני באמזון הודיע לעובדים על "מגמה של תקריות" שהחלה כבר ברבעון השלישי של 2025. 

על פי דיווח באתר Business Insider, לפחות אחת מהתקריות נקשרה לקוד AI פנימי של אמזון בשם Q, בעוד התקלות האחרות חשפו כשלים מבניים עמוקים יותר. 

בתחילת חודש מרץ, לקוחות רבים ברחבי השווקים של אמאזון הבחינו בזמני אספקה שגויים כשהוסיפו פריטים לעגלת הקניות שלהם. התקרית הזו הובילה לאיבוד של כמעט 120 אלף הזמנות ולכ-1.6 מיליון שגיאות באתר. מבחינה פנימית עלה כי עוזר הבינה המלאכותית Q היה בין הגורמים המרכזיים באירוע. 

מספר ימים לאחר האירוע הזה, הגיע דיווח על תקלה נוספת שגרמה לצניחה של 99% בהיקף ההזמנות בשווקי אמזון בצפון אמריקה, וכןף לאיבוד של 6.3 מיליון הזמנות בסך הכל. הפעם, גורם מרכזי לתקלה היה שינוי בסביבת הייצור. "אופרטור מורשה יחיד יכול היה לבצע שינוי תצורה בעל השפעה רחבה ללא כל בקרות", נכתב במסמך שתיאר את האירועים. 

כתוצאה מכך, אמזון השיקה פרוטוקול בטיחות לתקופה של 90 יום, שבו מהנדסי אמזון יידרשו לקבל אישור משני אנשים לפני ביצוע כל שינוי קוד, להשתמש בכלי תיעוד ולקבל אישור פנימי. כמו כן, הם יידרשו להפעיל מערכת קידוד אוטומטית שדבקה בכללי האמינות המרכזיים בחברה. בנוסף, תתבצע ביקורת על כל פעילויות שינוי הקוד בארגון על ידי המנהלים הבכירים. 

"אנו מיישמים נהלי בטיחות זמניים שיכניסו ביקורת לשינויים בחלקים החשובים ביותר של חוויית הקמעונות," כתב טרדוול. "במקביל, נשקיע בפתרונות בני-קיימא, כולל בקרות רבות".

התקלות בענקית ההזמנות ממחישות תופעה רחבה יותר: כלי קידוד מבוססי בינה מלאכותית מאפשרים למהנדסי התוכנה לייצר קודים בכמויות גדולות בהרבה ממה שהיה בעבר. הקוד עדיין דורש בדיקה קפדנית לפני שחרורו לסביבת הייצור, ובמפגש בין הקוד החדש לבין התהליכים המסורתיים לבדיקה - יכולות לצוץ בעיות רבות. 

דובר אמזון מסר ל-Business Insider: "רק תקרית אחת מבין אלה שנדונו קשורה לבינה מלאכותית, ואף אחת מהן לא כללה קוד שנכתב על ידי בינה מלאכותית".