המשטרה הסינית עצרה אדם שלטענתם השתמש ב-ChatGPT כדי ליצור כתבת חדשות מזויפת על תאונת רכבת, במה שנראה כמקרה הראשון של פעולות אכיפה שננקטו בסין במסגרת חוק חסר תקדים הקשור לבינה מלאכותית. המקרה מדגיש את הדחיפה של הרשויות הסיניות להסדיר ולשלוט בשימושים ב-AI, ככל שהטכנולוגיה מתקדמת יותר.

המשטרה במחוז גאנסו בצפון מערב סין, עצרה אדם בשם הונג, שלדבריהם בדה לכאורה ידיעה בנוגע לתאונת רכבת שגרמה לתשעה הרוגים. הרשויות גילו שיותר מ-20 חשבונות פרסמו את המאמר הזה בפלטפורמת בלוגים בבעלות ענקית החיפוש הסינית Baidu והם צברו יותר מ-15,000 צפיות. הונג השתמש לכאורה ב-ChatGPT כדי ליצור גרסאות שונות במקצת של כתבת החדשות המזויפות, בכדי לצלוח בדיקות כפילות בפלטפורמה שבבעלות Baidu.

רשויות משטרת גאנסו עצרו את הונג, במסגרת החוק הראשון מסוגו המסדיר "טכנולוגיות סינתזה עמוקה" שסין הציגה השנה. טכנולוגיות סינתזה עמוקה מתייחסות לבינה מלאכותית המשמשת ליצירת טקסט, תמונות, וידאו או מדיה אחרת. החוק קובע שלא ניתן להשתמש בשירותי סינתזה עמוקה להפצת פייק ניוז.

עוד ב-

מהפכת הבינה המלאכותית: ChatGPT מוחק סטארטאפים ישראליים

לכתבה המלאה

סין ניסחה את החוק בזמן ש-ChatGPT צמח והפך לפופולארי יותר ויותר, כאשר הרשויות רצו להקדים את הטכנולוגיה. האינטרנט של סין מצונזר ונשלט מאוד. בייג'ין ביקשה להנהיג חוקים המסדירים טכנולוגיות חדשות שיכולות להוות דאגות לממשלה המרכזית. ChatGPT חסום במדינה, אך ניתן לגשת אליו באמצעות רשת פרטית וירטואלית - שיכולה לעזור לעקוף את מגבלות האינטרנט של הממשל המקומי.