עיתונאים מזויפים ומכון מחקר פיקטיבי: OpenAI חשפה מבצעי השפעה של רוסיה ואיראן שהשתמשו ב-ChatGPT

OpenAI הודיעה ביום חמישי כי חסמה חשבונות ב-ChatGPT שהיו קשורים לשני מבצעי השפעה סמויים, אחד רוסי ואחד איראני, שהשתמשו בכלי בינה מלאכותית כדי ליצור דמויות פיקטיביות של עיתונאים ומכון מחקר מזויף, והצליחו להחדיר סיפורים לכלי תקשורת. לראשונה, החברה דירגה מבצעים כאלה כבעלי השפעה גבוהה: את הרוסי ב-5 ואת האיראני ב-4, בסולם של 1 עד 6. רוב המבצעים שהחברה חושפת מקבלים דירוג של 1 או 2.

"מיה קלארק" ומכון המחקר שלא היה

המבצע הרוסי, שכונה "Dark Clark", התמקד באמריקה הלטינית. הוא נקרא על שם "מיה קלארק", דמות פיקטיבית שנוצרה בעזרת בינה מלאכותית והוצגה כראש "מרכז המחקר החברתי", מכון מחקר לכאורה שנועד להחדיר תעמולה לסיקור החדשותי. לפי OpenAI, העובדים במכון באמריקה הלטינית לא ידעו שהם עובדים עבור קבוצה רוסית. "זה הניסיון המורכב ביותר להפעיל זהות חזית שסיכלנו בשנתיים וחצי האחרונות", כתבה החברה.

התוכן של המבצע נועד בעיקר לפגוע בתדמית של אוקראינה באמריקה הלטינית, אבל הוא התערב גם בסוגיות פוליטיות בארגנטינה ובבוליביה. בין השאר הופצו קטעי שמע מזויפים של הקונסול האוקראיני באקוודור, שבהם הוא כביכול מעליב את אזרחי המדינה, ובזמן המחאות בבוליביה במאי הופצה הקלטה מזויפת שלפיה הממשלה עומדת לנתק את המים בלה פאס. ההקלטה חייבה הכחשה רשמית של ממשלת בוליביה. OpenAI לא ייחסה את המבצע לגוף ממשלתי מסוים, אך ציינה שהמפעילים התעניינו במיוחד ב"פוליטולוגיה", הארגון שירש את קבוצת השכירים וגנר.

שבעה עיתונאים שלא קיימים

המבצע האיראני השתמש באותם כלים כדי להציע לכלי תקשורת כתבות על המלחמה בין ארצות הברית לאיראן. המפעילים יצרו לפחות שבע דמויות פיקטיביות של עיתונאים מערביים, ו-OpenAI זיהתה "כמעט 100 כתבות שפורסמו תחת שמות הכותבים של המבצע בכתריסר כלי תקשורת מקוונים בעולם", רובם קטנים ובינוניים ועוסקים בעניינים בינלאומיים ובמזרח התיכון. לפי החברה, הפעילות דמתה ל"גורם מסחרי שמפעיל קמפיין השפעה בשכר", והיא לא ייחסה אותה לגורם מסוים.