באוגוסט 2024, OpenAI חשפה והובילה לסיכול מבצע השפעה חשאי שבוצע על ידי איראן באמצעות השימוש בכלי Chat GPT ליצירת תכנים שנועדו להשפיע על הבחירות לנשיאות בארצות הברית. המבצע, שנקרא Storm-2035, כלל שימוש בחשבונות מזויפים שייצרו והפיצו תכנים ברשתות חברתיות ובאתרי חדשות שנראו כמקורות מהימנים. למרות שהמבצע לא הצליח להשיג השפעה משמעותית, הוא מהווה דוגמה מוחשית לניסיונות של גורמים זרים להשתמש בטכנולוגיה מתקדמת כדי להשפיע על דעת הקהל והבחירות במדינות אחרות.
הרקע למבצע ההשפעה האיראני
הניסיונות להשפיע על דעת הקהל בארצות הברית אינם דבר חדש, אך השימוש בטכנולוגיה מתקדמת ובמודלים כמו ChatGPT מהווים התפתחות משמעותית בתחום זה. המבצע האיראני זוהה כחלק ממאמצים רחבים יותר של ממשלת איראן להשפיע על הבחירות בארצות הברית בשנת 2024. המבצע התבצע באמצעות יצירת תוכן פוליטי שנועד להיראות אמיתי ומשכנע, תוך שימוש בנושאים שנויים במחלוקת כמו הבחירות לנשיאות, המצב ברצועת עזה, והקשר עם ישראל.
כיצד פעלה OpenAI לזיהוי ולנטרול המבצע
OpenAI נקטה צעדים מקיפים כדי לזהות ולסכל את המבצע האיראני. כחלק מהמאמץ, החברה זיהתה והובילה לחסימת אשכול חשבונות של ChatGPT שהיו מעורבים ביצירת התכנים המזויפים. החשבונות הללו השתמשו ב-ChatGPT ליצירת מאמרים ארוכים על פוליטיקה אמריקאית ואירועים עולמיים, שפורסמו באתרים שזוהו כמקורות חדשותיים מהימנים אך היו למעשה חלק מהמבצע.
בנוסף, OpenAI זיהתה חשבונות מדיה חברתית, בעיקר ב-X (לשעבר טוויטר) ובאינסטגרם, שהיו מעורבים במבצע. החשבונות הללו התיימרו להיות מצדדים פוליטיים שונים והפיצו תכנים באנגלית ובספרדית, מתוך ניסיון להיראות אמינים יותר וליצור השפעה רחבה יותר.
האפקטיביות של המבצע
למרות המאמצים המורכבים של המבצע האיראני, הוא לא הצליח להשיג השפעה משמעותית. רוב הפוסטים ברשתות החברתיות שנוצרו במסגרת המבצע קיבלו מעט מאוד תגובות, לייקים או שיתופים, והמאמרים שפורסמו לא זכו לתהודה משמעותית ברשת. הדירוג שניתן למבצע לפי סולם ההשפעה של מכון ברוקינגס מצביע על כך שהמבצע היה בקצה הנמוך של קטגוריה 2, כלומר, אמנם הייתה פעילות במספר פלטפורמות, אך לא הייתה הוכחה לכך שהתכנים אכן הגיעו לקהל רחב או עוררו עניין.
תפקיד OpenAI במניעת מבצעי השפעה זרים
OpenAI מבינה את החשיבות של מניעת שימוש לרעה בטכנולוגיות מתקדמות כמו ChatGPT במבצעי השפעה זרים. החברה ממשיכה לשפר את הכלים לזיהוי וסיכול של מבצעי השפעה, תוך שיתוף פעולה עם ממשלות, קמפיינים פוליטיים ותעשייה. כצעד נוסף לשיפור השקיפות והמוכנות להתמודד עם איומים כאלו, חברת OpenAI פרסמה כי היא מחויבת להמשיך לפרסם את ממצאיה ולהוביל את המאבק נגד ניצול לרעה של טכנולוגיות מתקדמות להשפעה על דעת הקהל והבחירות בעולם.
