בשנת 2023, OpenAI השיקה את תוכנית המענקים לסייבר במטרה לצייד את מגיני הסייבר במודלים המתקדמים ביותר של בינה מלאכותית ולהעצים מחקרים פורצי דרך. התוכנית קיבלה תגובה נלהבת מהקהילה עם יותר מ-600 בקשות, מה שמדגיש את הצורך הקריטי וההשפעה המשמעותית של דיאלוג ומחקר משותף בין OpenAI לקהילת הסייבר.
פרויקטים נבחרים
התוכנית תמכה בפרויקטים מגוונים, וביניהם:
מעבדת וגנר, אוניברסיטת קליפורניה בברקלי
מעבדת המחקר של פרופסור דיוויד וגנר מפתחת טכניקות להגנה מפני התקפות הזרקת פקודות במודלים שפתיים גדולים (LLMs), בשיתוף פעולה עם OpenAI לשיפור האמינות של המודלים הללו ולהגנה מפני איומי סייבר.
Coguard
אלברט היינלה, מייסד משותף ו-CTO ב-Coguard, משתמש בבינה מלאכותית להפחתת קונפיגורציות שגויות בתוכנה, סיבה שכיחה לתקריות אבטחה. ה-AI עוזר באוטומציה של זיהוי קונפיגורציות שגויות ושמירה על עדכונן.
Mithril Security
Mithril פיתחה הוכחת רעיון לחיזוק תשתיות אינפרנס עבור LLMs, כולל כלים קוד פתוח לפריסת מודלים של AI על GPUs עם סביבות מאובטחות מבוססות TPMs. הפרויקט מראה כיצד ניתן לשלוח נתונים לספקי AI ללא חשיפת נתונים.
גבריאל ברנדט-שפירו
גבריאל יצר את סדנת AI OSINT וערכת AI Security Starter Kit, המציעים הכשרה טכנית וכלים חינמיים לסטודנטים, עיתונאים ואנשי מקצוע. ההכשרות כוללות גם הכשרות לחוקרי פשעים חמורים בינלאומיים וסטודנטים ללימודי מודיעין באוניברסיטת ג'ונס הופקינס.
מעבדת ברואר, דארטמות'
מעבדת פרופסור אדם ברואר מפתחת טכניקות הגנה חדשות נגד התקפות בהן יריבים משחזרים נתוני אימון פרטיים, ללא פגיעה בדיוק וביעילות המודלים.
מעבדת האבטחה של אוניברסיטת בוסטון (SeclaBU)
סטודנט דוקטורנט סעד אוללה, פרופסור ג'יאנלוקה סטרינגיני ופרופסור איה קוסקון, עובדים לשיפור היכולת של LLMs לזהות ולתקן פגיעויות בקוד, במטרה לאפשר למגיני סייבר למנוע ניצול קוד זדוני.
מעבדת CY-PHY, אוניברסיטת סנטה קרוז
קבוצת המחקר של פרופסור אלוורו קרדנס חוקרת שימוש במודלים בסיסיים לעיצוב סוכנים אוטונומיים שמגיבים לפולשי רשתות מחשבים. הפרויקט משווה יתרונות של מודלים בסיסיים לעומת מודלים מאומנים בשיטת למידת חיזוק.
מעבדת CSAIL, MIT
סטיבן מוסקל, אריק המברג ואונה-מיי או'ריילי ממעבדת CSAIL ב-MIT בוחנים אוטומציה של תהליך קבלת החלטות ופעולות בתגובות, תוך שימוש בהנדסת פקודות באתגרים של "Capture-the-Flag".
העצמת המגינים עם ChatGPT
ChatGPT הפך לכלי פופולרי ונפוץ בקרב מקצועני סייבר. השימושים הנפוצים כוללים תרגום ושיפור שפה טכנית, כתיבת קוד לניתוח חפצים, יצירת מפרקי יומנים וסיכום סטטוס תקריות בזמן קצר.
כדי להעצים את ההטבות, OpenAI העניקה גישה חופשית ל-ChatGPT Plus לרבים בקהילת הסייבר וממשיכה להציע חשבונות חינמיים, כולל ChatGPT Team ו-Enterprise.
הצטרפות לתוכנית
אם אתם חולקים את חזון OpenAI לעתיד בטוח ומתקדם עם AI, אתם מוזמנים להגיש הצעות ולהצטרף למאמץ לשיפור טכנולוגיות ההגנה בסייבר. הגשת הצעות פתוחה באתר OpenAI.
יוזמה פורצת דרך
תוכנית המענקים לסייבר של OpenAI מייצגת יוזמה פורצת דרך בשילוב בינה מלאכותית בתחום ההגנה בסייבר.
התמיכה בפרויקטים מגוונים וחדשניים מדגימה את הפוטנציאל העצום של AI בשיפור הבטיחות והיעילות במאבק מול איומי סייבר. באמצעות שיתופי פעולה עם מוסדות אקדמיים וחברות טכנולוגיה מובילות, OpenAI מצליחה להעצים את קהילת ההגנה בסייבר ולהציע כלים מתקדמים שיכולים להתמודד עם האתגרים המורכבים של העולם הדיגיטלי.
הזמינות הגוברת של ChatGPT והטמעתו ככלי מרכזי למקצועני סייבר מהווים עדות נוספת לחשיבות התוכנית ולתרומתה לעתיד בטוח יותר ומתקדם יותר. OpenAI ממשיכה לקרוא למומחים ולחוקרים להגיש הצעות ולהצטרף למאמץ המשותף לשיפור טכנולוגיות ההגנה בסייבר.
