הוועדה העצמאית לבטיחות ואבטחה
חברת OpenAI הודיעה כי ועדת הבטיחות והאבטחה תוקם כוועדה עצמאית לפיקוח על מדיניות הפיתוח וההפצה של מודלים חדשים. הוועדה תכלול מומחים כגון זיקו קולטר, פרופסור מאוניברסיטת קרנגי מלון, ותעמוד בראש מאמצי הפיקוח והבקרה על המודלים המתפתחים של החברה. הוועדה תהיה מוסמכת לעכב את השקת המודלים עד שיפתרו דאגות בטיחותיות שונות.
חיזוק אמצעי האבטחה
האבטחה הקיברנטית הפכה לרכיב קריטי בבטיחות מודלים של בינה מלאכותית. חברת OpenAI מתכוונת להמשיך ולפתח גישה מבוססת סיכון לניהול האבטחה, תוך התאמת האמצעים לפי האיומים החדשים העולים. כחלק מהשינויים, החברה תשקול להקים מרכז לשיתוף מידע וניתוח (ISAC) לתעשיית ה-AI, שיאפשר שיתוף מודיעין ומידע בנושא אבטחת סייבר בין גופים שונים בתעשייה.
שיתוף פעולה עם ארגונים חיצוניים
OpenAI מתכוונת להרחיב את שיתוף הפעולה עם ארגונים עצמאיים לבדיקת בטיחות המודלים. לדוגמה, החברה החלה לעבוד עם מעבדות לאומיות וארגוני ממשל כדי לקדם את מדע הבטיחות של הבינה המלאכותית. שיתופי פעולה עם גופים כמו מכוני הבטיחות ב-AI של ארה"ב ובריטניה יסייעו במחקר סיכונים וסטנדרטים למודלים אמינים.
שקיפות בעבודת הבטיחות
החברה מתכננת לשתף יותר מידע על תהליכי הבטיחות שלה. OpenAI כבר פרסמה "כרטיסי מערכת" המציגים את יכולות המודלים וסיכוניהם, הכוללים תוצאות של בדיקות חיצוניות ומעריכי סיכונים. החברה תמשיך להציג את המאמצים שנעשו במודל o1-preview וכיצד התמודדה עם סיכונים פוטנציאליים.
יצירת מסגרת אחידה לבטיחות
במטרה לאחד את תהליכי הבטיחות, OpenAI שוקדת על יצירת מסגרת אינטגרטיבית ומובנית לבדיקת הבטיחות של כל מודל חדש. המסגרת תותאם ליכולות המודל ולסיכונים הפוטנציאליים שלו, ותנוהל בפיקוח ועדת הבטיחות. לצורך יישום המסגרת, החברה תארגן מחדש את צוותי המחקר והמדיניות, ובכך תאפשר תיאום טוב יותר בין כל הצוותים בארגון.
סיכום
חברת OpenAI עדכנה כי היא פועלת לשפר את נוהלי הבטיחות והאבטחה שלה במטרה להתמודד עם אתגרי העתיד של בינה מלאכותית מתקדמת. צעד נוסף שמובילה החברה הוא שיתוף פעולה רחב יותר עם הקהילה המדעית והטכנולוגית. למשל, ההתקשרות עם מכוני הבטיחות ב-AI בארה"ב ובבריטניה נועדה להרחיב את הבנת הסיכונים הפוטנציאליים של בינה מלאכותית מתקדמת, כמו מודלים דוגמת ChatGPT. שיתוף פעולה זה יאפשר פיתוח סטנדרטים אחידים לשימוש בטוח ואחראי במערכות מתקדמות של בינה מלאכותית.
בנוסף, OpenAI שואפת לקדם שקיפות ביחס לתהליכי הבטיחות שלה. מעבר לשיתוף המידע בכרטיסי המערכת של המודלים, החברה מבצעת מאמצים לשיפור הגנת המידע. מהלך זה כולל הקמת מערכות להגברת הבקרה על גישה לנתונים פנימיים, לצד פיתוח כלים למעקב ובקרה על פעילויות חשודות במערכות.
חיזוק מערך האבטחה, שיתוף הפעולה עם גורמים חיצוניים והגברת השקיפות הם חלק מתוכנית כוללת להבטיח את בטיחות המודלים והשימוש בהם. בכך, OpenAI מציבה סטנדרטים חדשים בתעשייה ומדגישה את מחויבותה לשימוש בטוח ומבוקר במודלים המתקדמים שלה.
