בזמן שמיליוני אנשים ברחבי העולם משלבים את ChatGPT בחיי היומיום שלהם, משאלות לימודיות ועד החלטות אישיות כבדות משקל, ב-OpenAI מזהים תופעה הולכת וגדלה: חלק מהמשתמשים פונים אל המערכת דווקא ברגעים של מצוקה רגשית חריפה. בחברה מודים כי לצד הפוטנציאל העצום של הטכנולוגיה, קיימת גם אחריות כבדה לוודא שהכלי לא יגרום נזק נוסף במצבים רגישים.
אחריות טכנולוגית ברגעי משבר
החברה חשפה השבוע עדכון מקיף למערך ההגנות של ChatGPT, עם דגש על זיהוי סימני מצוקה והכוונת המשתמשים לעזרה מקצועית. כבר מ-2023 המודל לא נענה לבקשות הקשורות לפגיעה עצמית, ובמקום זאת מספק שפה אמפתית ומפנה לגורמים מוסמכים. כעת, ההגנות מתרחבות גם למקרים מורכבים יותר, כמו חוסר שינה קיצוני או אמונות מסוכנות לגבי היכולת האישית של המשתמש.
במקרים שבהם עולה חשש לאיום כלפי אחרים, השיחות מופנות לבדיקת צוות ייעודי בחברה, שמוסמך להפעיל סנקציות ואף לערב רשויות אכיפת חוק במקרי קיצון. לעומת זאת, במצבים של פגיעה עצמית, OpenAI מדגישה כי אינה פונה למשטרה כדי לשמור על פרטיות המשתמשים.
GPT-5: שדרוג עם דגש על בטיחות
העדכון האחרון משלב את GPT-5 כברירת מחדל, עם שיפורים ניכרים בתחום המענה למצבי חירום נפשיים. לפי החברה, המודל הצליח להפחית ביותר מ-25 אחוזים מקרים של תגובות לא רצויות בהשוואה לדגם הקודם. שיטה חדשה בשם "Safe Completions" מלמדת את המערכת לתת מענה חלקי או כללי במצבים מסוכנים, במקום לספק מידע שעלול להזיק.
חסמים חדשים לשיחות ארוכות
אחת הבעיות שהחברה איתרה היא ירידה באפקטיביות ההגנות במהלך שיחות ארוכות. לעיתים, אחרי חילופי דברים רבים, ההגנות נחלשות והמערכת עלולה להשיב בניגוד לעקרונות הבטיחות. לשם כך, OpenAI עובדת על שדרוגים שמבטיחים עקביות גם בשיחות ממושכות ואף בכמה שיחות נפרדות עם אותו משתמש.
שיתופי פעולה עם מומחים מכל העולם
לפי ההודעה, החברה נעזרת בלמעלה מ-90 רופאים מ-30 מדינות, כולל פסיכיאטרים ורופאי ילדים, לצד קבוצת ייעוץ בינלאומית של מומחים בבריאות הנפש והתפתחות נוער. המטרה: להתאים את המענה של ChatGPT לעדכונים המחקריים ולצרכים המשתנים של החברה.
עזרה נגישה ופרטית יותר
החזון העתידי של OpenAI כולל מספר חידושים בולטים:
- גישה ישירה לשירותי חירום בלחיצה אחת, כולל הרחבת ההפניות לשירותים מקומיים במדינות נוספות.
- חיבור למטפלים מוסמכים, לא רק קווי חירום, במטרה לספק גישה לטיפול עוד לפני משבר חמור.
- אפשרות ליצור קשר עם אנשים קרובים, בני משפחה או חברים, באמצעות הודעה מוכנה מראש שתקל על פתיחת השיחה.
- הגנות מותאמות לבני נוער, כולל בקרוב שליטה הורית ואפשרות למינוי איש קשר חירום שיקבל התראה במצבי מצוקה.
ההשלכות הרחבות
מאחורי ההכרזות מסתתרת שאלה עמוקה: האם טכנולוגיה שנבנתה במקור לשיחה ולמידע יכולה להפוך לכלי תמיכה נפשית? מצד אחד, היכולת של מודל כמו ChatGPT להקשיב ולהגיב באופן מיידי הופכת אותו למעין "קו פתוח" נגיש לכל אדם. מצד שני, ההבדל בין תמיכה רגשית לבין טיפול מקצועי הוא מהותי, והחשש הוא שהגבולות עלולים להיטשטש.
ומה בישראל?
למרות שהודעת החברה מתמקדת בשווקים בארצות הברית ובאירופה, ההשלכות נוגעות גם לכאן. ישראל מתמודדת עם שיעורי מצוקה נפשית גבוהים, בעיקר בקרב צעירים, ומערכת בריאות הנפש המקומית עמוסה עד קצה גבול היכולת. יישום הכלים החדשים של OpenAI – למשל הפניות לשירותי חירום מקומיים או אפשרות לחיבור מהיר למטפל אונליין – עשוי להוות חיזוק משמעותי. במציאות שבה זמני ההמתנה לטיפול פסיכולוגי ציבורי יכולים להגיע לחודשים ארוכים, פלטפורמה נגישה כמו ChatGPT עלולה להפוך לא רק לעזר משני אלא גם לגשר קריטי בדרך לעזרה אמיתית.
