בני נוער ובינה מלאכותית – שילוב שמעלה לא מעט שאלות
הבינה המלאכותית הפכה כבר מזמן לחלק בלתי נפרד מחיי היומיום של צעירים. צ'אט גיפיטי נמצא בכיס של מיליוני תלמידים, ומספק תשובות מהירות לשיעורים, ייעוץ אישי ואפילו שיחה כשמשעמם. אבל מה קורה כשהכלי הזה חושף אותם לתכנים שלא מתאימים לגילם?
ב-OpenAI מבינים את האתגר: איך לשמור על חופש שימוש ופרטיות, ובמקביל להגן על בני נוער. השבוע הכריזה החברה כי היא מפתחת מערכת שתוכל להעריך את גיל המשתמש, כדי להתאים את השיחות בצורה מותאמת גיל.
מה זה בעצם "חיזוי גיל"?
לפי ההסבר של OpenAI, הכלי החדש ינסה לקבוע אם המשתמש מעל או מתחת לגיל 18. אם יזוהה שמדובר בנער, המערכת תכוון אותו לגרסה מיוחדת של צ'אט GPT עם כללים מותאמים: חסימת תכנים מיניים מפורשים, הגבלות על שימוש מסוים, ובמקרי חירום חריגים – אפילו פנייה לגורמי אכיפת החוק כדי לשמור על בטיחות המשתמש.
במקרים שבהם המערכת לא תוכל לקבוע בבירור את הגיל, היא "תשחק על בטוח": המשתמש יקבל את חוויית ה-ChatGPT המיועדת לנוער, עד שיוכיח אחרת.
בקרוב: שליטה הורית מתקדמת
החידוש הבא יעניין במיוחד הורים מודאגים. כבר בסוף החודש, OpenAI תאפשר לכל הורה לקשר את חשבונו לחשבון של בנו או בתו (מגיל 13 ומעלה). משם, נפתחות אפשרויות שליטה מגוונות:
- לקבוע אילו פיצ'רים יהיו זמינים לנער, כמו זיכרון או היסטוריית צ'אט.
- לעצב את אופי התגובות של הצ'אט, בהתאם לכללים ייחודיים לנוער.
- לקבל התראות במצבי מצוקה רגשיים קיצוניים, עם אפשרות לערב רשויות אם ההורה לא מגיב.
- להגדיר "שעות חושך" שבהן הצ'אט פשוט לא זמין.
כך נוצר שילוב של כלי בינה מלאכותית חכם עם מעטפת שמנסה להגן על המשתמש הצעיר ולתת להורה תחושת שליטה וביטחון.
לא הכל פשוט
ב-OpenAI מודים שמדובר במשימה מורכבת מאוד. גם המודלים המתקדמים ביותר יכולים לטעות בזיהוי גיל, ולעיתים יהיה קשה להבדיל בין נער בן 17 לסטודנט צעיר בן 19. החברה מבטיחה לעדכן את הציבור ולשתף פעולה עם מומחים וארגונים חברתיים כדי לשפר את הכלי לאורך זמן.
המהלך הזה אינו רק טכנולוגי – הוא מציב רף חדש באחריות החברתית של חברות טכנולוגיה. בני נוער נמצאים בחזית המפגש עם בינה מלאכותית, ולדבר הזה יש השלכות מרחיקות לכת על בריאות נפשית, על הרגלי שימוש ועל יחסי אמון בין דורות.
במובן הזה, OpenAI מנסה לאזן בין שלושה ערכים שנראים לעיתים מנוגדים: פרטיות, חופש ובטיחות. הבחירה להעדיף את טובת בני הנוער על פני הכללים האחרים משקפת מגמה ברורה – עולם ה-AI חייב להתאים את עצמו למציאות שבה ילדים ובני נוער הם חלק בלתי נפרד מהמשתמשים.
בחברה מבטיחים להמשיך לעדכן, להקשיב לביקורת ולחדד את המערכת. בקרוב מאוד נוכל לדעת האם החידוש הזה באמת יעניק להורים שקט נפשי – או שמא יעורר דיון ציבורי חדש סביב גבולות הפיקוח הדיגיטלי.
