בכל פעם שנדמה שמודלי בינה מלאכותית התייצבו על רמת דיוק מרשימה, מגיעה תזכורת לכך שמדובר במערכות סטטיסטיות ולא במכונות אמת. המשתמשים פוגשים את זה בשטח. תשובה שנשמעת משכנעת אך מבוססת על עובדה לא קיימת. פרשנות שמחליקה בין הנחות למציאות. תופעה זו ידועה בשם הזיות AI והיא הפכה לאחת הבעיות המדוברות ביותר באקוסיסטם של הבינה המלאכותית. כעת OpenAI מציגה טכניקה חדשה שמטרתה לצמצם את מספר ההזיות ולהפוך את המודלים למהימנים יותר.
לפי הפרסום הרשמי של החברה, הגישה החדשה מבוססת על רעיון אנושי למדי. במקום שמודל ישיב תשובה בכל מחיר, הוא לומד להודות בחוסר ודאות. זהו וידוי מבוקר המוטמע בתוך תהליך יצירת התשובה. המודל בוחן אילו חלקים במענה אינם מגובים במידע מוצק ואז מסביר מדוע. לעיתים מדובר בנתון חסר. לעיתים בשאלה עמומה. במקרים אחרים בהיסטוריה שאינה חד משמעית. התוצאה היא תשובה שבנויה משקיפות גבוהה יותר ומהבנה עצמית של מגבלות.
למה בכלל צריך וידויים בבינה מלאכותית?
על אף ההתקדמות המרשימה של ChatGPT ומודלים דומים, ממשיך להתקיים פער בין האופן שבו משתמשים מבינים מידע לבין האופן שבו מודלים מייצרים אותו. המערכת אינה יודעת את העולם, אלא מחקה דפוסים. בשיחה יומיומית זה כמעט לא מורגש, אך ברגע שהתשובה נוגעת לנושא מקצועי או רגיש, טעויות יכולות להפוך למשמעותיות.
בישראל זה מורגש היטב. עסקים קטנים מסתמכים על עוזרי כתיבה ליצירת תוכן שיווקי. סטודנטים משתמשים בצ'אט לצורך הבנה של חומרים. אנשי חינוך, מפתחים, יזמים ויועצים נעזרים בו ככלי עבודה. כל אלה מצפים שהמודל יפיק מידע מדויק. כשתשובה שגויה מחליקה מתחת לרדאר ונראית אמינה, נוצר חוסר אמון, ולעיתים גם נזק ממשי.
במשך שנים הופנו המאמצים לשיפור מודלים מבחוץ. עוד שכבה, עוד אימון, עוד נתונים. הפעם OpenAI מציעה פתרון פנימי יותר. לא איך לגרום למודל לדעת יותר, אלא איך לגרום לו לדעת מתי הוא לא בטוח.
איך עובדת טכניקת הוידויים החדשה?
בבסיס הטכניקה עומד מנגנון בדיקה משלים. לפני שהמודל משיב את התשובה הסופית הוא בוחן אותה מבפנים. הוא מזהה חלקים שיש בהם סיכון להטיה או שגיאה ומוסיף להם וידוי. זהו תהליך שמאמן את המערכת לשקול מחדש את המידע ולבחור ניסוח זהיר יותר.
התוצאה ניכרת בשני מישורים. הראשון הוא ירידה בכמות הזיות AI בתשובות מורכבות. במקום להמציא פרטים חסרים, המודל מצביע על גבולותיו. השני הוא שיפור באינטראקציה עם המשתמש. כאשר ChatGPT מבקש הבהרה או מסביר מדוע אינו בטוח, נוצרת שיחה יציבה ושקופה יותר. במבחנים פנימיים שנערכו בחברה נרשמו פחות תשובות מטעות ויותר תשובות זהירות.
אחד החוקרים מציין כי הטכניקה אינה פוגעת ביכולת המודל לייצר תוכן עשיר. להפך, היא הופכת אותו ליעיל יותר, משום שהיא מפחיתה טעויות שמובילות לאי שביעות רצון משתמשים. ברגע שמודל מזהה חולשה ומצהיר עליה, המשתמש יכול לכוון אותו מחדש במקום להסתמך על מידע בעייתי.
ההשפעה על משתמשים בישראל
הגישה החדשה עשויה להשפיע באופן ישיר על המרחב הדיגיטלי המקומי. עסקים ישראליים שמטמיעים יכולות AI בשירות הלקוחות או במערכות הפנימיות יכולים ליהנות ממודל שמנהל שיחה אמינה יותר. סטודנטים ומורים יקבלו תשובות שמציינות בבירור מתי יש ספק במקום להשאיר רושם מטעה. גם משתמשים פרטיים ירגישו ביטחון גבוה יותר בעת שימוש בכלי, במיוחד בנושאים שבהם שגיאה עלולה להיות יקרה.
ישראל נחשבת לשוק טכנולוגי מהיר תגובה. אימוץ של שיטות שמגבירות אמון במערכות עשוי להאיץ את שילוב הבינה המלאכותית במרחבים ציבוריים ומקצועיים. יזמים ומפתחים מקומיים עשויים לשלב את הטכניקה במוצרים שלהם ולהתאים אותה לצרכים של שוק דינמי.
השפעה רחבה על עולם הבינה המלאכותית
מעבר לשיפור המיידי באמינות, הגישה של OpenAI מעלה שאלות עמוקות על העתיד. אם מודלים מסוגלים לזהות חוסר ודאות, אולי בעתיד הם ילמדו להעריך את ההתפתחות האישית שלהם. לא במובן האנושי, אלא ברמת הכוונון. אפשר לדמיין מצב שבו מערכת מנהלת רשימת נקודות תורפה ומעדכנת אותה בכל אינטראקציה. רעיון כזה יכול לפתוח דלת למחקרים חדשים בתחומי הבקרה והבטיחות.
הטכניקה גם מתחברת לדיון רחב יותר על רגולציה. בעולם כמו גם בישראל עולה השאלה איך להבטיח שמערכות AI יפעלו באופן אחראי. מנגנון שמעודד מודל להיות שקוף לגבי מגבלותיו עשוי להפוך לחלק מהסטנדרט התעשייתי.
OpenAI מגדירה את גישת הוידויים כצעד נוסף במאמץ להפוך את ChatGPT למערכת אמינה ובטוחה. מדובר בתזכורת לכך שאמינות אינה רק תוצאה של עוצמה חישובית, אלא גם של תהליכי בקרה חכמים. אם הטכניקה תמשיך להוכיח עצמה, היא עשויה להפוך למרכיב מרכזי במודלים עתידיים.
האם זו תהיה סוף תופעת ההזיות? כנראה שלא באופן מוחלט. אך זהו צעד משמעותי שמקרב את עולם הבינה המלאכותית למציאות שבה אנו יכולים לסמוך יותר על מערכות שאנו משתמשים בהן מדי יום.
