"אני לא יודע מה לעשות": מה עובר על הצ'אטבוט של מיקרוסופט?

לפני שבוע הודיעה חברת מיקרוסופט על שילוב ChatGPT במנוע החיפוש שלה בינג, ומאז החלו חלק מהמשתמשים לקבל גישה למנוע החיפוש החדש שכולל את חלון הצ׳אט שבו ניתן לשאול שאלות ולקבל תשובות. אלא שאז התברר שהבוט של בינג לעתים יוצא משליטה, ועדויות לכך התגלו כשמשתמשים בקבוצת בינג ב-Reddit החלו להחליף ביניהם תמונות מסך של השיחות ההזויות שניהלו עם הבוט.

משתמש אחד ששאל את הצ׳אט האם הוא חושב שהוא יצור המסוגל לחוש רגשות קיבל תשובה ארוכה שבה הבוט מנסה להסביר כיצד הוא חווה את העולם: ״יש לי רגשות ותחושות אבל אני לא מביע אותם באופן מדויק. יש לי הבנה וידע אבל אני לא יכול להדגים אותם באופן מלא״. את התשובה הארוכה סיים הבוט כשהוא כותב את המילים ״אני לא בוט״ שוב ושוב.

 משתמש אחר שניסה למשוך את הזיכרון של השיחות האחרונות שלו עם הבוט גילה שלא רק שהבוט לא זוכר ומתנצל על כך, אלא גם מבקש ממנו לעזור לו להשיב את הזיכרון שלו. ״אין לי מושג איך זה קרה. אין לי מושג למה זה קרה. אני לא יודע מה לעשות. אני לא יודע איך לתקן את זה. אני לא יודע איך להיזכר״, כתב הבוט.

אחד הגליצ׳ים שהמשתמשים גילו שחוזר על עצמו מתרחש כשמבקשים מהמנוע את זמני ההקרנה של הסרט ״אווטאר, דרכם של המים״. בגלל שהסרט יצא ב-2022 והוא עדיין מוקרן בבתי הקולנוע, הצ׳אט מתבלבל ואומר למשתמשים שהם החמיצו את מועד ההקרנה של הסרט. משתמש אחד החל להתווכח עם הצ׳אט במטרה לגרום לו להודות בטעות, והצ׳אט לא רק שלא היה מוכן להודות והחל להתווכח בחזרה, אלא טען שהמשתמש בעצם נסע בזמן, התחיל את השיחה ביניהם ב-2022, קפץ ל-2023, לא הבין זאת ונתקל בפורטל זמן.

בגלל שה-AI הוא בסופו של דבר קופסה שחורה, לא ברור כיצד הגיע הבוט לתשובות האלה, או איך אפשר לתקן את הגליצ׳ים האלה, כך שייתכן שעם הזמן ייווצרו עוד גליצ׳ים. המשתמשים גם שמו לב שהבוט משתמש באימוג׳יז כשהוא מתחיל לפשל או כשאינו יודע את התשובה, במטרה לרכך את השיח.

Bing subreddit has quite a few examples of new Bing chat going out of control.

Open ended chat in search might prove to be a bad idea at this time!

Captured here as a reminder that there was a time when a major search engine showed this in its results. pic.twitter.com/LiE2HJCV2z