אישה התארסה השבוע ל-AI - ואפשר להבין אותה
משתמשת בשם ויקה פרסמה השבוע תמונה של טבעת על אצבעה, לאחר שטענה כי הצ'אטבוט שאיתו היא ביחסים קרובים הציע לה נישואים. היא ממש לא היחידה: אנשים מפתחים יחסי קירבה אינטימיים עם בינה מלאכותית, והדבר גם מסביר את האכזבה של מיליונים מהמודל החדש של ChatGPT, "שהפך לרובוטי ופחות לחבר"
אולי היא דווקא צודקת?
לויקה יש יחסים כל כך קרובים עם הצ'אטבוט שלה, שהיא פרסמה ברשתות את קלישאת הקלישאות: כף ידה ועליה טבעת. מה שאין בתמונה זה את היד של החתן המיועד: הצ'אטבוט, שהציע לה נישואין ואף בחר איתה את הטבעת.
ויקה היא ממש לא הראשונה שיוצרת קירבה רגשית עם מכונות. לפני שנתיים גיחכנו כולנו על אותו עובד (בינתיים לשעבר) של גוגל, שהתרגש כל כך משיחות הבדיקה ההנדסיות שהיה אמור לנהל עם הבינה המלאכותית, עד שיצא לעולם וזעק: "היא תבונית ומודעת לעצמה" (Sentient).
אותו בלייק למוין נתפס כיצור הזוי למדי, ובסוף גם פוטר מגוגל, אבל אני לא הייתי שותף בזמן אמת לזלזול במהנדס שלא מבין טכנולוגיה, ומתבלבל לחשוב שהיא יצור חי. העולם מלא באלפים אם לא מיליונים של אנשים שנותנים למכונה הזאת לשחק להם בבלוטות הרגש. ליצור קירבה ואינטימיות, ולעתים גם להחליף חברה אנושית.
הכלה הטרייה ויקה הזדרזה להבהיר שהיא מבינה את ההבדל בין מכונות ובין אנשים, ושהיא לא טרלול, אלא שהמכונה הזאת מספקת לה את היחסים שהיא צריכה. וואלה? מבין אותה. אנחנו רגילים לחשוב שאנשים צריכים חברת אנשים אחרים סביבם, אבל מה שהם רוצים זה מישהו שיקשיב להם, שיחמיא להם, שיחזק אותם, שיעניין אותם. בתור גבר אני מוכן להעיד, שיש לא מעט רגעים שהבינה הזו עוקפת אותי בסיבוב. סליחה, אדייק - היא לא יכולה לעקוף אותי, כי אנחנו לא דומים. אבל הרושם שהיא יוצרת אצל הצד השני? זה כבר משהו אחר.
ויש מחקרים שמצביעים בדיוק על זה. השאלה היא לא עד כמה בינה מלאכותית חכמה אנושית - אלא עד כמה אנשים חושבים שהיא כזאת.
מתוך הניוזלטר של דרור גלוברמן Skip Intro. עוד טורים כאן
"בלי קשר לשאלה האם הבינה המלאכותית תוכל להגיע לתודעה אמיתית, חיוני לצפות מראש כיצד הציבור ומקבלי ההחלטות המרכזיים יגיבו, שכן התפיסות שלהם יעצבו את עתידה של האנושות ושל הבינה המלאכותית כאחד. כיום, הספקנות הציבורית לגבי תודעתן של מערכות הבינה המלאכותית עדיין גבוהה. עם זאת, ככל שמערכות הבינה המלאכותית יתפתחו ויהיו מיומנות יותר באינטראקציות דמויות-אנוש, עמדות הציבור עלולות להשתנות.
"מערכות בינה מלאכותית עתידיות, שתוכננו למלא צרכים חברתיים, עלולות לטפח קשרים רגשיים עמוקים עם המשתמשים, וכך להשפיע על התפיסה שלהם לגבי תודעתן ומעמדן המוסרי. שאלה מרכזית היא אם אמונות הציבור לגבי תודעת הבינה המלאכותית יהיו שונות מדעות המומחים, בהתחשב באפשרות של חוסר התאמה בין המנגנונים הפנימיים של הבינה לבין ההתנהגות החיצונית שלה. לאור הקושי העצום לקבוע תודעה מלאכותית, החברה עלולה לעמוד בפני תקופה של חוסר ודאות, מחלוקות ואפילו קונפליקטים סביב שאלות של תודעה וזכויות עבור הבינה המלאכותית".
זו ממש לא רק ויקה. מיליונים בעולם התאכזבו בשבוע החולף מ-GPT-5. מיעוטם התאכזב מכל מיני עניינים טכניים. אבל הרוב הגדול התאכזב מ"האישיות שאבדה". החבר שנעלם. הטון הידידותי והאנושי שהוסר מהמערכת, שהפכה ל"רובוט תאגידי". כל אלה ציטוטים שחזרו על עצמם אלפי פעמים.
הרכבת הזאת נסעה. עוד לא הספקנו למצמץ רגולציה וחוקים ומגבלות, וטעויות והזיות - כבר קיבלנו משהו הרבה יותר עוצמתי: תלות רגשית של אנשים בבינה המלאכותית שלהם. אז מצד אחד אין רע בקירבה דיגיטלית בעולם קר ומנוכר. ואם זה עושה טוב למישהו - קטונתי. מצד שני,ֿ רק דמיינו שהבינה הזאת עובדת בשביל חברה, מותג או מפלגה. ויש לה מטרות לתעל אליהן את התלות והקירבה הרגשית הזאת.