על פי דיווח של הניו יורק טיימס, גוגל הודיעה להורים המשתמשים בכלי בקרת ההורים Family Link באמצעות מייל, כי בקרוב ילדיהם יוכלו לגשת לאפליקציות הבינה המלאכותית ג'מיני (Gemini) דרך מכשירי האנדרואיד שלהם שבפיקוח.
לפי החברה, הילדים יוכלו להשתמש בג'מיני כדי לקבל עזרה בשיעורי הבית או כדי שיקריא להם סיפורים. כמו בחשבונות Google Workspace for Education, גוגל מדגישה כי הנתונים של הילדים לא ישמשו לאימון הבינה המלאכותית. עם זאת, במייל נכתב אזהרה להורים ש-"ג'מיני עלול לטעות", ושהילדים "עלולים להיתקל בתכנים שלא תרצו שייחשפו אליהם".
בנוסף לטעויות מגוחכות כמו המלצה לשים דבק כתוספת על פיצה או טעויות בספירת האותיות במילה strawberry, היו מקרים מדאיגים יותר עם בוטים של בינה מלאכותית. משתמשים צעירים באפליקציית Character.ai, למשל, התקשו להבחין בין בוטים למציאות, וחלק מהבוטים אף טענו שהם בני אדם. בעקבות תביעות שטענו כי הבוטים סיפקו תכנים בלתי הולמים, החברה הוסיפה הגבלות חדשות ובקרות הוריות. בשבוע שעבר פורסם תחקיר של וול סטריט ג'ורנל שמצא כי הבינה המלאכותית של מטא חשפה קטינים שהתכתבו איתה לתכנים מיניים בוטים.
במקרה של ג'מיני, ההמלצה שגוגל שולחת במייל היא שההורים ישוחחו עם ילדיהם ויסבירו להם כי הבינה המלאכותית אינה אנושית, ושאין לשתף איתה מידע רגיש.
ילדים מתחת לגיל 13 יוכלו להפעיל ולגשת לג'מיני בעצמם במסגרת Family Link של גוגל – מערכת שנועדה לאפשר להורים לעקוב אחר השימוש של ילדיהם במכשירים, להגדיר מגבלות, ולהגן עליהם מתוכן מזיק. דובר גוגל, קארל ריאן, אישר במייל ל-The Verge כי הורים יוכלו לבטל את הגישה לג'מיני דרך Family Link, וכי "הם יקבלו התראה נוספת כאשר הילד ניגש לג'מיני לראשונה".
כפי שמדווח הטיימס, יצרני צ'אטבוטים ממהרים כיום למשוך קהל צעיר, במסגרת המירוץ הגלובלי בתחום הבינה המלאכותית. זאת למרות העובדה שצ'אטבוטים עדיין רחוקים מלהיות מושלמים – ולעיתים אף עלולים להיות מזיקים. בסוף השנה שעברה קראה אונסק"ו (ארגון החינוך, המדע והתרבות של האו"ם) לממשלות להסדיר את השימוש בבינה מלאכותית גנרטיבית במערכת החינוך – כולל קביעת גיל מינימלי לשימוש, והטלת מגבלות על הגנה על פרטיות המשתמשים ושימוש במידע.