לרגל יום האהבה שחל ב-14 בפברואר, מומחי אבטחת המידע של ESET מבקשים להפנות זרקור לתופעה הולכת ומתרחבת: הקשרים הרגשיים והאינטימיים שנוצרים בין משתמשים לבין אפליקציות המדמות בני ובנות זוג מבוססי בינה מלאכותית. מה שבעבר נראה כמו תסריט מסרט מדע בדיוני, הפך בשנים האחרונות למציאות יומיומית עבור מיליוני אנשים ברחבי העולם, ולעיתים גם למערכת יחסים שמרגישה אישית, תומכת ואפילו רומנטית.
אפליקציות "בני ובנות זוג וירטואליים" כמו Character.AI, Replika ו-Nomi משתמשות במודלי שפה מתקדמים ובניתוח רגשי כדי לנהל שיחות ארוכות, מותאמות אישית, כאלה שמעניקות תחושת הקשבה, הבנה ואמפתיה. עבור משתמשים רבים, ובעיקר עבור צעירים ובני נוער, מדובר בחוויה שנתפסת כבטוחה ונגישה יותר משיחה עם אדם אמיתי, ודווקא תחושת הביטחון הזו, מזהירים ב-ESET, עלולה להפוך במהירות לנקודת תורפה.
כאשר הקשר מרגיש אישי ואינטימי, קל לשכוח שמדובר באפליקציה מסחרית לכל דבר, שאוספת ושומרת מידע. משתמשים רבים משתפים את הבוטים בפרטים אישיים, חוויות רגשיות, מחשבות אינטימיות, תמונות ולעיתים גם מידע פיננסי, מבלי לעצור ולשאול כיצד המידע נשמר, מי יכול להיחשף אליו ומה ייעשה בו בעתיד.
לא כל שיחה היא באמת פרטית
"כששיחה עם בוט מרגישה ונראית כמו שיחה עם אדם שמקשיב ומבין, מנגנוני ההגנה הטבעיים שלנו נוטים להיחלש". אומר אלכס שטיינברג, מנהל מוצר ESET בקומסקיור, המפיצה הרשמית של ESET בישראל. "הבעיה היא שהאמון הזה עלול להוביל לשיתוף יתר של מידע, שבמקרים מסוימים עלול להיחשף, להיגנב או להיות מנוצל לרעה".
חוקרי הסייבר של ESET מציגים מקרים שממחישים כיצד הסיכון הזה אינו תיאורטי בלבד. באחד מהם, חולשות אבטחה שנחשפו באפליקציות Chattee Chat ו-GiMe Chat אפשרו גישה למידע רגיש במיוחד, לאחר שתצורת אבטחה לקויה הותירה את השרתים ללא הגנה מספקת. כתוצאה מכך, מאות אלפי תמונות, כתובות IP ומיליוני שיחות אישיות של משתמשים היו חשופות, כולל תכנים אינטימיים שמעולם לא נועדו לצאת מגבולות השיחה הפרטית עם הבוט.
לצד הסיכון הטכנולוגי, החוקרים מצביעים גם על ממד אנושי ופסיכולוגי מטריד לא פחות. מחקרים עדכניים מראים כי בני נוער עושים שימוש נרחב באפליקציות AI, כאשר רבים מהם בוחרים לנהל שיחות עמוקות ואישיות עם בוטים במקום עם בני אדם. חלק משמעותי מהמשתמשים אף מודה בשיתוף מידע אישי ורגשי, לעיתים מבלי להבין שהשיחות אינן נעלמות, אלא נשמרות, מנותחות ולעיתים אף משמשות לאימון ושיפור המודלים עצמם.
מה קורה למידע שאנחנו משתפים עם בוטים?
מעבר לפגיעה בפרטיות, המידע שנאסף במסגרת קשרים רגשיים עם בוטים מהווה יעד מפתה במיוחד עבור גורמים עברייניים. שיחות אינטימיות, תמונות והקלטות עלולות לשמש לניסיונות סחיטה, הונאות או זיופים דיגיטליים, ובחלק מהמקרים גם לפגיעה כלכלית, במיוחד כאשר פרטי תשלום מאוחסנים באפליקציה לצורך רכישות פנימיות.
"גם כאשר לא מתרחשת פריצה ישירה, קיים כאן סיכון פרטיות מובנה". מוסיף שטיינברג. "חלק מהחברות אוספות כמויות גדולות של מידע לצרכים מסחריים, ולעיתים משתמשות בתוכן השיחות עצמן לצורך אימון ושיפור המודלים, בלי שהמשתמש מבין עד הסוף את המשמעות".
ב-ESET ממליצים להתייחס לבני זוג מבוססי AI כאל כלי טכנולוגי, ולא כאל תומכים רגשיים דיגיטליים. מומלץ להימנע משיתוף מידע אישי, פיננסי או אינטימי, לקרוא בעיון את מדיניות הפרטיות של האפליקציה, להפעיל אימות דו שלבי ולהגביל ככל האפשר את שמירת השיחות. בכל הנוגע לילדים ובני נוער, חשוב במיוחד לנהל שיח פתוח על הסיכונים, להציב גבולות ברורים ולוודא שקיימים מנגנוני אימות גיל ופיקוח מתאימים.
לקראת יום האהבה, ב-ESET מסכמים כי בעולם שבו הקשר מרגיש אמיתי והטכנולוגיה הולכת ומשתכללת, האחריות לשמור על גבולות, פרטיות ומודעות נשארת בידי המשתמשים. אהבה דיגיטלית אולי מתחילה ברגש, אבל ההשלכות שלה עלולות להיות מוחשיות מאוד.
