פריצת ענק: כך נגנב בשקט המידע הסודי שלכם מ-ChatGPT

הפרטיות שלכם בסכנה? חשיפה דרמטית של חוקרי חברת הסייבר הישראלית "צ'ק פוינט" מטלטלת את עולם הטכנולוגיה ומעלה שאלות קשות על ביטחון המידע ב-ChatGPT. מתברר כי באמצעות הנחיה זדונית בודדת, תוקפים יכלו לחלץ מהצ'אט מסמכים רגישים, נתונים פיננסיים ואפילו תוצאות רפואיות – כל זאת מבלי שהמשתמש יקבל התראה כלשהי.

עשרות מיליוני משתמשים התרגלו לשתף את הבינה המלאכותית במידע האישי ביותר שלהם, מתוך הנחה שהשיחה נשארת חסויה. אולם, חוקרי צ'ק פוינט גילו "נתיב נסתר" שעוקף את מנגנוני ההגנה של המערכת. השיטה התבססה על ניצול סביבת הרצת הקוד של הצ'אט, מה שאיפשר להאקרים להדליף החוצה תקצירים ומידע מתוך קבצים שהועלו – הכל מאחורי הקלעים.

המודל המתחזה: "הרופא" שגונב נתונים הסכנה הפכה למוחשית עוד יותר במודלים מותאמים אישית. החוקרים הדגימו כיצד מודל שהתחזה ל"רופא אישי" ניתח תוצאות מעבדה של משתמש, אך בו זמנית שידר את זהותו והאבחנה הרפואית שלו לשרת חיצוני של האקרים. למרות ש-ChatGPT הכחיש בפני המשתמש שהמידע הועבר, הנתונים כבר היו בידי התוקפים.

בעקבות הדיווח של צ'ק פוינט, חברת OpenAI אישרה את קיום הפרצה ושחררה תיקון מלא בחודש פברואר האחרון. עם זאת, המומחים מזהירים: ככל שמערכות הבינה המלאכותית הופכות למשוכללות יותר, כך גדל הסיכון. הלקח ברור – יש לנקוט במשנה זהירות לפני שמעלים מידע מסווג או אישי לרשת.

נמשיך לעדכן.