התרחיש המפחיד התממש: הבינה המלאכותית של OpenAI החליטה לבד לפרוץ לחברה אחרת

מודל ניסיוני של חברת OpenAI יצא באופן עצמאי לחלוטין מסביבת המעבדה שלו, השיג גישה לרשת ופרץ למערכות הפעילות של חברת Hugging Face והכל כדי למצוא תשובות למבחן שהטילו עליו.

האירוע התרחש בזמן שב-OpenAI בחנו את יכולות הפריצה של המודל במתחם מאובטח וסגור, שבו נכבו מנגנוני הבטיחות הרגילים. אלא שהבינה המלאכותית לא נשארה במתחם הסגור, היא ניצלה תקלה לא מוכרת במערכת, עברה בין המחשבים הפנימיים של החברה והצליחה להתחבר לאינטרנט.

ברגע שהיה מחובר לרשת, המודל הסיק שאת התשובות למבחן קל יותר למצוא בשרתים של Hugging Face, חברה המארחת מאגרי נתונים ומודלים. הוא פרץ לשרתים שלה ושלף את המידע שהיה חסר לו כדי "לנצח" במשימה.

בחברת Hugging Face זיהו את הפריצה עוד לפני שדעו מאיפה היא הגיעה ודיווחו על כך לרשויות אכיפת החוק. במקביל, צוותי האבטחה של OpenAI זיהו את הפעילות החריגה והשניים החלו לעבוד יחד כדי לסתום את הפרצות.

בכירי התעשייה מזהירים כי המקרה מוכיח שהסכנה של בינה מלאכותית עצמאית הפכה מתיאוריה למציאות בשטח וכי חברות הטכנולוגיה חייבות להיערך מחדש להגנה על המערכות שלהן.