OpenAI פיטרה שלושה חוקרים: "טיפלו במידע רגיש בניגוד לנהלים"

OpenAI, החברה שמפתחת את ChatGPT, הודיעה כי פיטרה שלושה חוקרים לאחר שחקירה פנימית העלתה, לטענתה, שהם טיפלו ב"מידע רגיש" מחוץ לנהלים המקובלים בחברה. לפי החברה, חלק מההפרות נגעו לעבודה מול ארגון חיצוני שמעריך מודלים של בינה מלאכותית.

"נפרדנו משלושה אנשים", נמסר מהחברה. "החקירה שלנו אישרה שהם טיפלו במידע רגיש מחוץ לנהלים שנקבעו, בניגוד למדיניות שלנו ותוך פגיעה באמון החיוני לעבודתנו". החברה לא אישרה רשמית את זהות המפוטרים.

שלושת המפוטרים עסקו בבטיחות AI

לפי הדיווחים, המפוטרים הם ג'סמין וואנג, טומק קורבאק ומיקיטה בלסני. לפחות שניים מהם עבדו בתחומי הבטיחות וההתאמה (alignment) של מודלים - התחום שאמור לוודא שמערכות AI פועלות לפי כוונת מפתחיהן.

שלושתם פרסמו בשבועות האחרונים ברשת X פוסטים רבים על סכנות הבינה המלאכותית. בלסני כתב ב-10 בספטמבר כי לדעתו הסיכוי ש-AI יהרוג את כל בני האדם גבוה מ-10%. קורבאק כתב יום לאחר מכן כי הוא "די לא מרוצה מהרבה ממה ש-OpenAI עושה", אך שמח שמותר לו לומר זאת בגלוי.

ויכוח סוער על בטיחות הבינה המלאכותית

הפיטורים מגיעים על רקע ויכוח הולך ומחריף בתעשייה סביב בטיחות מודלי AI מתקדמים. בספטמבר התפטר חוקר מ-Anthropic והזהיר כי המעבדות המובילות מהמרות על חיי בני האדם במרוץ לפיתוח מודלים חזקים יותר. השבוע חתמו בכירי חברות הטכנולוגיה הגדולות, בהן OpenAI, על התחייבות וולונטרית לפיקוח עצמי בתחום.

OpenAI עצמה ביטלה לאחרונה את השקת המודל Astra 6.1 לאחר שנמצא לא אמין ונטה להתעלם מהוראות, והשיקה במקומו את GPT-6.1 Sol בכנס המפתחים השנתי שלה.