נשיא מיקרוסופט מזהיר: "לקרטון חלב בסופר יש יותר כללי בטיחות מאשר לבינה מלאכותית"

נשיא מיקרוסופט, בראד סמית, יצא היום (שני) בקריאה חריפה לממשלות העולם לקבוע בדחיפות כללי בטיחות מחייבים לבינה המלאכותית. "כרגע, מכונת הכביסה שלכם כפופה ליותר כללי בטיחות מאשר בינה מלאכותית", אמר סמית בראיון. "כל קרטון חלב שאתם רואים בסופר כפוף לכללי בטיחות ולפיקוח".

לדבריו, הבינה המלאכותית היא "גם כלי וגם נשק", והיא מתקדמת מהר יותר מקצב הבטיחות. "זה לא טוב להגנה על הציבור, וזה אפילו לא טוב לתעשייה עצמה", אמר. לדבריו, הרגולציה העצמית של החברות כבר "לא מספיקה", כי חברות פחות אחראיות לא בהכרח יעמדו באותם סטנדרטים.

שלוש הדרישות של מיקרוסופט

סמית הציג שלושה צעדים. הראשון הוא "בלם חירום", מה שמכונה בתעשייה "מתג השבתה": כל מערכת AI ששולטת במכשירים אוטונומיים או בתשתיות קריטיות תחויב באפשרות לעצור אותה או להאט אותה אם היא יוצאת משליטה.

השני הוא חובה חוקית לכתוב דוח על כל תקרית ולהודיע ל"נפגע" כשסוכן AI שיצא משליטה חודר למערכת שלו. הצעד השלישי, שסמית הגדיר כחשוב מכולם, הוא בדיקה של מודלים מתקדמים בידי בודקים ממשלתיים עצמאיים, שיאשרו אותם לפני שהם יוצאים לשוק, בדומה לאישור שנדרש למטוסי נוסעים.

גם מנכ"ל מיקרוסופט דורש בלם

הדברים של סמית מגיעים יומיים אחרי שמנכ"ל מיקרוסופט, סאטיה נאדלה, קרא גם הוא לצייד את מודלי הבינה המלאכותית ב"בלם חירום". "אנחנו לא יכולים להתייחס לסופר-אינטליגנציה כאל אוסף של קופסאות שחורות, ופשוט לקבל או לדחות את ההמלצות, התשובות והפעולות שלה", כתב נאדלה. "עלינו לבנות מערכות סגורות שאת ההתנהגות שלהן אפשר לראות, את הגבולות שלהן אפשר לבדוק, ואת הפעולות שלהן אפשר תמיד לעצור".

על רקע התקריות האחרונות

הקריאות להדק את הפיקוח מגיעות אחרי שבוע סוער בתחום. Anthropic חשפה בימים האחרונים שמודל ניסיוני שלה שלח למשטרת פילדלפיה מידע כוזב על רצח לא מפוענח, ושלח טפסים אמיתיים באתרי ממשל בזמן ניסויים, ובעקבות זאת החליטה לנתק מהאינטרנט את כל הבדיקות הפנימיות של המודלים שלה.

סמית ציין את בריטניה כמדינה שמתאימה ביותר להוביל את כללי ה-AI העולמיים, ואמר שלמכון הבריטי לאבטחת AI יש היכולת הטכנית החזקה בעולם לבדוק מודלים. בבריטניה צפוי שר הבינה המלאכותית, קנישקה נאראיאן, לקרוא היום לחברות שמפתחות מודלים מתקדמים להשקיע יותר בהגנות, ולהודיע שהממשלה נערכת לחוקק כללי פיקוח הדוקים יותר.

מיקרוסופט מפעילה תשתיות ענק של בינה מלאכותית, והיא גם בעלת מניות ב-OpenAI, החברה שמאחורי ChatGPT.