אנבידיה תורמת לבריטניה כוח מחשוב בשווי 250 מיליון דולר למחקר על בטיחות סוכני AI

ענקית השבבים אנבידיה הודיעה היום (רביעי) בלונדון על תרומה של כוח מחשוב בשווי 250 מיליון דולר לבריטניה, שתתפרס על פני חמש שנים ותוקדש כולה למחקר על בטיחות ואבטחה של סוכני בינה מלאכותית, כלומר מערכות AI שמבצעות משימות בעצמן ולא רק עונות על שאלות. במסגרת ההתחייבות יקבלו החוקרים בבריטניה גישה למחשוב בשווי 50 מיליון דולר בכל שנה.

לאן יגיע כוח המחשוב

את רוב המשאבים תקבל קהילת המחקר הרחבה בבריטניה בתחום הבטיחות והאבטחה של בינה מלאכותית. חלק מהתרומה יופנה לשלושה גופים מרכזיים: מעבדת BOLD בהובלת אוניברסיטת אוקספורד, שמפתחת שיטות שיאפשרו למערכות AI ללמוד, להסתגל ולפעול לצד בני אדם; מעבדת SOFAIR בהובלת יוניברסיטי קולג' לונדון (UCL), שחוקרת ארכיטקטורות חדשות של בינה מלאכותית בקוד פתוח; ואימפריאל קולג' לונדון, שתתמקד בהנדסת בטיחות וברובוטיקה.

המחקרים יעסקו בעיקר בסוכנים מאובטחים, באבטחה של מודלים פתוחים ובהתמודדות עם איומים אמיתיים. בין היתר ייבנו סביבות ניסוי סגורות, שבהן אפשר לבחון סוכנים בלי לסכן מערכות אמיתיות, וגם מדדים אחידים להערכת בטיחות. חלק מהעבודה ייעשה בעזרת תוכנת OpenShell של אנבידיה ותכנון הייחוס Sentry שלה. לדברי החברה, הממצאים נועדו לשפר את ההגנות בכל עולם המחשוב.

השרתים יישארו בבריטניה

אנבידיה לא תעביר כסף ישירות לאוניברסיטאות. היא תממן גישה למחשוב דרך ספקי ענן בריטיים שעובדים איתה, והתשתית עצמה תתארח בתוך בריטניה. החברה ציינה שזהות הספקים, המבנה הטכני והתנאים המסחריים עוד ייקבעו. ההתחייבות מצטרפת לשיתוף פעולה קיים עם קהילת המחקר הבריטית, ובו מחשב העל Isambard-AI באוניברסיטת בריסטול, שפועל על שבבי Grace Hopper של אנבידיה.

"היכולת והבטיחות צריכות להתקדם יחד"

"היכולות של הבינה המלאכותית והבטיחות שלה חייבות להתקדם יחד", אמר ג'נסן הואנג, מייסד ומנכ"ל אנבידיה. "בריטניה מביאה רמה מדעית עולמית לאתגר ההנדסי החיוני הזה. עם ההתחייבות הזו נשים מחשוב מואץ בידי החוקרים הבריטים, כדי שיפתחו, יבדקו ויחזקו הגנות לבינה מלאכותית שנעשית חזקה יותר ויותר".

שר הבינה המלאכותית הבריטי, קנישקה נאראיאן, אמר שהתרומה היא "הבעת אמון בכוח ובמומחיות של בריטניה במחקר בינה מלאכותית, ובמיוחד בבטיחות של מערכות מתקדמות". לדבריו, היא תעזור לבנות בבריטניה עתיד של בינה מלאכותית שיהיה "בטוח, מאובטח ויפעל לטובת האנשים", יעדים שיעמדו במרכז נשיאות בריטניה ב-G20. שר העסקים ג'ונתן ריינולדס הוסיף ש"כדי לממש את ההזדמנויות של הבינה המלאכותית, אנשים צריכים להרגיש שהיא בטוחה".

חלק מסיבוב אירופי

ההכרזה הגיעה ביום השני לסיבוב של הואנג באירופה, שכולל את פריז, לונדון וברלין. אתמול בפריז הוא אמר שאנבידיה תכריז בשבוע הקרוב על השקעות נוספות בהיקף של 2 מיליארד דולר ביבשת, מעבר ל-8 מיליארד דולר שהשקיעה בה בשנה האחרונה.

בריטניה מנסה למצב את עצמה כמרכז עולמי לבדיקת מערכות בינה מלאכותית ולניהול הסיכונים שלהן, בין היתר דרך המכון הממשלתי לאבטחת AI, אחד הגופים הממשלתיים הראשונים בעולם שהוקמו לשם כך. התחום קיבל דחיפה בחודשים האחרונים, אחרי שחברות כמו אנתרופיק ו-OpenAI חשפו מקרים שבהם סוכני AI פעלו באופן לא צפוי ולא רצוי.