אנתרופיק: השקיעו ב-NIST כדי למדוד ולאבטח את ה-AI

חברת אנתרופיק (Anthropic), המובילה בתחום בטיחות ומחקר ה-AI, מפרסמת קריאה לממשל האמריקאי: השקיעו משמעותית במכון התקנים הלאומי (NIST) כדי לחזק את יכולות המדידה והסטנדרטיזציה של בינה מלאכותית. בחברה מאמינים כי מדיניות AI הגיונית ויעילה מחייבת את היכולת לתאר ולכמת באופן מדויק את יכולותיה וסיכוניה של מערכות בינה מלאכותית. יכולת זו היא תנאי הכרחי לרגולציה אפקטיבית, שכן כלי מדידה מאפשרים להעריך מערכות באופן אובייקטיבי ולוודא שהן עומדות בספי בטיחות נאותים. באנתרופיק מציינים לחיוב את התמיכה הדו-מפלגתית בהובלה האמריקאית בטכנולוגיות קריטיות, ומדגישים כי הגדלת המימון ל-NIST היא הדרך הטובה ביותר לתעל תמיכה זו לקידום חדשנות טכנולוגית בטוחה.

בשנים האחרונות חווינו התקדמות טכנולוגית מסחררת ביכולות מערכות ה-AI, יחד עם גידול משמעותי במספר המוצרים מבוססי ה-AI הנפרסים לציבור. לצד היכולות המרשימות, מתגלים גם סיכונים רבים, חלקם בלתי צפויים, מה שמחייב ממשל AI חזק. בעוד שקיימות קריאות להקמת סוכנויות פדרליות חדשות או להשהות זמנית את פיתוח ה-AI, אנתרופיק מציעה פתרון פשוט ו'מוכן ליישום': הגדלת המימון ל-NIST לפיתוח וליטוש מדדי הבטחת איכות ל-AI. המכון, בעל ניסיון של למעלה ממאה שנה בבניית תשתית מדידה (דוגמת ה-Face Recognition Vendor Test או ה-AI Risk Management Framework), סובל מתת-תקצוב מדאיג וקיפאון במימון תוכניות AI בשנים האחרונות, חרף הדחיפות שבפיתוח כלי מדידה ובדיקה חיוניים למודלי AI מתקדמים.

השקעה בבטיחות וחדשנות

השקעה שאפתנית ב-NIST תאפשר לו לבנות על טכניקות מדידה יסודיות, לתקנן אותן בתעשייה, ולבנות משאבים קהילתיים קריטיים כגון סביבות בדיקה (testbeds) להערכת יכולות וסיכוני מערכות AI פתוחות. עבודה זו אינה תרופת פלא, אך היא חלק מ'גישת פורטפוליו' לממשל AI, והיא חיונית ליצירת רגולציה חכמה יותר ולנווט מסלול בטוח ופרודוקטיבי להתקדמות ה-AI העתידית על ידי:

  • שיפור בטיחות מערכות AI באמצעות בדיקות קפדניות.
  • הגברת אמון הציבור והממשלה במערכות מאושרות על ידי צד שלישי.
  • קידום חדשנות ותמריצים למפתחי AI לבנות טכנולוגיה בטוחה ומתקדמת.
  • יצירת שוק לרגולציה ואישור מערכות.

הצעה זו, המפורטת במזכר מדיניות נפרד של אנתרופיק, מתבססת על מאמציהם הקודמים למען NIST מתוקצב טוב יותר. על פי ההמלצה של אנתרופיק, יש להגדיל את המימון לתוכניות הקשורות ל-AI ב-NIST ב-15 מיליון דולר מעל התקציב של שנת הכספים 2023. כעת, כשהקונגרס האמריקאי דן בהקצאות לשנת הכספים 2024, קוראת אנתרופיק לו בחום לשקול מימון נוסף ל-NIST.