ביטחון גרעיני

מנגנוני הגנה גרעיניים ל-AI: שיתוף פעולה חסר תקדים בין אנתרופיק לממשל האמריקאי

חברת אנתרופיק, מפתחת מודל השפה הגדול Claude, הודיעה על פריצת דרך משמעותית בתחום בטיחות ה-AI. בשיתוף פעולה עם מנהל הביטחון הגרעיני הלאומי של ארה"ב (NNSA) ומעבדות לאומיות של משרד האנרגיה, החברה פיתחה סווגן מבוסס AI. הסווגן מסוגל להבחין בין שיחות תמימות לשיחות מסוכנות הקשורות לטכנולוגיה גרעינית בדיוק של 96% בבדיקות ראשוניות, וכבר נפרס בתעבורת המשתמשים של Claude כדי לזהות שימוש לרעה. שותפות זו מדגימה את כוחם של שיתופי פעולה ציבוריים-פרטיים בהתמודדות עם סיכוני AI מתפתחים.