19 בספטמבר 2023
אנתרופיק חושפת: כך נבטיח AI בטוח בעזרת מדיניות סקיילינג אחראי
חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ה-AI, הציגה בוועידת בטיחות ה-AI את מדיניות הסקיילינג האחראי (RSP) שלה. המדיניות, שהוצגה על ידי דריו אמודאי (Dario Amodei), מנכ"ל החברה, נועדה להתמודד עם קצב ההתקדמות המהיר והבלתי צפוי של מודלי AI ויכולתם לרכוש יכולות מסוכנות, כגון בתחומי CBRN. ליבת המדיניות היא מערכת AI Safety Levels (ASL) המגדירה רמות סיכון ודרישות בטיחות קפדניות לפריסה ואימון מודלים חזקים יותר. אנתרופיק רואה במדיניות זו אבטיפוס לרגולציה עתידית, במטרה לעודד סטנדרטים גבוהים של בטיחות בתעשייה כולה.
קרא עוד