אנתרופיק מקבלת הסמכת ISO 42001 ל-AI אחראי
אנתרופיק (Anthropic), מפתחת מודלי השפה הגדולים (LLM) המתקדמים של Claude, הודיעה כי קיבלה הסמכה רשמית לפי תקן ISO/IEC 42001:2023 החדש למערכת ניהול ה-AI שלה. תקן זה הוא התקן הבינלאומי הראשון המגדיר דרישות לרגולציה וניהול של בינה מלאכותית, ומטרתו להבטיח שמערכות AI יפותחו וישמשו באופן אחראי. הסמכה זו, שמגיעה לאחר ביקורת חיצונית קפדנית, מהווה הוכחה למחויבותה של אנתרופיק לבטיחות ופיתוח אחראי של AI, ומספקת אישור עצמאי לכך שהחברה הטמיעה מסגרת מקיפה לזיהוי, הערכה והפחתת סיכונים פוטנציאליים הקשורים למערכות ה-AI שלה.
בין המרכיבים המרכזיים של המסגרת שזוכה להסמכה, ניתן למצוא:
- מדיניות ותהליכים המבטיחים שמערכות AI מתוכננות, מפותחות ונפרסות באופן אתי, מאובטח ואחראי;
- בדיקות וניטור קפדניים לוודא שהמערכות פועלות כמצופה וכי השפעות שליליות פוטנציאליות מטופלות באופן יזום;
- אמצעי שקיפות המספקים מידע מתאים למשתמשים ובעלי עניין;
- תפקידים, אחריות ופיקוח מוגדרים לשמירה על פרקטיקות אחראיות.
אנתרופיק הדגישה כי היא אחת ממעבדות ה-AI החזיתי הראשונות שקיבלו הסמכה זו, וכי היא מקווה שתספק ביטחון נוסף לשותפיה ולציבור לגבי מחויבותה החזקה לבטיחות AI. הסמכת ה-ISO 42001 נבנית על בסיס עבודתה הקיימת של אנתרופיק בפיתוח AI בטוח ואחראי, הכוללת את השקת ועדכון מדיניות ה-Responsible Scaling Policy שלה, פריסת גישת ה-AI החוקתי (Constitutional AI) שמסייעת למודלים לפעול ביישור עם ערכי אנוש, ומחקר פעיל בתחומי בטיחות ועמידות ה-AI. את ההסמכה העניקה חברת Schellman Compliance, LLC, גוף הסמכה חיצוני.
המשך המחוייבות למנהיגות ב-AI אחראי
מעבר לתקן ISO 42001, אנתרופיק ביצעה מספר התחייבויות וולונטריות נוספות המדגימות את מסירותה לפיתוח AI אחראי. התחייבויות אלו מכסות תחומי מפתח כמו הערכת סיכונים והפחתתם, הגנות אבטחה ופרטיות, ומאמצי מודעות ציבורית. עם התעצמותן של מערכות ה-AI, בטיחות ואבטחה נשארות בראש סדר העדיפויות של מחקריה וחדשנותה של החברה, והסמכת ה-ISO 42001 מהווה אבן דרך חשובה במסע זה. מידע נוסף על ההסמכה זמין במרכז ה-Trust Center של החברה, וכולל את התעודה שהונפקה, סקירה של התקן, משמעותו וכיצד הוא מחזק את מחויבותה של החברה לפיתוח AI אחראי.
