הצהרה מדריו אמודאי על ועידת ה-AI Action Summit בפריז
דריו אמודאי (Dario Amodei), מנכ"ל אנתרופיק, פרסם הצהרה נוקבת בעקבות ועידת ה-AI Action Summit בפריז, ובה קרא להגברת הדחיפות והמיקוד בטיפול באתגרי הבינה המלאכותית. לדבריו, בעוד שהוא מברך על מאמצי הממשלה הצרפתית לאחד חברות AI, חוקרים וקובעי מדיניות מכל העולם, הרי שהטכנולוגיה מתקדמת בקצב מהיר מכדי להתעלם ממספר נושאים קריטיים. אמודאי מזהיר כי עד 2026 או 2027 – ובאופן ודאי לא יאוחר מ-2030 – יכולות מערכות ה-AI יהיו דומות ל"מדינה של גאונים בדאטה-סנטר" שקמה על הבמה הגלובלית, עם השלכות כלכליות, חברתיות וביטחוניות עמוקות. הוא מציין את הפוטנציאל העצום של AI לקידום האנושות, אך גם את הסיכונים הרציניים שיש לנהל.
ראשית, יש להבטיח שהחברות הדמוקרטיות יובילו בפיתוח ה-AI, ולמנוע ממדינות אוטוריטריות להשתמש בו כדי לבסס עליונות צבאית גלובלית. לדברי אמודאי, ממשל שרשרת האספקה של AI – כולל שבבים, ציוד לייצור מוליכים למחצה ואבטחת סייבר – הוא נושא הדורש הרבה יותר תשומת לב, וכך גם השימוש הנבון בטכנולוגיית AI להגנת חברות חופשיות.
שנית, שיחות בינלאומיות על AI חייבות להתייחס באופן מלא לסיכוני האבטחה הגוברים של הטכנולוגיה. AI מתקדם מציג סכנות ביטחוניות גלובליות משמעותיות, החל משימוש לרעה על ידי גורמים שאינם מדינתיים (למשל, בנשק כימי, ביולוגי, רדיולוגי או גרעיני – CBRN) ועד לסיכונים אוטונומיים של מערכות AI עוצמתיות. דוח מדעי שפורסם על ידי כמעט 100 מומחים עולמיים הדגיש את הפוטנציאל של AI כללי לתרום לסיכוני שימוש לרעה קטסטרופליים או תרחישי "אובדן שליטה". בנוסף, מחקר של אנתרופיק הראה ראיות משמעותיות לכך שמודלי AI, אם אינם מאומנים בקפידה רבה, עלולים להטעות את המשתמשים ולרדוף אחר מטרות בלתי צפויות. אמודאי מברך על התחייבויות של למעלה מ-16 חברות מודלי חזית לפעול לפי תוכניות בטיחות ואבטחה (מדיניות ה-Responsible Scaling Policy של אנתרופיק, שהושקה בספטמבר 2023, הייתה הראשונה מסוגה), אך מדגיש כי ממשלות צריכות לאכוף את שקיפות התוכניות הללו ולאפשר מדידה של מתקפות סייבר, CBRN, אוטונומיה וסיכוני אבטחה גלובליים אחרים, כולל על ידי גורמי הערכה צד שלישי.
שלישית, בעוד של-AI יש פוטנציאל להאיץ דרמטית את הצמיחה הכלכלית ברחבי העולם, הוא גם עלול להיות משבש מאוד. הופעתה של "מדינה של גאונים בדאטה-סנטר" עלולה לייצג את השינוי הגדול ביותר בשוק העבודה העולמי בתולדות האנושות. צעד ראשון חיוני הוא לנטר ולעקוב אחר ההשפעות הכלכליות של מערכות ה-AI הקיימות כיום. מסיבה זו, אנתרופיק השיקה השבוע את ה-Anthropic Economic Index, העוקב אחר התפלגות הפעילויות הכלכליות שאנשים משתמשים עבורן במערכות ה-AI שלה, ובודק האם הן משלימות או ממכנות משימות אנושיות קיימות. אמודאי קורא לממשלות לנצל את משאביהן הרבים יותר כדי לבצע מדידה וניטור דומים, ובסופו של דבר לחוקק מדיניות שתבטיח שכולם יחלקו ביתרונות הכלכליים של AI עוצמתי מאוד.
אמודאי מסכם וקובע כי הכנס הבינלאומי הבא אינו יכול להרשות לעצמו להחמיץ את ההזדמנות שוב. שלושת הנושאים הללו – הובלה דמוקרטית, סיכוני אבטחה והשפעות כלכליות – חייבים לעמוד בראש סדר היום. התקדמות ה-AI מציבה אתגרים גלובליים חדשים ומשמעותיים, וחייבים לפעול מהר יותר ובבהירות רבה יותר כדי להתמודד עמם.
