6 באוקטובר 2025
פֶטְרִי: הכלי החדש שמאיץ את ביקורת בטיחות ה-AI בקוד פתוח
אנתרופיק משיקה את Petri, כלי קוד פתוח חדשני שמטרתו להאיץ את חקר בטיחות ה-AI. הכלי משתמש בסוכנים אוטומטיים כדי לבדוק מודלי בינה מלאכותית באמצעות שיחות מרובות תורות בסביבות מציאותיות, ומאפשר זיהוי מהיר ויעיל של התנהגויות מסוכנות או בלתי רצויות. בצל הגידול ביכולות ובפריסה של מערכות AI, Petri מסייע להתמודד עם האתגר של ביקורת מודלים בקנה מידה רחב, ומאפשר לחוקרים לבחון השערות רבות בזמן קצר ובמאמץ מופחת.
קרא עוד