אנתרופיק מציגה: חלון הקשר של 100,000 טוקנים ל-Claude
חברת אנתרופיק הרחיבה משמעותית את חלון ההקשר (context window) של מודל ה-AI המתקדם שלה, Claude, מ-9,000 טוקנים ל-100,000 טוקנים – שווה ערך לכ-75,000 מילים! משמעות הדבר היא שעסקים יכולים כעת להגיש מאות עמודים של חומרים מגוונים ל-Claude לצורך עיבוד וניתוח, ואף לנהל שיחות מתמשכות עם המודל שיכולות להימשך שעות ואף ימים.
בעוד שאדם ממוצע יזדקק לכחמש שעות קריאה רק כדי לעבור על נפח טקסט כזה, וזמן רב יותר לעיכול, זיכרון וניתוח המידע, Claude מסוגל לבצע זאת בפחות מדקה. לדוגמה, הטענו את הרומן המלא 'גטסבי הגדול' (72,000 טוקנים) ל-Claude-Instant ושינינו שורה אחת כך שמר קרוואי יוגדר כ'מהנדס תוכנה העובד על כלי למידת מכונה באנתרופיק'. כשביקשנו מהמודל לזהות את השינוי, הוא השיב את התשובה הנכונה בתוך 22 שניות.
מעבר לקריאה פשוטה של טקסטים ארוכים, Claude יכול לסייע בשליפת מידע קריטי ממסמכים החיוניים לפעילות העסקית שלכם. ניתן להזין מספר מסמכים או אפילו ספר שלם ל-פרומפט ולשאול את Claude שאלות הדורשות סינתזה של ידע מכל חלקי הטקסט. עבור שאלות מורכבות, גישה זו צפויה להיות יעילה משמעותית מפתרונות מבוססי חיפוש וקטורי (retrieval). Claude מסוגל לעקוב אחר ההוראות שלכם ולהחזיר את המידע המבוקש, ממש כמו סוכן אנושי.
השותפים של אנתרופיק נרגשים מהמשמעות של חלונות הקשר גדולים יותר עבור העסקים שלהם. 100,000 טוקנים מתורגמים לכשש שעות של אודיו – ו-AssemblyAI הדגימה זאת היטב כשתמללה פודקאסט ארוך ל-58,000 מילים, ולאחר מכן השתמשה ב-Claude לסיכום ולשאלות ותשובות. עם חלונות הקשר של 100,000 טוקנים, ניתן:
- עיכול, סיכום והסבר של מסמכים מורכבים כמו דוחות כספיים או מאמרי מחקר.
- ניתוח סיכונים והזדמנויות אסטרטגיות עבור חברה בהתבסס על דוחותיה השנתיים.
- הערכת יתרונות וחסרונות של הצעות חוק.
- זיהוי סיכונים, נושאים וצורות טיעון שונות במסמכים משפטיים.
- קריאת מאות עמודי תיעוד מפתחים ושליפת תשובות לשאלות טכניות.
- פיתוח מהיר של אבות טיפוס על ידי הזנת בסיס קוד שלם לתוך חלון ההקשר, ובנייה או שינוי אינטליגנטיים שלו.
חלונות הקשר של 100,000 טוקנים זמינים כעת דרך ה-API של אנתרופיק. משתמשים קיימים יכולים לקרוא עוד על גרסאות המודל השונות לשימוש ב-API. מי שטרם עובד עם Claude מוזמן לבקש גישה.
