כל מפתח AI מכיר את התרחיש המעיק: מעבדה משחררת גרסת מודל חדשה באמצע הלילה, וכדי לנצל אותה חייבים לעדכן מחרוזות בקוד, לבצע בדיקות פריסה ולהמתין לבנייה מחדש. עכשיו Vercel מנסה לסגור את הפינה הזאת עם השקת Virtual Models בתוך AI Gateway. מדובר בשכבת הפשטה שמנתקת את קוד המערכת משמות המודלים הספציפיים ומעבירה את כל הגדרות הניתוב, הגיבוי והאבטחה לניהול בענן.
המנגנון פועל בצורה פשוטה על הנייר: במקום לקרוא ישירות למודל מוגדר כמו anthropic/claude-opus-5.5, האפליקציה או סוכן הפיתוח פונים למזהה קבוע בפורמט vmc/slug. ברגע שהמזהה הזה מוגדר, שינוי יחיד בלוח הבקרה או בפקודת CLI מחליף את המודל האמיתי שמשרת את הקריאות, בלי שתצטרכו לבצע פריסה מחדש (redeploy). אז כן, הדיפלוי הבא שלכם יישאר פנוי למשימות דחופות יותר.
שכבת הפשטה מעל שמות המודלים
לפי נתוני Vercel, ב-90 הימים האחרונים בלבד התווספו ל-AI Gateway כ-125 מודלים מיותר מ-10 ספקים שונים. קצב העדכונים המהיר הופך כל שינוי שרשרת בקוד למעמסה תפעולית. הפתרון של החברה מבוסס על שיוך מזהה מודל וירטואלי למשימה מוגדרת. תוכלו לקבוע מזהה למשימות תמיכה שרצות בתדירות גבוהה ודורשות עלויות נמוכות, ומזהה נפרד לסוכני קוד דוגמת Claude Code הזקוקים לשיקול דעת עמוק.
סוכני פיתוח שמחוברים דרך פקודת npx vercel@latest ai-gateway setup טוענים את רשימת המודלים הווירטואליים ישירות לתפריט הבחירה הפנימי שלהם. בקוד שלכם, למשל בפרויקט שנכתב עם TypeScript, פשוט מעבירים את המחרוזת vmc/coding-agent ישירות לפונקציות ה-SDK. ברגע שתחליטו להחליף את המודל ממנוע של Anthropic למנוע של OpenAI, כל המערכות שמושכות את המזהה מתעדכנות תוך דקות ספורות ללא התערבות ידנית במכונות המפתחים.
מודלים וירטואליים מזיזים את בחירת המודל וההגדרות שלו אל AI Gateway.פוסט ההכרזה של Vercel
לוח הבקרה דורס את הקוד
הכוח המרכזי של השירות מגיע עם מחיר ארכיטקטוני ברור: הגדרות שנקבעו בלוח הבקרה של Vercel דורסות לחלוטין את הפרמטרים שנשלחים בקוד הלקוח. אם מנהל המערכת הגדיר סדר עדיפויות לספקים, מודלי גיבוי (fallbacks) או שיוך תגיות למעקב עלויות, הנתונים האלו יכפו את עצמם על כל בקשה שמגיעה מהאפליקציה.
הגדרות שנשמרו בלוח הבקרה מקבלות עדיפות מלאה ומבטלות את הפרמטרים שנשלחו מתוך הקוד שלכם. התנהגות זו מודגמת היטב במדיניות אבטחה של שמירת מידע אפסית (Zero Data Retention): גם אם הבקשה מתוך הקוד תנסה לכבות את ההגבלה במפורש, Gateway יאכוף את המדיניות שנקבעה למזהה הווירטואלי וימנע אימון על הנתונים או שליחה לספקים שאינם עומדים בתקן.
המנגנון הזה מעניק לצוותי אבטחה ותשתיות שליטה מוחלטת על התעבורה, אך שולל גמישות ממפתחים שרגילים לקנפג פרמטרים ייעודיים ברמת הבקשה הבודדת. זה מחיר השליטה.
ההבדל בין ספקים אינו רק שם
היכולת להחליף ספק בלחיצת כפתור יוצרת אשליה שמודלים של AI הם רכיבים ברי החלפה מיידית. בפועל, החלפת מודל ממשפחה אחת לאחרת תחת אותו מזהה slug עלולה לשבור את התנהגות המערכת. פערים במימוש קריאות לפונקציות (Tool Calling), הבדלים ביכולות עיבוד קבצים ומבני סכמה שונים אינם נפתרים אוטומטית בשכבת הפרוקסי.
לפי הדוקומנטציה של Vercel, הגדרות ייעודיות לספק ספציפי (provider options) מפסיקות לחול ברגע שהמודל משתנה לחברה אחרת. קונפיגורציה ייחודית שהוגדרה עבור Anthropic פשוט תימחק בהיבט התפקודי אם תנתבו את המזהה למודל של OpenAI. בנוסף, מזהה ה-slug נקבע בעת היצירה ואינו ניתן לשינוי לאחר מכן. אם תרצו לתקן שם של מזהה קיים, תיאלצו ליצור אחד חדש ולעדכן שוב את כל המופעים בקוד.
לא הייתי ממהר.
| מאפיין | קריאה ישירה למודל | שימוש ב-Virtual Model (vmc/) |
|---|---|---|
| החלפת מודל או ספק | דורשת עריכת קוד ופריסה מחדש | שינוי מרכזי בלוח הבקרה או ב-CLI תוך דקות |
| תעדוף ומודלי גיבוי (Fallbacks) | מוגדר ידנית בקוד האפליקציה | נאכף מרכזית דרך הניתוב של Gateway |
| קביעת פרמטרים ייחודיים לספק | מנוהלת ישירות בקריאת ה-API | תלויה בהגדרת ה-slug ומתאפסת במעבר בין ספקים |
| אכיפת אבטחה ושמירת מידע (ZDR) | תלויה במשמעת הקוד של המפתח | נכפית על הבקשה ודורסת הגדרות מקומיות |
| גמישות שינוי שמות ומזהים | שינוי חופשי של שמות משתנים בקוד | ה-slug נעול לצמיתות מרגע היצירה |
אפס עמלות לצד נעילת תשתית
בצד העסקי, Vercel ממשיכה במדיניות התמחור של דף המחירים ב-AI Gateway: תמחור הטוקנים זהה לחלוטין לעלות המקור של הספקים ללא תוספת עמלת פלטפורמה, כולל במסלולי Bring Your Own Key. השירות פתוח וזמין במלואו לחברות ולמפתחים הפועלים מישראל ללא חסימות גיאוגרפיות.
יחד עם זאת, החיוב כולו מבוצע בדולרים, ואין כיום אירוח שרתים פיזי או ניתוב מקומי של התשתיות בתוך ישראל. העברת מפתחות הניתוב לענן של Vercel אמנם מסירה את הצורך בתחזוקת פרוקסי עצמאי כמו LiteLLM, אך גם מהדקת את התלות בתשתית של החברה. מי שמחפש שליטה מלאה בשרתים מקומיים או הפרדה רגולטורית קשיחה לא ימצא כאן מענה.
השליטה המרכזית הזאת יעילה להפליא, עד שהיא מנתבת את כל המערכת שלכם למודל ששכחתם לבדוק מראש.
מקורות
- Introducing Virtual Models on AI Gatewayhttps://vercel.com/blog/ai-gateway-virtual-models
- AI Gateway Virtual Models for Reusable Model Configurationshttps://vercel.com/docs/ai-gateway/models-and-providers/virtual-models
- Vercel AI Gateway: Models, Routing, and Observabilityhttps://vercel.com/docs/ai-gateway
- Coding Agents and Chat Platforms with AI Gatewayhttps://vercel.com/docs/ai-gateway/coding-agents
- Claude Code and Claude Agent SDK with AI Gatewayhttps://vercel.com/docs/ai-gateway/coding-agents/claude-code
- Vercel AI Gatewayhttps://vercel.com/ai-gateway
- Claude Codehttps://weba.co.il/tools/claude-code/
- Vercelhttps://weba.co.il/tools/vercel/
- TypeScripthttps://weba.co.il/glossary/typescript/
הידיעה נכתבה מהמקורות שלמעלה בתאריך הפרסום, וכל טענה בה נבדקה מולם. מצאתם טעות? כתבו.