WEBA

מודלים וירטואליים ב-Vercel מייתרים פריסה

שירות Virtual Models של Vercel מאפשר לשנות מודלים וספקים תוך דקות לכל המערכות והסוכנים, אך מעביר את הניהול מהקוד ללוח הבקרה ודורש זהירות מפערים טכניים.

583 מילים27 עובדות אומתו

כל מפתח AI מכיר את התרחיש המעיק: מעבדה משחררת גרסת מודל חדשה באמצע הלילה, וכדי לנצל אותה חייבים לעדכן מחרוזות בקוד, לבצע בדיקות פריסה ולהמתין לבנייה מחדש. עכשיו Vercel מנסה לסגור את הפינה הזאת עם השקת Virtual Models בתוך AI Gateway. מדובר בשכבת הפשטה שמנתקת את קוד המערכת משמות המודלים הספציפיים ומעבירה את כל הגדרות הניתוב, הגיבוי והאבטחה לניהול בענן.

המנגנון פועל בצורה פשוטה על הנייר: במקום לקרוא ישירות למודל מוגדר כמו anthropic/claude-opus-5.5, האפליקציה או סוכן הפיתוח פונים למזהה קבוע בפורמט vmc/slug. ברגע שהמזהה הזה מוגדר, שינוי יחיד בלוח הבקרה או בפקודת CLI מחליף את המודל האמיתי שמשרת את הקריאות, בלי שתצטרכו לבצע פריסה מחדש (redeploy). אז כן, הדיפלוי הבא שלכם יישאר פנוי למשימות דחופות יותר.

שכבת הפשטה מעל שמות המודלים

לפי נתוני Vercel, ב-90 הימים האחרונים בלבד התווספו ל-AI Gateway כ-125 מודלים מיותר מ-10 ספקים שונים. קצב העדכונים המהיר הופך כל שינוי שרשרת בקוד למעמסה תפעולית. הפתרון של החברה מבוסס על שיוך מזהה מודל וירטואלי למשימה מוגדרת. תוכלו לקבוע מזהה למשימות תמיכה שרצות בתדירות גבוהה ודורשות עלויות נמוכות, ומזהה נפרד לסוכני קוד דוגמת Claude Code הזקוקים לשיקול דעת עמוק.

סוכני פיתוח שמחוברים דרך פקודת npx vercel@latest ai-gateway setup טוענים את רשימת המודלים הווירטואליים ישירות לתפריט הבחירה הפנימי שלהם. בקוד שלכם, למשל בפרויקט שנכתב עם TypeScript, פשוט מעבירים את המחרוזת vmc/coding-agent ישירות לפונקציות ה-SDK. ברגע שתחליטו להחליף את המודל ממנוע של Anthropic למנוע של OpenAI, כל המערכות שמושכות את המזהה מתעדכנות תוך דקות ספורות ללא התערבות ידנית במכונות המפתחים.

מודלים וירטואליים מזיזים את בחירת המודל וההגדרות שלו אל AI Gateway.פוסט ההכרזה של Vercel

לוח הבקרה דורס את הקוד

הכוח המרכזי של השירות מגיע עם מחיר ארכיטקטוני ברור: הגדרות שנקבעו בלוח הבקרה של Vercel דורסות לחלוטין את הפרמטרים שנשלחים בקוד הלקוח. אם מנהל המערכת הגדיר סדר עדיפויות לספקים, מודלי גיבוי (fallbacks) או שיוך תגיות למעקב עלויות, הנתונים האלו יכפו את עצמם על כל בקשה שמגיעה מהאפליקציה.

הגדרות שנשמרו בלוח הבקרה מקבלות עדיפות מלאה ומבטלות את הפרמטרים שנשלחו מתוך הקוד שלכם. התנהגות זו מודגמת היטב במדיניות אבטחה של שמירת מידע אפסית (Zero Data Retention): גם אם הבקשה מתוך הקוד תנסה לכבות את ההגבלה במפורש, Gateway יאכוף את המדיניות שנקבעה למזהה הווירטואלי וימנע אימון על הנתונים או שליחה לספקים שאינם עומדים בתקן.

המנגנון הזה מעניק לצוותי אבטחה ותשתיות שליטה מוחלטת על התעבורה, אך שולל גמישות ממפתחים שרגילים לקנפג פרמטרים ייעודיים ברמת הבקשה הבודדת. זה מחיר השליטה.

ההבדל בין ספקים אינו רק שם

היכולת להחליף ספק בלחיצת כפתור יוצרת אשליה שמודלים של AI הם רכיבים ברי החלפה מיידית. בפועל, החלפת מודל ממשפחה אחת לאחרת תחת אותו מזהה slug עלולה לשבור את התנהגות המערכת. פערים במימוש קריאות לפונקציות (Tool Calling), הבדלים ביכולות עיבוד קבצים ומבני סכמה שונים אינם נפתרים אוטומטית בשכבת הפרוקסי.

לפי הדוקומנטציה של Vercel, הגדרות ייעודיות לספק ספציפי (provider options) מפסיקות לחול ברגע שהמודל משתנה לחברה אחרת. קונפיגורציה ייחודית שהוגדרה עבור Anthropic פשוט תימחק בהיבט התפקודי אם תנתבו את המזהה למודל של OpenAI. בנוסף, מזהה ה-slug נקבע בעת היצירה ואינו ניתן לשינוי לאחר מכן. אם תרצו לתקן שם של מזהה קיים, תיאלצו ליצור אחד חדש ולעדכן שוב את כל המופעים בקוד.

לא הייתי ממהר.

השוואה בין עבודה ישירה מול מודלים לבין שימוש ב-Virtual Model ב-Vercel
מאפייןקריאה ישירה למודלשימוש ב-Virtual Model (vmc/)
החלפת מודל או ספקדורשת עריכת קוד ופריסה מחדששינוי מרכזי בלוח הבקרה או ב-CLI תוך דקות
תעדוף ומודלי גיבוי (Fallbacks)מוגדר ידנית בקוד האפליקציהנאכף מרכזית דרך הניתוב של Gateway
קביעת פרמטרים ייחודיים לספקמנוהלת ישירות בקריאת ה-APIתלויה בהגדרת ה-slug ומתאפסת במעבר בין ספקים
אכיפת אבטחה ושמירת מידע (ZDR)תלויה במשמעת הקוד של המפתחנכפית על הבקשה ודורסת הגדרות מקומיות
גמישות שינוי שמות ומזהיםשינוי חופשי של שמות משתנים בקודה-slug נעול לצמיתות מרגע היצירה

אפס עמלות לצד נעילת תשתית

בצד העסקי, Vercel ממשיכה במדיניות התמחור של דף המחירים ב-AI Gateway: תמחור הטוקנים זהה לחלוטין לעלות המקור של הספקים ללא תוספת עמלת פלטפורמה, כולל במסלולי Bring Your Own Key. השירות פתוח וזמין במלואו לחברות ולמפתחים הפועלים מישראל ללא חסימות גיאוגרפיות.

יחד עם זאת, החיוב כולו מבוצע בדולרים, ואין כיום אירוח שרתים פיזי או ניתוב מקומי של התשתיות בתוך ישראל. העברת מפתחות הניתוב לענן של Vercel אמנם מסירה את הצורך בתחזוקת פרוקסי עצמאי כמו LiteLLM, אך גם מהדקת את התלות בתשתית של החברה. מי שמחפש שליטה מלאה בשרתים מקומיים או הפרדה רגולטורית קשיחה לא ימצא כאן מענה.

השליטה המרכזית הזאת יעילה להפליא, עד שהיא מנתבת את כל המערכת שלכם למודל ששכחתם לבדוק מראש.

מה לעשות עכשיולפני עדכון מודל וירטואלי בייצור, הגדירו מזהה מועמד לבדיקות והריצו עליו הערכות כדי למנוע פערי תאימות בקוד.

מקורות

הידיעה נכתבה מהמקורות שלמעלה בתאריך הפרסום, וכל טענה בה נבדקה מולם. מצאתם טעות? כתבו.

מה שואלים על זה

האם שינוי מודל וירטואלי בלוח הבקרה עולה כסף נוסף מעבר למחיר הטוקנים?

לא. Vercel אינה גובה עמלת פלטפורמה על פעולת הניתוב ב-AI Gateway, והתשלום נגזר ממחירי הטוקנים של ספקי המודלים ללא תוספת מחיר.

מה קורה להגדרות ספציפיות של Anthropic כשמעבירים את המודל ל-OpenAI?

הגדרות אלו מפסיקות לחול. אפשרויות ספק (provider options) מוגדרות לפי יצרן, ובעת מעבר לספק אחר Gateway יתעלם מההגדרות שאינן תואמות למודל החדש.

האם אפשר לשנות את שם ה-slug של המודל הווירטואלי אחרי שנוצר?

לא. שם ה-slug נקבע בזמן יצירת המודל הווירטואלי ואינו ניתן לשינוי לאחר מכן. כדי להשתמש בשם אחר, יש ליצור מודל וירטואלי חדש.

כיצד משפיעה הגדרת שמירת מידע אפסית (ZDR) על קריאות שמבקשות אחרת בקוד?

הגדרות המודל הווירטואלי מקבלות עדיפות. אם הוגדרה מדיניות שמירת מידע אפסית בלוח הבקרה, היא תיאכף גם אם הקוד ביקש לבטל אותה במפורש.