נוטניקס מכריזה על חידושים לפלטפורמת ה AI שיאפשרו לארגונים לאמץ בינה מלאכותית במהירות. החברה תספק בסיס ליישום AI בארגונים, בשיתוף פעולה עם NVIDIA שיאפשר לארגונים להעריך תרחישים שונים בתחום ה- IT
נוטניקס (NASDAQ: NTNX), מובילה במחשוב היברידי מרובה עננים, הכריזה בכנס .NEXT הנערך בברצלונה על חידושים עבור Nutanix GPT-in-a-Box. החידושים מבוססים על שיתופי פעולה ושילובים של נוטניקס עם טכנולוגיית NVIDIA NIM וספריית מודלי שפה (LLM) של Hugging Face. מדובר בצעד נוסף של החברה המקדמת את פתרון Nutanix GPT-in-a-Box שנבנה במיוחד כדי לסייע לארגונים לאמץ יכולות בינה המלאכותית בפשטות, תוך שילוב הדוק עם מערכת ניהול האובייקטים והקבצים Nutanix Objects ו-Nutanix Files לאחסון מודלים ונתונים.
החברה הכריזה בכנס על GPT-in-a-Box 2.0, אשר יספק תמיכה מורחבת עם NVIDIA וב-LLM, יחד עם ניהול מודלים בסיסיים פשוטים ואינטגרציות עם מיקרו-שירותים של NVIDIA NIMs וספריית Hugging Face LLM. הגרסה החדשה GPT-in-a-Box 2.0 תכלול ממשק משתמש מאוחד, יצירת Endpoints API, ניהול מפתחות גישה למשתמשי קצה, וישלב קבצים ואובייקטים של נוטניקס, בתוספת מעבדים גרפיים מסוג NVIDIA Tensor Core. מטרת GPT-in-a-Box 2.0 לספק בין היתר חוויית משתמש פשוטה עם ממשק משתמש גרפי מובנה, בקרת גישה לפי הרשאות, ויכולת ביקורת ותמיכה באתרים מנותקים/חשוכים. הגרסה החדשה תספק גם ממשק משתמש המאפשר לפרוס ולהגדיר את NVIDIA NIM בלחיצת כפתור פשוטה. Nutanix GPT-in-a-Box 2.0 צפוי להיות זמין במחצית השנייה של 2024.
"ראינו תגובה נהדרת להשקה המקורית שלנו של Nutanix GPT-in-a-Box, הצרכים של לקוחות עבור פתרונות תוכנה מקומיים שמפשטים את הפריסה והניהול של מודלי AI", אמר תומס קורנלי, סמנכ"ל ניהול מוצר בנוטניקס. "ארגונים גדולים הם הגבול החדש של GenAI ואנחנו נרגשים לעבוד עם מערך השותפים הצומח שלנו כדי להפוך את הפעלת יישומי GenAI באופן מקומי בקנה מידה גדול לפשוט ככל האפשר, תוך שמירה על שליטה בפרטיות ובעלות על הנתונים".
"לדברי ירון כהן, מנהל צוות מהנדסי מערכות בחברת נוטניקס ישראל, יוון וקפריסין, "GPT-in-a-Box של נוטניקס הוא מערכת בינה מלאכותית עשירה ביכולות אשר מטרתה לפתור את האתגרים המרכזיים איתם מתמודד הארגון בתחום ה- IT. נוטניקס מפתחת ומשווקת פתרונות העונים לאתגרים הקיימים כיום בסביבת ריבוי עננים, כאשר פתרון GPT-in-a-Boxשל נוטניקס מספק תשתית AI מוכנה לשימוש בשליטה מלאה על ידי הארגון עבור מימוש בקצה (Edge) או בליבת מרכז הנתונים ומאפשר לארגונים להפעיל ולהתאים מודלים של AI ו GPT -תוך שליטה בנתונים ובמשאבים".
בנוסף, כחלק מהחידושים שהוצגו, נוטניקס שיפרה את פלטפורמת הנתונים שלה עבור AI/ML ויישומים אחרים עם ביצועים, ובעלות כוללת משופרת. Nutanix Unified Storage (או בקיצור NUS) תומך כעת בפלטפורמת NVMe צפופה של 550TB+ בעלות נמוכה ובתפוקת קריאה רציפה של עד 10GBps (קרוב למהירות הקו עבור יציאת 100 Gigabit Ethernet), מה שמאפשר קריאת נתונים מהירה יותר ושימוש יעיל יותר במשאבי מעבד ה- GPU. נוטניקס תוסיף גם תמיכה Storage NVIDIA GPUDirect כדי להאיץ עוד יותר יישומי AI/ML.
עוד בכנס הודיעה נוטניקס על שותפות עם Hugging Face, המאפשרת לארגונים לאמץ במהירות את הבינה המלאכותית היוצרת (GenAI) על ידי מתן גישה משולבת לספריית Hugging Face וביצוע LLMs. הארגונים יוכלו למנף את Nutanix GPT-in-a-Box 2.0 כדי לצרוך בקלות LLMs מאומתים מ-Hugging Face ולבצע אותם ביעילות.
באמצעות שותפות זו, נוטניקס ו-Hugging Face יפתחו אינטגרציה מותאמת אישית עם Text Generation Inference, ספריית הקוד הפתוח הפופולרית של Hugging Face לייצור מודלי שפה גדולים, שיאפשרו מודלים ליצירת טקסט הזמינים ב-Hugging Face Hub בתוך Nutanix GPT-in-a-Box 2.0. שיתוף פעולה זה יספק זרימת עבודה חלקה לפריסת LLMs AI מאומתים מ-Hugging Face עם תמיכה מלאה של נוטניקס, וכך יסייע להרחיב באופן משמעותי את מספר LLMs נתמכים. פעולה זו תיצור זרימת עבודה מאומתת ונתמכת במשותף עבור ספריות Hugging Face ו- LLMs, ותבטיח ללקוחות נקודת ניהול אחת להסקת מודל עקבית.
נוטניקס שיתפה פעולה עם יצרני גדולים של שרתים במודל OEM כדי לספק ללקוחות מגוון רחב של מעבדים גרפיים אופטימליים לבינה מלאכותית ומערכות GPU בצפיפות אופטימלית. מעבדים גרפיים אלה הממוטבים לבינה מלאכותית, כולל NVIDIA L40S, H100, L40 ו-L4, נתמכים כעת ב-Nutanix GPT-in-a-Box.
