ובני אדם דיגיטליים למחשבים ניידים באמצעות GeForce RTX AI PCs
כלי בינה מלאכותית חדשים, כוללProject G-Assist ו-NVIDIA ACE PC NIMs לפיתוח בני אדם דיגיטליים, מספקים חוויות בינה מלאכותיות מתקדמות במחשבים מבוססי NVIDIA RTX
הכריזה על טכנולוגיות NVIDIA RTX™ חדשות שיניעו עוזרים מבוססי בינה מלאכותית ופיתוח בני אדם דיגיטליים (Digital Humans) במחשבים ניידים חדשים מבוססי GeForce RTX AI.
אנבידיה חשפה בתערוכת Computex את Project G-Assist – עוזר ה-AI של GeForce. הפרויקט החדש מהווה הדגמה של טכנולוגיית עוזרי AI המונעים באמצעות NVIDIA RTX, אשר מציעה תמיכה מבוססת הקשר ספציפי (Context-Aware) עבור משחקי מחשב ואפליקציות. הדמו של G-Assist הוצג לראשונה במשחק ההישרדות ARK: Survival Ascended מ- Studio Wildcard. NVIDIA הציגה גם את ה-NVIDIA NIM הראשון למחשבים אישיים – מיקרו-שירותים ל-Inference עבור פלטפורמת הפיתוח לבני אדם דיגיטליים, NVIDIA ACE.
טכנולוגיות אלו מתאפשרות בזכות NVIDIA RTX AI Toolkit – סט חדש של כלים ו-SDKs המסייעים למפתחים באופטימיזציה ובפריסה של מודלי בינה מלאכותית יוצרת גדולים במחשבי Windows. הם מצטרפים ליכולות ה-RTX AI הקודמות של NVIDIA, המאיצות יותר מ-500 יישומי מחשב ומשחקים מונעי בינה מלאכותית ויותר מ-200 מחשביAI ניידים באמצעות טכנולוגיית NVIDIA RTX.
בנוסף, מחשבי RTX AI PC ניידים חדשים שעליהם הכריזו ASUS ו-MSI יציעו מעבדים גרפיים עד לדגמי GeForce RTX 4070 ומערכות על-שבב עם תמיכה ביכולות Windows 11 AI PC.
"NVIDIA השיקה את עידן ה-AI PCs ב-2018, עם ההשקה של GPUs בעלי ליבות RTX Tensor Core וטכנולוגיית DLSS", אמר ג'ייסון פול, סגן-נשיא ל-Consumer AI ב-NVIDIA. "כעת, עם Project G-Assist ו-NVIDIA ACE, אנחנו פותחים את הדור הבא של חוויות המונעות באמצעות בינה מלאכותית עבור למעלה מ-100 מיליון משתמשיRTX AI PCs".
Project G-Assist – עוזר ה-AI של NVIDIA GeForce
עוזרים מבוססי בינה מלאכותית צפויים לחולל מהפכה בחוויות המשחקים והאפליקציות – החל מהצעת אסטרטגיות משחק וניתוח שידורים חוזרים של סצנות מרובות משתתפים, ועד לסיוע בתהליכי עבודה יצירתיים ומורכבים בזמן אמת. פרויקט G-Assist הוא הצצה לעתיד הזה.
משחקי מחשב מציעים לחקור יקומים עצומים ודורשים שליטה במכניקות מורכבות – מאפיינים שעשויים להיות מאתגרים אפילו עבור הגיימרים המושבעים ביותר. Project G-Assist משתמש בבינה מלאכותית יוצרת כדי לשים את הידע במשחק בקצות אצבעותיהם של השחקנים.
Project G-Assist לוקח קלט קולי או טקסטואלי של השחקנים, יחד עם מידע רלוונטי ומבוסס הקשר (Context) ממסך המשחק, ומריץ את הנתונים דרך מודלי AI Vision. המודלים משפרים את המודעות לקונטקסט ואת הבנת המשחק או היישום הספציפי של מודל השפה הגדול (LLM) המקושר למאגר הידע של המשחק, ומאפשר לייצר תגובה רלוונטית ומותאמת אישית שמועברת באמצעות טקסט או דיבור.
NVIDIA שיתפה פעולה עם Studio Wildcard כדי להדגים את הטכנולוגיה במשחק ARK: Survival Ascended. טכנולוגיית G-Assist יכולה לסייע לענות על שאלות הנוגעות ליצורים, פריטים, מידע, יעדים ועוד. ומכיוון ש-Project G-Assist מודע להקשר, הוא מתאים אישית את התגובות שלו לחוויית המשחק של השחקנים.
בנוסף, G-Assist יכול לבצע התאמות בהגדרות המערכת של השחקנים עבור ביצועים ויעילות מקסימליים. הוא יכול לספק תובנות לגבי ביצועים, לבצע אופטימיזציה של הגדרות גרפיקה בהתאם לחומרה של המשתמשים, ואפילו להפעיל המהרה (Overclock) בטוחה, או להפחית בצורה חכמה את צריכת החשמל תוך שמירה על ביצועים ברמה מסוימת.
ה-NVIDIA ACE PC NIM הראשון נחשף
טכנולוגיית NVIDIA ACE להפעלה של בני אדם דיגיטליים מגיעה כעת למחשבי RTX AI ולתחנות עבודה עםNVIDIA NIM – קונטיינרים מובנים מראש של מיקרו-שירותים להסקה (Inference) המאפשרים למפתחים לצמצם את זמני ההטמעה של מודלי AI משבועות לדקות. NVIDIA NIM מספק הסקה באיכות גבוהה שרצה על מכשירים באופן מקומי למשימות כמו הבנת שפה טבעית, סינתזה של דיבור, אנימציית פנים ועוד.
ב-Computex, הופעת הגיימינג הראשונה של NVIDIA ACE NIMs על גבי מחשבים אישיים תוצג בדמו של Covert Protocol Tech Demo, שפותח בשיתוף פעולה עם Inworld AI. הדמו מציג את NVIDIA Audio2Face ו-NVIDIA RIVA לזיהוי דיבור אוטומטי כשהם רצים מקומית על גבי המחשב.
Windows Copilot Runtime יקבל תמיכה בהאצת GPU עבור מודלי שפה קטנים (SLMs) להרצה מקומית
ו-NVIDIA משתפות פעולה כדי לעזור למפתחים להביא יכולות בינה מלאכותית יוצרת לאפליקציות נייטיב ו-Web ב-Windows. שיתוף הפעולה יספק למפתחי אפליקציות API המאפשר גישה למודלי שפה קטנים (SLMs) ויכולות Retrieval-Augmented Generation (RAG) המואצים על ידי GPUs ויכולות לרוץ על גבי מכשירים המונעים ב-Windows Copilot Runtime.
SLMs מספקים מגוון עצום של הזדמנויות עבור מפתחי Windows, כולל: יצירת תוכן, סיכום תכנים, אוטומציית משימות ועוד. יכולות ה-RAG משפרות את מודלי השפה הקטנים באמצעות הענקת גישה למודלים מידע בתחומים ספציפיים (Domain-Specific) שאינם מיוצגים כראוי במודלי הבסיס. APIs של RAGמאפשרים למפתחים לרתום מידע המגיע ממאגרי הנתונים של יישומים ספציפיים על מנת להתאים את התנהגות ה-SLM והיכולות שלהם, בהתאם לצרכי האפליקציה.
יכולות ה-AI הללו מואצות באמצעות NVIDIA RTX GPUs, כמו גם מאיצי AI של יצרניות חומרה אחרות, ומספקים למשתמשי הקצה חוויות בינה מלאכותית מהירות ובזמני תגובה קצרים, על פני כל אקו-סיסטם מערכת ההפעלה Windows. ה-API ישוחרר למפתחים מאוחר יותר השנה.
דגמים מהירים פי 4 וקטנים יותר פי 3 עם RTX AI Toolkit
אקוסיסטם הבינה המלאכותית פיתח מאות אלפי מודלים איכותיים בקוד פתוח אותם מפתחי אפליקציות יכולים למנף לצרכיהם, אך מרבית המודלים מאומנים מראש למטרות כלליות ונבנו להפעלה במרכז נתונים. כדי לעזור למפתחים לבנות מודלי בינה מלאכותית ספציפיים לאפליקציות המיועדים לרוץ על מחשבים אישיים, NVIDIA מציגה את RTX AI Toolkit – סט של כלים ו-SDKs שמיועד להתאמה אישית, אופטימיזציה והטמעה של דגמי AI במחשבי RTX AI. RTX AI Toolkit יהיה זמין למפתחים במהלך חודש יוני.
מפתחים יכולים להתאים אישית מודל מאומן מראש עם כלי QLoRa בקוד פתוח. לאחר מכן, הם יכולים לעשות אופטימיזציה למודלים באמצעות NVIDIA TensorRT כדי לגרום להם לצרוך עד פי 3 פחות זיכרון RAM. בשלב הבא, NVIDIA TensorRT Cloud מייעל את המודל לביצועי שיא בכל סדרת ה-RTX GPUs. התוצאה היא ביצועים מהירים עד פי 4 בהשוואה למודל המאומן מראש.
NVIDIA AI Inference Manager (ר"ת AIM), ערכת פיתוח הזמינה בגישה מוקדמת כעת, מפשטת עבור מפתחים את המורכבות של הטמעת בינה מלאכותית באפליקציות PC, באמצעות יצירת תהליך אחד עבור הענן וה-PC. AIM גם מגדיר מראש את המחשב עם מודלי ה-AI והמנועים הדרושים, בפורמט NVIDIA NIM התומך בכל מנועי ההסקה – כולל TensorRT, DirectML, Llama.cpp ו-PyTorch-CUDA, על גבי מגוון מעבדים – GPUs, NPUs ו-CPUs.
שותפי התוכנה של אנבידיה, בהם Adobe, Blackmagic Design ו-Topaz, מטמיעים את רכיבי ה-RTX AI Toolkit ביישומי הקריאייטיב שלהם, על מנת להאיץ את ביצועי ה-AI ב-RTX PCs. בנוסף, רכיבי RTX AI Toolkit מוטמעים גם בסביבות העבודה ואפליקציות הבינה המלאכותית היוצרת, כולל Automatic1111, ComfyUI, Jan.AI, Langchain, LiamaIndex, Oobabooga ו-Sanctum.AI.
AI ליצירת תוכן
NVIDIA משלבת האצה מבוססת RTX AI גם באפליקציות ליוצרים, מודרים וחובבי וידאו. בשנה שעברה, NVIDIA הציגה האצת RTX באמצעות TensorRT עבור אחד מממשקי השימוש הפופולריים ביותר של Stable Diffusion, Automatic1111. החל מהשבוע, RTX יאיץ גם את ממשק ComfyUI הפופולרי במיוחד, ויספק עד 60% שיפור בביצועים בהשוואה לגרסה הנוכחית, וביצועים מהירים פי 7 בהשוואה ל-MacBook Pro M3 Max.
תמונה ראשית – NVIDIA
