Nova (Amazon) (HE)

From Systems analysis Wiki
Jump to navigation Jump to search

Amazon Nova — משפחת מודלים יסודיים (Foundation Models, FM) ומודלי שפה גדולים (Large Language Model, LLM), שפותחה על ידי חטיבת Amazon Artificial General Intelligence (AAG Intelligence) וזמינה דרך שירות Amazon Bedrock המנוהל במלואו. המשפחה כוללת מודלים להבנה וליצירת טקסט, עיבוד תמונות, וידאו ומסמכים, וכן סינתזה וזיהוי דיבור. Amazon Nova ממוצבת כחלופה לדור הקודם של מודלי Amazon Titan ומשולבת במערכת האקולוגית של Amazon Web Services (AWS).[1][2][3]

היסטוריה וציר זמן של הפיתוח

לפני השקת Nova, פלטפורמת Amazon Bedrock סיפקה גישה למודלים של צד שלישי: Anthropic Claude, Meta Llama, Mistral ואחרים. Amazon Nova הפכה למשפחת המודלים היסודיים הראשונה בפיתוח עצמי של AWS, המיועדת לשימוש מסחרי בתשתית ענן.[3]

הדור הראשון (2024–2025)

הדור הראשון של משפחת Amazon Nova הוצג רשמית ב-3 בדצמבר 2024 בכנס AWS re:Invent 2024. בגרסה הראשונית נכללו שלושה מודלי הבנה (understanding models) — Nova Micro (טקסט בלבד), Nova Lite ו-Nova Pro מולטי-מודאליים — וכן מודלים גנרטיביים Nova Canvas (יצירת תמונות) ו-Nova Reel (יצירת וידאו).[4][3][5]

באפריל 2025 הצטרף לסדרה המודל הדגל Nova Premier — המודל החזק ביותר במשפחה, עם חלון הקשר של מיליון token, המיועד למשימות הדורשות היסק מורכב ודיסטילציה (distillation, העברת ידע ממודל גדול למודל קטן יותר).[6] באותו חודש, אפריל 2025, הוצג Nova Sonic — מודל דיבור מסוג speech-to-speech עם תמיכה בדיאלוגים בזמן אמת.[7]

הדור השני — Nova 2 (2025–2026)

בנובמבר–דצמבר 2025, בכנס AWS re:Invent 2025, הוכרז הדור השני — Amazon Nova 2. הסדרה כוללת את המודלים המעודכנים Nova 2 Lite ו-Nova 2 Pro עם תמיכה ב-dynamic reasoning ועיבוד הקשר מורחב, מודל מולטי-מודאלי נייטיב Nova 2 Omni (עיבוד וייצור בו-זמני של טקסט, תמונות, וידאו ואודיו), וכן Nova 2 Sonic — מודל הדיבור של הדור הבא. בו-זמנית הוצגו שירותי Nova Forge (סביבה לאימון מותאם אישית של מודלים) ו-Nova Act (מסגרת לתהליכי עבודה אגנטיים, workflow).[8][9][10]

בפברואר 2026 פורסם הדוח הטכני הרשמי של Amazon Nova 2.[11]

ציר זמן מסכם

תאריך אירוע
דצמבר 2024 הכרזה על Amazon Nova ב-AWS re:Invent 2024: Nova Micro, Lite, Pro, Canvas, Reel
אפריל 2025 שחרור Nova Premier (הקשר של מיליון token) ו-Nova Sonic (speech-to-speech)
יוני 2025 פרסום הדוח הטכני של הדור הראשון (arXiv:2506.12103)
נובמבר–דצמבר 2025 הכרזה על Nova 2 ב-AWS re:Invent 2025: Nova 2 Lite, 2 Pro, 2 Omni, 2 Sonic, Nova Forge, Nova Act
פברואר 2026 פרסום הדוח הטכני של Amazon Nova 2

בסיס תיאורטי וארכיטקטורה

ארכיטקטורת הבסיס של מודלי הבנה

לפי הדוח הטכני arXiv:2506.12103, מודלי ההבנה (Nova Micro, Lite, Pro, Premier) מבוססים על ארכיטקטורת ה-Transformer שתוארה במאמר של Vaswani et al.[12] מנגנון ה-Multi-Head Self-Attention הבסיסי מתואר על ידי הנוסחה:

Attention(Q,K,V)=softmax(QKdk)V

כאשר Q, K, V — מטריצות השאילתות (queries), המפתחות (keys) והערכים (values) בהתאמה, dk — ממד המפתחות.[12][1]

הפרמטרים המדויקים של הארכיטקטורה (מספר השכבות, גודל המצב הנסתר, מספר ראשי הקשב, המספר הכולל של פרמטרים) לא נחשפו במקורות הנגישים לציבור נכון למרץ 2026. גישה זו אופיינית למודלים מסחריים סגורים.[1]

עיבוד מולטי-מודאלי ב-Nova Lite וב-Nova Pro מיושם באמצעות איחוד token-ים של טקסט, ויזואל ווידאו לרצף אחד המוזן למודל שפה אחיד. מקודדים ויזואליים (vision encoders) ממירים תמונות ופריימים של וידאו לרצפי token-ים התואמים לייצוג הטקסטואלי.[1][13]

ארכיטקטורת המודלים הגנרטיביים

המודלים הגנרטיביים Nova Canvas (תמונות) ו-Nova Reel (וידאו) משתמשים בארכיטקטורת Latent Diffusion Models (LDM)[14] בשילוב עם Variational AutoEncoder (VAE) לחישובים במרחב הסמוי. תהליך הדיפוזיה מתואר על ידי משוואת הרעש הישיר:

xt=α¯tx0+1α¯tϵ,ϵ𝒩(0,I)

כאשר x0 — התמונה המקורית במרחב הסמוי, xt — גרסתה המורעשת בשלב t, α¯t — פרמטר מצטבר של לוח הזמנים של הרעש, ϵ — רעש גאוסיאני סטנדרטי. מקודד הטקסט (text encoder) מספק conditioning — התניית הייצור על ה-prompt הטקסטואלי.[13][14]

ארכיטקטורת מודלי הדיבור

Nova Sonic משתמש בארכיטקטורה השונה ממודלי הטקסט: הוא משלב מקודד דיבור ייעודי (speech encoder), מפענח דיבור (speech renderer) ומודל שפה מולטי-מודאלי ראשי לצינור end-to-end אחיד. זה מאפשר לעבד קלט דיבור ולייצר פלט דיבור ללא המרה ביניים לטקסט (אם כי ייצוג טקסטואלי משמש פנימית להבטחת איכות).[15][1]

תשתית האימון

אימון מודלי Nova בוצע באשכולות מבוזרים של AWS Elastic Kubernetes Service (EKS) תוך שימוש במאיצי AI קנייניים של Amazon Trainium (מופעי TRN1), וכן במעבדים גרפיים NVIDIA A100 ו-H100.[13][1]

להפחתת עלויות חישוביות של האימון פותחו ויושמו שיטות אופטימיזציה מיוחדות:

  • Super-Selective Activation Checkpointing (SSC) — שיטה לשמירת הפעלות שלפי הדוח הטכני מפחיתה את צריכת הזיכרון של המעבדים הגרפיים בכ-50% עם עלויות תקורה מינימליות של חישוב חוזר (recomputation).[13]
  • In-CPU-Memory Checkpointing — שמירת משקולות ביניים (checkpoints) בזיכרון הגישה האקראית של המעבדים המרכזיים (CPU) לפני פריקתם האסינכרונית לאחסון הענן Amazon S3. לדברי Amazon, גישה זו אפשרה לקצר את זמן שמירת מצב המודל ל-0.1 שניות על מופעי TRN1.[16][13]

צינור האימון והיישור

תהליך אימון מודלי Nova מורכב ממספר שלבים האופייניים ל-LLM מודרניים:[1][17]

אימון מקדים (Pre-training)

אימון נרחב על קורפוס רב-לשוני ורב-מודאלי גדול הכולל יותר מ-200 שפות. ההרכב המדויק של נתוני האימון (היקף, יחס שפות, מקורות ספציפיים) לא מפורט בחומרים הציבוריים.[1]

כוונון עדין מבוקר (Supervised Fine-Tuning, SFT)

כוונון עדין על דוגמאות מתויגות של זוגות "הוראה — תגובה", המביא את המודל לביצוע הוראות המשתמש.[1]

יישור באמצעות למידה מחיזוקים

ליישור התנהגות המודל עם העדפות האדם משתמשים בשני אלגוריתמים עיקריים:

Proximal Policy Optimization (PPO) — אלגוריתם למידה מחיזוקים המבוסס על משוב אנושי (Reinforcement Learning from Human Feedback, RLHF), המשתמש במודל תגמול נפרד (Reward Model).[18][1]

Direct Preference Optimization (DPO) — שיטת יישור חלופית שאינה דורשת מודל תגמול מפורש. פונקציית המטרה של DPO היא:[19]

DPO(πθ;πref)=𝔼(x,yw,yl)𝒟[logσ(βlogπθ(ywx)πref(ywx)βlogπθ(ylx)πref(ylx))]

כאשר:

  • πθ — האסטרטגיה הפרמטרית (המודל הנלמד);
  • πref — מודל ייחוס בסיסי (קפוא);
  • x — ה-prompt הקלט (הקשר);
  • yw ו-yl — התגובה המועדפת (winner) והנדחית (loser) בהתאמה;
  • σ — פונקציה לוגיסטית (סיגמואיד);
  • β — היפר-פרמטר השולט בעוצמת הקנס על סטייה מהמודל הבסיסי (אנלוגי לקנס קולבק-לייבלר, KL-divergence penalty).[19][1]

הרכב משפחת המודלים

משפחת המודלים מחולקת לרמות (tiers) לפי האיזון בין ביצועים, עלות וזמן תגובה (latency).[2][20]

מודלי הבנה של הדור הראשון

פרמטר Nova Micro Nova Lite Nova Pro Nova Premier
מודליות קלט טקסט טקסט, תמונה, וידאו טקסט, תמונה, וידאו טקסט, תמונה, וידאו
מודליות פלט טקסט טקסט טקסט טקסט
חלון הקשר 128 אלף token-ים 300 אלף token-ים 300 אלף token-ים מיליון token-ים
מקסימום token-ים בפלט 10 אלף 10 אלף 10 אלף 10 אלף
תמיכת שפות 200+ 200+ 200+ 200+
כוונון עדין (fine-tuning) כן כן כן לא
תאריך שחרור דצמבר 2024 דצמבר 2024 דצמבר 2024 אפריל 2025
ייעוד עיקרי זמן תגובה ועלות מינימליים למשימות טקסט ניתוח מולטי-מודאלי בסיסי איזון מיטבי למשימות לוגיות ואגנטיות מורכבות דיוק מרבי, מודל-מורה לדיסטילציה

מקור: AWS AI Service Cards; arXiv:2506.12103.[20][1]

שפות מותאמות (15): אנגלית, גרמנית, ספרדית, צרפתית, איטלקית, יפנית, קוריאנית, ערבית, סינית (פשוטה), רוסית, הינדי, פורטוגזית, הולנדית, טורקית, עברית.[2]

Nova Premier מיועד למשימות הדורשות הבנה עמוקה של הקשר, תכנון רב-שלבי ועבודה עם כמויות גדולות של נתונים: בסיסי קוד, מסמכים בהיקף של יותר מ-400 עמודים, סרטוני וידאו באורך של עד 90 דקות.[6]

מודלי הדור השני (Nova 2)

Nova 2 Lite ו-Nova 2 Pro שוחררו בנובמבר–דצמבר 2025. שניהם תומכים ב-extended thinking — מנגנון שבו המודל מבצע היסק רב-שלבי לפני יצירת התגובה. עומק ההיסק נשלט על ידי פרמטר reasoning_effort עם רמות low, medium ו-high. חלון ההקשר הורחב למיליון token-ים. כלים נייטיביים מובנים: חיפוש ברשת עם אימות (web grounding) ומפרש קוד (code interpreter).[9][8]

Nova 2 Omni — מודל מולטי-מודאלי נייטיב המסוגל לקבל בו-זמנית כקלט טקסט, תמונות, וידאו ואודיו ולייצר טקסט ותמונות. חלון ההקשר — מיליון token-ים.[8][11]

Nova 2 Sonic — מודל דיבור של הדור הבא. תומך ב-6 שפות: אנגלית (גרסאות אמריקאית ובריטית), ספרדית, גרמנית, צרפתית, איטלקית. מציג קריאת כלים אסינכרונית (asynchronous tool calling) — המודל ממשיך לעבד קלט חדש בזמן שכלים חיצוניים פועלים ברקע.[10]

פרמטר Nova 2 Lite Nova 2 Pro Nova 2 Omni Nova 2 Sonic
מודליות קלט טקסט, תמונה, וידאו טקסט, תמונה, וידאו טקסט, תמונה, וידאו, אודיו אודיו (דיבור)
מודליות פלט טקסט טקסט טקסט, תמונה אודיו (דיבור)
חלון הקשר מיליון token-ים מיליון token-ים מיליון token-ים 300 אלף token-ים
Extended thinking כן כן כן
כלים נייטיביים Web grounding, Code interpreter Web grounding, Code interpreter Asynchronous tool calling
תאריך שחרור נובמבר–דצמבר 2025 נובמבר–דצמבר 2025 דצמבר 2025 דצמבר 2025

מקור: AWS Blog; Amazon Science.[9][8][11]

מודלים גנרטיביים

Nova Canvas — מודל יצירת תמונות. תומך בקלט טקסטואלי וגרפי (PNG, JPEG). רזולוציית פלט — עד 4.19 מיליון פיקסלים (לדוגמה, 2048×2048 או 2816×1536 פיקסלים). אורך prompt מרבי — 1024 תווים. נתמכות פעולות inpainting (החלפת אזור בתמונה) ו-outpainting (הרחבת תמונה מעבר לגבולותיה).[2][4]

Nova Reel — מודל יצירת וידאו. רזולוציית פלט: 1280×720 ב-24 פריימים לשנייה. משך הוידאו המיוצר — עד 6 שניות. נתמכת שליטה בתנועת המצלמה (camera control). הגישה מתבצעת דרך API אסינכרוני (Asynchronous Invoke Model API).[2][4]

מודלי דיבור

Nova Sonic (אפריל 2025) — מודל דיבור עם API זרימה דו-כיווני (bidirectional stream API). תומך בקריאות פונקציות (function calling) ועיגון על נתוני ארגון דרך Retrieval-Augmented Generation (RAG, יצירה עם שיקוע ידע חיצוני). פונקציית סימן מים (watermarking) מובנית כברירת מחדל. משך חיבור מרבי — 8 דקות עם אפשרות חידוש; מקסימום 20 חיבורים בו-זמניים לכל לקוח (ערך ברירת מחדל).[7][15][2]

Nova 2 Sonic (דצמבר 2025) — הדור הבא של מודל הדיבור עם זיהוי משופר של אמירות קצרות, אודיו טלפוני (8 קHz) ומבטאים.[10]

הערכה ובנצ'מארקים

הערכת מודלי Nova בוצעה באמצעות benchmark-ים אוטומטיים, כולל גישת "LLM-as-a-judge" (שימוש במודל שפה כמעריך). לפי מחקר של HKU SPACE AI Hub, מדד Arena-Hard-Auto מדגים 98.6% מתאם עם הערכות מומחים.[21][22]

בנצ'מארקים של הדור הראשון

נתונים מהדוח הטכני arXiv:2506.12103 (תנאים: תוצאות מפתחי המודלים המתחרים שפורסמו בעת הכנת הדוח):[1]

Benchmark Nova Pro Nova Lite Nova Micro Claude 3.5 Sonnet (Oct 2024) GPT-4o (Nov 2024)
MMLU (5-shot) 80.5 77.6
MATH (4-shot) 73.3 69.3
IFEval 87.5 87.2
MT-Bench (text) 79.7 77.7 76.7 77.5
MT-Bench (multimodal) 63.7 60.7 61.6 55.0

מקור: arXiv:2506.12103, טבלה 2.1.1.[1]

התוצאות מראות היררכיה של ביצועים בתוך המשפחה (Premier > Pro > Lite > Micro). הפער בולט ביותר בקטגוריות מתמטיקה (Math) והיסק (Reasoning); במשימות אינטראקציה תפקידית (Roleplay) וחילוץ מידע (Extraction) המודלים הקטנים מציגים תוצאות הקרובות לאלה של הגדולים.[22]

בנצ'מארקים של הדור השני (Nova 2)

נתונים מהדוח הטכני של Amazon Nova 2 (תנאים: מדידות פנימיות, 0-shot / CoT כפי שצוין):[11]

Benchmark Nova 2 Lite Nova 2 Pro Claude Haiku 4.5 GPT-5 Mini Gemini 2.5 Flash
MMLU-Pro (acc) 80.9 81.6 80.0 83.7 83.2
GPQA-Diamond (acc) 79.6 81.4 73.0 82.3 82.8
AIME 2025 (acc) 91.0 92.3 80.7 91.1 72.0
LongCodeBench 1M (acc) 84.0 84.0 78.0

מקור: Amazon Nova 2 Technical Report, טבלה 1.[11]

בנצ'מארקים אגנטיים (Nova 2 Pro): SWE-Bench Verified — 70.0%; τ²-bench Verified Telecom — 92.7%.[11]

בנצ'מארקים מולטי-מודאליים (Nova 2 Omni): VideoMME — 77.9%; MMMU Pro — 61.4%.[11]

בהערכה במשימות תמיכה טכנית, Nova 2 Lite קיבלה 9.63 ± 0.27 בסולם של עשר נקודות במדד "זיהוי בעיה" (Problem Identification), ועלתה באופן משמעותי על Nova Lite של הדור הראשון (8.57 ± 0.46).[23]

הערה. בהשוואת תוצאות עם מודלים מתחרים יש לקחת בחשבון שתנאי ה-prompt-ינג, גרסאות המודלים ותאריכי איסוף המדדים עשויים להשתנות. בנצ'מארקים של הדור הראשון והשני נלקחו מדיווחים עצמיים של Amazon; אימותים עצמאיים (FloTorch, Artificial Analysis) מאשרים בדרך כלל את יחס המחיר-לביצועים המוצהר, אך לגבי מדדי דיוק ספציפיים מצביעים על פיגור מול המתחרים המובילים.[22]

מהירות הסקה

לפי מדידות פנימיות של Amazon (internal, דרך Bedrock API):[1][11]

מודל מהירות הסקה (token-ים/שנייה)
Nova Micro ≈210
Nova Lite ≈157
Nova Pro ≈100
Nova 2 Omni >200

עלות השימוש

כל המודלים זמינים דרך Amazon Bedrock לפי מודל תשלום על מספר ה-token-ים המעובדים (נתונים ממרץ 2026):[2]

מודל token-ים קלט (USD / 1M) token-ים פלט (USD / 1M)
Nova Micro $0.035 $0.14
Nova Lite ≈$0.06 ≈$0.24
Nova Pro $0.80 $3.20
Nova Premier $2.50 $12.50

להשוואה: Anthropic Claude 3.5 Sonnet בעת שחרור Nova תומחר ב-$6.00 / 1M token-ים קלט ו-$30.00 / 1M token-ים פלט.[22]

התאמה אישית וכוונון עדין

תשתית AWS מספקת מספר שיטות להתאמת מודלי הבסיס של Nova לתחומים מיוחדים. הכלי העיקרי לכך בדור השני הוא הסביבה Amazon Nova Forge.[8][17]

Continued Pre-Training (CPT) ו-Mid-Training

Nova Forge מאפשרת גישה לנקודות ביקורת ביניים של אימון מודלים (לדוגמה, pretraining‑text‑RD ו-pretraining‑text‑CE). זה מאפשר המשך למידה עצמית (self-supervised learning) על מאגרי נתוני ארגון תוך בחירה זהירה של קצב הלמידה (learning rate) למניעת שכחה קטסטרופלית (catastrophic forgetting).[24][25]

Parameter-Efficient Fine-Tuning (PEFT)

עדכון של תת-קבוצה קטנה בלבד של משקולות המודל דרך מתאמי דרגה נמוכה — Low-Rank Adaptation (LoRA)[26]. גישה זו מפחיתה משמעותית את הדרישות למשאבי חישוב בהשוואה לכוונון עדין מלא (full fine-tuning). נתמך כוונון עדין מולטי-מודאלי עבור Nova Lite ו-Pro.[17]

Reinforcement Fine-Tuning (RFT)

מודלים מותאמים אישית יכולים להיות מכווננים בנוסף בשיטות מחיזוקים על בסיס מדדי תגמול ספציפיים לתעשייה, כולל שימוש ב-LLM אחר כמודל-שופט (LLM-as-a-judge).[27]

דיסטילציה של מודלים (Model Distillation)

פונקציית Model Distillation מאפשרת שימוש ב-Nova Premier או ב-Nova Pro כמודל-מורה (teacher model) לאימון מודלים-תלמידים (student models) קטנים יותר — Nova Lite ו-Nova Micro. זה מפחית את עלויות החישוב של הסקה תוך שמירה על חלק משמעותי מאיכות המודל הגדול.[2][6]

יישום ואינטגרציה

מודלי Nova משולבים בשירותי המחשוב של Amazon (AWS Step Functions, AWS Lambda, Amazon Q Developer). תרחישי יישום עיקריים מתועדים:[2][1]

תהליכי עבודה אגנטיים (Agentic Workflows)

ביצוע רב-שלבי של משימות תוך שימוש ב-Bedrock Agents וקריאה לכלים חיצוניים (function calling). תוך שימוש בדפוס הארכיטקטורי ReAct (Reasoning and Acting) בשילוב עם frameworks כגון LangGraph, מודלי Nova מתאמים ניתוח מסדי נתונים, יוצרים שאילתות SQL משפה טבעית ומנהלים תהליכים מרובי רכיבים. Nova Act מספק אוטומציה של תהליכי UI בדפדפן עם אמינות מוצהרת של 90% במשימות משתמש ראשוניות.[28][8]

יצירה עם שיקוע ידע חיצוני (RAG)

אינטגרציה עם Bedrock Knowledge Bases לעיגון (grounding) תגובות על נתוני ארגון. מודלי Nova 2 תומכים בחיפוש ברשת עם אימות נייטיבי (web grounding) ככלי מובנה.[1][9]

עיבוד מסמכים

פורמטי מסמכי קלט נתמכים: PDF, CSV, DOC, DOCX, XLS, XLSX, HTML, TXT, MD (למעט Nova Micro המקבל קלט טקסטואלי בלבד). Nova Premier מסוגל לעבד סרטוני וידאו באורך של עד 90 דקות במסגרת בקשה אחת.[2][6]

יצירה ואיתור שגיאות בקוד

שפות תכנות נתמכות: Python, Java, JavaScript, C#, TypeScript, SQL.[20]

ממשקי דיבור

Nova Sonic ו-Nova 2 Sonic משמשים לבניית סוכנים קוליים עם תמיכה בזמן אמת, המשולבים עם Amazon Connect.[10][7]

הערכת מודלים (LLM-as-a-judge)

Nova משמש כמודל-שופט בהערכת פלטים של מודלים גנרטיביים אחרים בפלטפורמת Amazon SageMaker.[29]

מגבלות ובעיות פתוחות

  • סגירות הארכיטקטורה. Amazon אינה חושפת את מספר הפרמטרים, פתרונות ארכיטקטוניים מפורטים והרכב נתוני האימון, מה שמגביל משמעותית את יכולת השחזור העצמאי של התוצאות. משקולות מודלי Nova אינם מסופקים להורדה או לפריסה מחוץ לתשתית AWS (פריסה on-premise אינה אפשרית).[1][2]
  • מגבלת פלט. המספר המרבי של token-ים בפלט לכל מודלי ההבנה מוגבל ל-10 אלף token-ים, מה שעלול שלא להספיק למשימות יצירת מסמכים ארוכים.[2]
  • מגבלות RFT. Reinforcement Fine-Tuning אינו תומך בדיאלוגים רב-סיבובים (multi-turn) ובנתונים מולטי-מודאליים; שיעור הדוגמאות החיוביות המומלץ בנתוני הדאטה-סט — לא פחות מ-5%.[27]
  • מגבלות Nova Sonic. משך חיבור מרבי — 8 דקות; מקסימום 20 חיבורים בו-זמניים לכל לקוח כברירת מחדל.[2]
  • זמינות אזורית. Nova Premier זמין רק באזור אחד (US East N. Virginia) ללא תמיכה ב-inference בין-אזורי; מודלי Nova 2 מכילים רשימה מוגבלת של אזורי פריסה.[2]
  • רגישות מדדים. הערכות על benchmark-ים סינתטיים אינן תמיד מתואמות עם איכות הפעולה בתנאי ייצור (production), שבהם קריטיים מעקב קפדני אחר מדיניות ארגונית והיעדר הזיות בהסקות רב-שלביות.[22][23]
  • הזיות. המודלים מפגינים מגבלות אופייניות ל-LLM: שגיאות עובדתיות בתגובות שנוצרו אפשריות. לצמצום סיכונים מומלץ להשתמש ב-Bedrock Guardrails וב-RAG.[1]
  • אובייקטיביות השוואתית של benchmark-ים. Amazon מציגה השוואות עם מודלים מתחרים על בסיס נתונים שפורסמו על ידי המפתחים עצמם, מה שאינו תמיד מבטיח בסיס ניסויי אחיד ומבוקר.[22]

היבטים אתיים ורגולטוריים

AWS מצהירה על עמידה בעקרונות AI אחראי (Responsible AI) בפיתוח מודלי Nova. אמצעי הבטיחות הספציפיים כוללים:[20][15]

  • מיון תוכן מובנה (content moderation).
  • סימני מים (watermarking) עבור פלטי אודיו של Nova Sonic.
  • הערכה לפי קטגוריות סיכון: בטיחות (safety), פרטיות (privacy), מהימנות (veracity), שקיפות (transparency), וכן הפצת נשק כימי, ביולוגי, רדיולוגי וגרעיני (CBRN) ומבצעי סייבר התקפיים.
  • אינטגרציה עם Amazon Bedrock Guardrails לסינון נתוני קלט ופלט.
  • הערכת מודל Nova Premier לעמידה ב-Amazon Frontier Model Safety Framework.
  • Red teaming — בדיקות פנימיות וחיצוניות לחוסן מול מתקפות (לפי הדוח הטכני, 307 טכניקות).
  • הערכת מיון תוכן לפי מדד F1: 85.84 על benchmark Aegis (לפי הדוח הטכני).[1]

כרטיסי שירות AI (AI Service Cards) עבור Nova Micro, Lite, Pro, Premier ו-Sonic פורסמו ב-docs.aws.amazon.com כתיעוד לשימוש אחראי.[20][15]

פרספקטיבות וכיוונים מחקריים

משפחת Nova 2 מסמנת מעבר למודלים עם יכולות היסק מורחבות (extended thinking / reasoning), הדומה במושג ל-Chain-of-Thought (CoT) ולמנגנונים דומים במשפחות מודלים אחרות. חיפוש ברשת מובנה ומפרש קוד ככלים נייטיביים (ולא כתוספים של צד שלישי) מייצגים שינוי ארכיטקטוני בכיוון מערכות אגנטיות.[9][8]

כיוונים לפיתוח נוסף שצוינו בחומרים הציבוריים של Amazon:

  • הרחבת מולטי-מודאליות (מודל Omni כארכיטקטורת "הכל-בכל" מאוחדת).
  • היסק היברידי (hybrid reasoning) עם עומק אדפטיבי בהתאם למורכבות המשימה.
  • אימון פתוח על נתוני משתמשים (Nova Forge) בכל שלבי האימון המקדים.
  • דיסטילציה למכשירי edge.
  • הרחבת ערכת כלי הבטיחות (safety toolkit).[8][11]

הנושאים של Amazon Nova AI Challenge המתקיים בקרב קבוצות אקדמיות על ידי AWS כוללים כיוונים של בדיקות עוינות אוטומטיות, יישור בטיחות (safety alignment) ומתקפות רב-סיבוביות (multi-turn jailbreaks), מה שמעיד על השקעות באמינות משפחת המודלים.[8]

ראו גם

  • Transformer (ארכיטקטורה)
  • Reinforcement Learning from Human Feedback (RLHF)

ספרות

קישורים חיצוניים

הערות

  1. 1.00 1.01 1.02 1.03 1.04 1.05 1.06 1.07 1.08 1.09 1.10 1.11 1.12 1.13 1.14 1.15 1.16 1.17 1.18 1.19 Amazon Artificial General Intelligence. The Amazon Nova Family of Models: Technical Report and Model Card. arXiv:2506.12103v1, 2025. https://arxiv.org/abs/2506.12103
  2. 2.00 2.01 2.02 2.03 2.04 2.05 2.06 2.07 2.08 2.09 2.10 2.11 2.12 2.13 AWS Documentation. What is Amazon Nova?. Amazon Nova User Guide. https://docs.aws.amazon.com/nova/latest/userguide/what-is-nova.html
  3. 3.0 3.1 3.2 AWS. Introducing Amazon Nova foundation models. AWS News Blog, 3 декабря 2024. https://aws.amazon.com/blogs/aws/introducing-amazon-nova-frontier-intelligence-and-industry-leading-price-performance/
  4. 4.0 4.1 4.2 About Amazon. 11 key announcements from AWS re:Invent 2024. aboutamazon.com, 2024. https://www.aboutamazon.com/news/aws/amazon-nova-ai-canvas-reel-aws-reinvent
  5. Futurum Research. Amazon unveils Nova models, chips, and tools at re:Invent. futurumgroup.com, 2025. https://futurumgroup.com/press-release/amazon-unveils-models-chips-and-tools-at-reinvent-boosting-its-ai-credentials/
  6. 6.0 6.1 6.2 6.3 AWS. Amazon Nova Premier — Our most capable model for complex tasks and teacher for model distillation. AWS Blog, 29 апреля 2025. https://aws.amazon.com/blogs/aws/amazon-nova-premier-our-most-capable-model-for-complex-tasks-and-teacher-for-model-distillation/
  7. 7.0 7.1 7.2 AWS. Announcing Amazon Nova Sonic. AWS What's New, 7 апреля 2025. https://aws.amazon.com/about-aws/whats-new/2025/04/amazon-nova-sonic-speech-to-speech-conversations-bedrock/
  8. 8.0 8.1 8.2 8.3 8.4 8.5 8.6 8.7 8.8 Amazon. Amazon introduces new frontier Nova models. aboutamazon.com, 2 декабря 2025. https://www.aboutamazon.com/news/aws/aws-agentic-ai-amazon-bedrock-nova-models
  9. 9.0 9.1 9.2 9.3 9.4 AWS. Introducing Amazon Nova 2 Lite — a fast, cost‑effective reasoning model. AWS Blog, декабрь 2025. https://aws.amazon.com/blogs/aws/introducing-amazon-nova-2-lite-a-fast-cost-effective-reasoning-model/
  10. 10.0 10.1 10.2 10.3 AWS. Introducing Amazon Nova 2 Sonic — next‑generation speech‑to‑speech model for conversational AI. AWS Blog, декабрь 2025. https://aws.amazon.com/blogs/aws/introducing-amazon-nova-2-sonic-next-generation-speech-to-speech-model-for-conversational-ai/
  11. 11.0 11.1 11.2 11.3 11.4 11.5 11.6 11.7 11.8 Amazon Artificial General Intelligence. Amazon Nova 2: Multimodal Reasoning and Generation Models — Technical Report and Model Card. Amazon Science, 16 февраля 2026. https://www.amazon.science/publications/amazon-nova-2-multimodal-reasoning-and-generation-models
  12. 12.0 12.1 Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. https://arxiv.org/abs/1706.03762
  13. 13.0 13.1 13.2 13.3 13.4 AlphaXiv / Amazon Science. The Amazon Nova Family of Models: Model Architecture and Training Methodology. alphaxiv.org, 2025. https://www.alphaxiv.org/overview/2506.12103v1
  14. 14.0 14.1 Rombach, R. et al. (2022). High‑Resolution Image Synthesis with Latent Diffusion Models. CVPR. https://arxiv.org/abs/2112.10752
  15. 15.0 15.1 15.2 15.3 AWS. Amazon Nova Sonic — AWS AI Service Cards. docs.aws.amazon.com. https://docs.aws.amazon.com/ai/responsible-ai/nova-sonic/overview.html
  16. LinkedIn (инженеры AWS). Announcing Managed Tiered Checkpointing. linkedin.com, декабрь 2025. https://www.linkedin.com/posts/hajamaideen_announcing-managed-tiered-checkpointing-for-activity-7402077620147798016-njZo
  17. 17.0 17.1 17.2 AWS. Announcing Amazon Nova customization in Amazon SageMaker AI. aws.amazon.com, 2025. https://aws.amazon.com/blogs/aws/announcing-amazon-nova-customization-in-amazon-sagemaker-ai/
  18. Ouyang, L. et al. (2022). Training language models to follow instructions with human feedback (InstructGPT). NeurIPS. https://arxiv.org/abs/2203.02155
  19. 19.0 19.1 Rafailov, R. et al. (2023). Direct Preference Optimization: Your Language Model is Secretly a Reward Model. NeurIPS. https://arxiv.org/abs/2305.18290
  20. 20.0 20.1 20.2 20.3 20.4 AWS. Amazon Nova Micro, Lite, Pro, and Premier — AWS AI Service Cards. docs.aws.amazon.com. https://docs.aws.amazon.com/ai/responsible-ai/nova-micro-lite-pro/overview.html
  21. HKU SPACE AI Hub. Benchmarking Amazon Nova: A comprehensive analysis through MT‑Bench and Arena‑Hard‑Auto. aihub.hkuspace.hku.hk, 2025. https://aihub.hkuspace.hku.hk/benchmarking-amazon-nova-a-comprehensive-analysis-through-mt-bench-and-arena-hard-auto/
  22. 22.0 22.1 22.2 22.3 22.4 22.5 AWS Machine Learning Blog. Benchmarking Amazon Nova: A Comprehensive Analysis Through MT‑Bench and Arena‑Hard. aws.amazon.com, 2025. https://aws.amazon.com/blogs/machine-learning/benchmarking-amazon-nova-a-comprehensive-analysis-through-mt-bench-and-arena-hard-auto/
  23. 23.0 23.1 AWS Machine Learning Blog. Real‑world reasoning: How Amazon Nova Lite 2.0 handles complex customer support scenarios. aws.amazon.com, 2025. https://aws.amazon.com/blogs/machine-learning/real-world-reasoning-how-amazon-nova-lite-2-0-handles-complex-customer-support-scenarios/
  24. AWS Documentation. Continued Pre‑Training and Mid‑Training — Amazon Nova. docs.aws.amazon.com. https://docs.aws.amazon.com/nova/latest/nova2-userguide/nova-forge-cpt.html
  25. AWS Documentation. Continued Pre‑Training and Mid‑Training. Amazon SageMaker Developer Guide. https://docs.aws.amazon.com/sagemaker/latest/dg/nova-forge-cpt.html
  26. Hu, E.J. et al. (2021). LoRA: Low‑Rank Adaptation of Large Language Models. https://arxiv.org/abs/2106.09685
  27. 27.0 27.1 AWS Documentation. Reinforcement Fine‑Tuning (RFT) with Amazon Nova models. Amazon SageMaker Documentation. https://docs.aws.amazon.com/sagemaker/latest/dg/nova-reinforcement-fine-tuning.html
  28. AWS Machine Learning Blog. Natural language‑based database analytics with Amazon Nova. aws.amazon.com, 2025. https://aws.amazon.com/blogs/machine-learning/natural-language-based-database-analytics-with-amazon-nova/
  29. AWS Machine Learning Blog. Evaluating generative AI models with Amazon Nova LLM‑as‑a‑judge on Amazon SageMaker AI. aws.amazon.com, 2025. https://aws.amazon.com/blogs/machine-learning/evaluating-generative-ai-models-with-amazon-nova-llm-as-a-judge-on-amazon-sagemaker-ai/