Nova (Amazon) (VI)

Amazon Nova — họ các mô hình nền tảng (Foundation Models, FM) và mô hình ngôn ngữ lớn (Large Language Model, LLM) được phát triển bởi bộ phận Amazon Artificial General Intelligence (AAG Intelligence) và có thể truy cập thông qua dịch vụ được quản lý hoàn toàn Amazon Bedrock. Họ mô hình bao gồm các mô hình hiểu và tạo sinh văn bản, xử lý hình ảnh, video và tài liệu, cũng như tổng hợp và nhận dạng giọng nói. Amazon Nova được định vị là thế hệ thay thế các mô hình Amazon Titan trước đó và được tích hợp vào hệ sinh thái đám mây Amazon Web Services (AWS).

Lịch sử và niên đại phát triển

Trước khi Nova ra mắt, nền tảng Amazon Bedrock cung cấp quyền truy cập vào các mô hình của bên thứ ba: Anthropic Claude, Meta Llama, Mistral và các mô hình khác. Amazon Nova trở thành họ mô hình nền tảng tự phát triển đầu tiên của AWS, hướng đến ứng dụng thương mại trong hạ tầng đám mây.

Thế hệ đầu tiên (2024–2025)

Thế hệ đầu tiên của họ Amazon Nova được ra mắt chính thức vào ngày 3 tháng 12 năm 2024 tại hội nghị AWS re:Invent 2024. Bản phát hành ban đầu bao gồm ba mô hình hiểu (understanding models) — Nova Micro (chỉ văn bản), Nova Lite và Nova Pro đa phương thức — cũng như các mô hình tạo sinh Nova Canvas (tạo sinh hình ảnh) và Nova Reel (tạo sinh video).

Vào tháng 4 năm 2025, dòng sản phẩm được bổ sung mô hình hàng đầu Nova Premier — mô hình mạnh nhất trong họ với cửa sổ ngữ cảnh 1 triệu token, được thiết kế cho các tác vụ suy luận phức tạp và chưng cất mô hình (distillation, chuyển giao tri thức từ mô hình lớn sang mô hình nhỏ hơn). Cũng trong tháng 4 năm 2025, Nova Sonic được ra mắt — một mô hình giọng nói thuộc lớp speech‑to‑speech với hỗ trợ hội thoại theo thời gian thực.

Thế hệ thứ hai — Nova 2 (2025–2026)

Vào tháng 11–12 năm 2025 tại hội nghị AWS re:Invent 2025, thế hệ thứ hai — Amazon Nova 2 — được công bố. Dòng sản phẩm bao gồm các mô hình được cập nhật Nova 2 Lite và Nova 2 Pro với hỗ trợ suy luận động (dynamic reasoning) và xử lý ngữ cảnh mở rộng, mô hình đa phương thức gốc Nova 2 Omni (xử lý và tạo sinh đồng thời văn bản, hình ảnh, video và âm thanh), cũng như Nova 2 Sonic — mô hình giọng nói thế hệ tiếp theo. Đồng thời, các dịch vụ Nova Forge (môi trường huấn luyện mô hình tùy chỉnh) và Nova Act (framework cho các workflow tác nhân) cũng được ra mắt.

Vào tháng 2 năm 2026, báo cáo kỹ thuật chính thức Amazon Nova 2 được công bố.

Niên đại tổng hợp

Ngày	Sự kiện
Tháng 12 năm 2024	Công bố Amazon Nova tại AWS re:Invent 2024: Nova Micro, Lite, Pro, Canvas, Reel
Tháng 4 năm 2025	Phát hành Nova Premier (ngữ cảnh 1M token) và Nova Sonic (speech‑to‑speech)
Tháng 6 năm 2025	Công bố báo cáo kỹ thuật thế hệ đầu tiên (arXiv:2506.12103)
Tháng 11–12 năm 2025	Công bố Nova 2 tại AWS re:Invent 2025: Nova 2 Lite, 2 Pro, 2 Omni, 2 Sonic, Nova Forge, Nova Act
Tháng 2 năm 2026	Công bố báo cáo kỹ thuật Amazon Nova 2

Cơ sở lý thuyết và kiến trúc

Kiến trúc cơ bản của các mô hình understanding

Theo báo cáo kỹ thuật arXiv:2506.12103, các mô hình hiểu (Nova Micro, Lite, Pro, Premier) được xây dựng trên kiến trúc transformer (Transformer) được mô tả trong công trình của Vaswani et al. Cơ chế chú ý đa đầu (Multi‑Head Self‑Attention) cơ bản được mô tả bằng công thức:

$\mathrm{Attention}(Q,K,V)=\mathrm{softmax}\left(\frac{Q{K}^{\mathrm{\top }}}{\sqrt{d_k}}\right)V$

trong đó $Q$, $K$, $V$ — lần lượt là các ma trận truy vấn (queries), khóa (keys) và giá trị (values), $d_k$ — chiều của các khóa.

Các tham số kiến trúc chính xác (số lớp, kích thước trạng thái ẩn, số đầu chú ý, tổng số tham số) chưa được công bố trong các nguồn công khai tính đến tháng 3 năm 2026. Cách tiếp cận này là đặc trưng của các mô hình thương mại đóng.

Xử lý đa phương thức trong Nova Lite và Nova Pro được thực hiện thông qua việc kết hợp các token văn bản, hình ảnh và video thành một chuỗi thống nhất được đưa vào đầu vào của một mô hình ngôn ngữ duy nhất. Các bộ mã hóa hình ảnh (vision encoders) chuyển đổi hình ảnh và khung hình video thành các chuỗi token tương thích với biểu diễn văn bản.

Kiến trúc các mô hình tạo sinh

Các mô hình tạo sinh Nova Canvas (hình ảnh) và Nova Reel (video) sử dụng kiến trúc mô hình khuếch tán tiềm ẩn (Latent Diffusion Models, LDM) kết hợp với bộ tự mã hóa biến phân (Variational AutoEncoder, VAE) để tính toán trong không gian tiềm ẩn. Quá trình khuếch tán được mô tả bằng phương trình nhiễu thuận:

$x_t=\sqrt{{\overline{\alpha }}_t}{x}_0+\sqrt{1-{\overline{\alpha }}_t}ϵ,ϵ\sim 𝒩(0,I)$

trong đó $x_0$ — hình ảnh gốc trong không gian tiềm ẩn, $x_t$ — phiên bản nhiễu của nó tại bước $t$, ${\overline{\alpha }}_t$ — tham số tích lũy của lịch trình nhiễu, $ϵ$ — nhiễu Gaussian tiêu chuẩn. Bộ mã hóa văn bản (text encoder) cung cấp conditioning — điều kiện hóa quá trình tạo sinh theo prompt văn bản.

Kiến trúc các mô hình giọng nói

Nova Sonic sử dụng kiến trúc khác biệt so với các mô hình văn bản: nó kết hợp bộ mã hóa giọng nói chuyên dụng (speech encoder), bộ giải mã giọng nói (speech renderer) và mô hình ngôn ngữ đa phương thức chính thành một pipeline đầu cuối thống nhất (end‑to‑end pipeline). Điều này cho phép xử lý đầu vào giọng nói và tạo sinh đầu ra giọng nói mà không cần chuyển đổi trung gian sang văn bản (mặc dù biểu diễn văn bản được sử dụng nội bộ để đảm bảo chất lượng).

Hạ tầng huấn luyện

Việc huấn luyện các mô hình Nova được thực hiện trên các cụm phân tán AWS Elastic Kubernetes Service (EKS) sử dụng các bộ tăng tốc AI tự sản xuất Amazon Trainium (instance TRN1), cũng như các bộ xử lý đồ họa NVIDIA A100 và H100.

Để giảm chi phí tính toán trong quá trình huấn luyện, các phương pháp tối ưu hóa chuyên dụng đã được phát triển và áp dụng:

• Super‑Selective Activation Checkpointing (SSC) — phương pháp lưu trữ kích hoạt, theo dữ liệu từ báo cáo kỹ thuật, giúp giảm mức tiêu thụ bộ nhớ của bộ xử lý đồ họa khoảng 50% với chi phí tính toán lại (recomputation) tối thiểu.
• In‑CPU‑Memory Checkpointing — lưu cache các trọng số trung gian (checkpoints) trong bộ nhớ RAM của bộ xử lý trung tâm (CPU) trước khi tải lên không đồng bộ vào bộ lưu trữ đám mây Amazon S3. Theo dữ liệu của Amazon, cách tiếp cận này cho phép giảm thời gian lưu trạng thái mô hình xuống còn 0,1 giây trên các instance với TRN1.

Pipeline huấn luyện và căn chỉnh

Quá trình huấn luyện các mô hình Nova bao gồm nhiều giai đoạn đặc trưng của các LLM hiện đại:

Tiền huấn luyện (Pre‑training)

Huấn luyện quy mô lớn trên một kho dữ liệu đa ngôn ngữ và đa phương thức lớn, bao gồm hơn 200 ngôn ngữ. Thành phần chính xác của dữ liệu huấn luyện (khối lượng, tỷ lệ ngôn ngữ, các nguồn cụ thể) không được công bố trong các tài liệu công khai.

Tinh chỉnh có giám sát (Supervised Fine‑Tuning, SFT)

Tinh chỉnh trên các ví dụ có gán nhãn theo cặp "hướng dẫn — phản hồi", giúp mô hình tuân theo các hướng dẫn của người dùng.

Căn chỉnh bằng học tăng cường

Để căn chỉnh hành vi của mô hình với sở thích của con người, hai thuật toán chính được áp dụng:

Proximal Policy Optimization (PPO) — thuật toán học tăng cường dựa trên phản hồi của con người (Reinforcement Learning from Human Feedback, RLHF), sử dụng mô hình phần thưởng riêng biệt (Reward Model).

Direct Preference Optimization (DPO) — phương pháp căn chỉnh thay thế, không yêu cầu mô hình phần thưởng tường minh. Hàm mục tiêu DPO có dạng:

${ℒ}_{\mathrm{D}\mathrm{P}\mathrm{O}}({\pi }_{\theta };{\pi }_{\mathrm{r}\mathrm{e}\mathrm{f}})=-{𝔼}_{(x,y_w,y_l)\sim 𝒟}[\log \sigma (\beta \log \frac{{\pi }_{\theta }(y_w\mid x)}{{\pi }_{\mathrm{r}\mathrm{e}\mathrm{f}}(y_w\mid x)}-\beta \log \frac{{\pi }_{\theta }(y_l\mid x)}{{\pi }_{\mathrm{r}\mathrm{e}\mathrm{f}}(y_l\mid x)})]$

trong đó:

• ${\pi }_{\theta }$ — chiến lược được tham số hóa (mô hình được huấn luyện);
• ${\pi }_{\mathrm{r}\mathrm{e}\mathrm{f}}$ — mô hình tham chiếu cơ sở (đã đóng băng);
• $x$ — prompt đầu vào (ngữ cảnh);
• $y_w$ và $y_l$ — lần lượt là phản hồi được ưu tiên (winner) và bị từ chối (loser);
• $\sigma$ — hàm logistic (sigmoid);
• $\beta$ — siêu tham số kiểm soát độ mạnh của hình phạt khi lệch khỏi mô hình cơ sở (tương tự hình phạt phân kỳ Kullback–Leibler, KL‑divergence penalty).

Thành phần họ mô hình

Họ mô hình được phân chia thành các bậc (tiers) tùy thuộc vào sự cân bằng giữa hiệu suất, chi phí và độ trễ (latency).

Các mô hình hiểu thế hệ đầu tiên

Tham số	Nova Micro	Nova Lite	Nova Pro	Nova Premier
Phương thức đầu vào	Văn bản	Văn bản, hình ảnh, video	Văn bản, hình ảnh, video	Văn bản, hình ảnh, video
Phương thức đầu ra	Văn bản	Văn bản	Văn bản	Văn bản
Cửa sổ ngữ cảnh	128 nghìn token	300 nghìn token	300 nghìn token	1 triệu token
Số token đầu ra tối đa	10 nghìn	10 nghìn	10 nghìn	10 nghìn
Hỗ trợ ngôn ngữ	200+	200+	200+	200+
Tinh chỉnh (fine‑tuning)	Có	Có	Có	Không
Ngày phát hành	Tháng 12 năm 2024	Tháng 12 năm 2024	Tháng 12 năm 2024	Tháng 4 năm 2025
Mục đích chính	Độ trễ và chi phí tối thiểu cho các tác vụ văn bản	Phân tích đa phương thức cơ bản	Cân bằng tối ưu cho các tác vụ logic phức tạp và tác nhân	Độ chính xác tối đa, mô hình giáo viên cho chưng cất

Nguồn: AWS AI Service Cards; arXiv:2506.12103.

Các ngôn ngữ được tối ưu hóa (15): tiếng Anh, tiếng Đức, tiếng Tây Ban Nha, tiếng Pháp, tiếng Ý, tiếng Nhật, tiếng Hàn, tiếng Ả Rập, tiếng Trung (giản thể), tiếng Nga, tiếng Hindi, tiếng Bồ Đào Nha, tiếng Hà Lan, tiếng Thổ Nhĩ Kỳ, tiếng Hebrew.

Nova Premier được thiết kế cho các tác vụ đòi hỏi hiểu ngữ cảnh sâu, lập kế hoạch nhiều bước và làm việc với khối lượng dữ liệu lớn: cơ sở mã nguồn, tài liệu hơn 400 trang, video dài đến 90 phút.

Các mô hình thế hệ thứ hai (Nova 2)

Nova 2 Lite và Nova 2 Pro được phát hành vào tháng 11–12 năm 2025. Cả hai đều hỗ trợ suy luận mở rộng (extended thinking) — cơ chế trong đó mô hình thực hiện suy luận nhiều bước trước khi tạo sinh phản hồi. Độ sâu suy luận được điều chỉnh bằng tham số reasoning_effort với các mức low, medium và high. Cửa sổ ngữ cảnh được mở rộng lên 1 triệu token. Các công cụ gốc được tích hợp sẵn: tìm kiếm web có xác nhận (web grounding) và trình thông dịch mã (code interpreter).

Nova 2 Omni — mô hình đa phương thức gốc, có khả năng nhận đồng thời văn bản, hình ảnh, video và âm thanh làm đầu vào, và tạo sinh văn bản cùng hình ảnh. Cửa sổ ngữ cảnh — 1 triệu token.

Nova 2 Sonic — mô hình giọng nói thế hệ tiếp theo. Hỗ trợ 6 ngôn ngữ: tiếng Anh (biến thể Mỹ và Anh), tiếng Tây Ban Nha, tiếng Đức, tiếng Pháp, tiếng Ý. Giới thiệu tính năng gọi công cụ không đồng bộ (asynchronous tool calling) — mô hình tiếp tục xử lý đầu vào mới trong khi các công cụ bên ngoài đang thực thi ở chế độ nền.

Tham số	Nova 2 Lite	Nova 2 Pro	Nova 2 Omni	Nova 2 Sonic
Phương thức đầu vào	Văn bản, hình ảnh, video	Văn bản, hình ảnh, video	Văn bản, hình ảnh, video, âm thanh	Âm thanh (giọng nói)
Phương thức đầu ra	Văn bản	Văn bản	Văn bản, hình ảnh	Âm thanh (giọng nói)
Cửa sổ ngữ cảnh	1 triệu token	1 triệu token	1 triệu token	300 nghìn token
Extended thinking	Có	Có	Có	—
Công cụ gốc	Web grounding, Code interpreter	Web grounding, Code interpreter	—	Asynchronous tool calling
Ngày phát hành	Tháng 11–12 năm 2025	Tháng 11–12 năm 2025	Tháng 12 năm 2025	Tháng 12 năm 2025

Nguồn: AWS Blog; Amazon Science.

Các mô hình tạo sinh

Nova Canvas — mô hình tạo sinh hình ảnh. Hỗ trợ đầu vào văn bản và đồ họa (PNG, JPEG). Độ phân giải đầu ra — lên đến 4,19 triệu pixel (ví dụ: 2048×2048 hoặc 2816×1536 pixel). Độ dài prompt tối đa — 1024 ký tự. Hỗ trợ các thao tác inpainting (thay thế vùng hình ảnh) và outpainting (mở rộng hình ảnh ra ngoài ranh giới của nó).

Nova Reel — mô hình tạo sinh video. Độ phân giải đầu ra: 1280×720 ở 24 khung hình mỗi giây. Thời lượng video được tạo sinh — lên đến 6 giây. Hỗ trợ điều khiển chuyển động camera (camera control). Truy cập được thực hiện thông qua API không đồng bộ (Asynchronous Invoke Model API).

Các mô hình giọng nói

Nova Sonic (tháng 4 năm 2025) — mô hình giọng nói với API phát trực tuyến hai chiều (bidirectional stream API). Hỗ trợ gọi hàm (function calling) và tiếp đất trên dữ liệu doanh nghiệp thông qua Retrieval‑Augmented Generation (RAG, tạo sinh có hỗ trợ truy xuất tri thức bên ngoài). Chức năng đánh dấu bản quyền (watermarking) được tích hợp theo mặc định. Thời lượng kết nối tối đa — 8 phút với khả năng nối lại; tối đa 20 kết nối đồng thời mỗi khách hàng (giá trị mặc định).

Nova 2 Sonic (tháng 12 năm 2025) — thế hệ tiếp theo của mô hình giọng nói với khả năng nhận dạng cải tiến cho các phát ngôn ngắn, âm thanh điện thoại (8 kHz) và giọng địa phương.

Đánh giá và benchmark

Việc đánh giá các mô hình Nova được thực hiện bằng các benchmark tự động, bao gồm cách tiếp cận "LLM‑as‑a‑judge" (sử dụng mô hình ngôn ngữ làm công cụ đánh giá). Theo dữ liệu nghiên cứu từ HKU SPACE AI Hub, chỉ số Arena‑Hard‑Auto cho thấy mức tương quan 98,6% với đánh giá của chuyên gia.

Benchmark thế hệ đầu tiên

Dữ liệu từ báo cáo kỹ thuật arXiv:2506.12103 (điều kiện: kết quả của các nhà phát triển mô hình cạnh tranh được công bố tại thời điểm chuẩn bị báo cáo):

Benchmark	Nova Pro	Nova Lite	Nova Micro	Claude 3.5 Sonnet (Oct 2024)	GPT‑4o (Nov 2024)
MMLU (5‑shot)	—	80,5	77,6	—	—
MATH (4‑shot)	—	73,3	69,3	—	—
IFEval	—	87,5	87,2	—	—
MT‑Bench (text)	79,7	77,7	—	76,7	77,5
MT‑Bench (multimodal)	63,7	60,7	—	61,6	55,0

Nguồn: arXiv:2506.12103, bảng 2.1.1.

Kết quả cho thấy hệ thống phân cấp hiệu suất trong nội bộ họ mô hình (Premier > Pro > Lite > Micro). Khoảng cách rõ rệt nhất trong các hạng mục toán học (Math) và suy luận (Reasoning); trong các tác vụ tương tác nhập vai (Roleplay) và trích xuất thông tin (Extraction), các mô hình cấp thấp hơn cho kết quả gần với các mô hình cấp cao hơn.

Benchmark thế hệ thứ hai (Nova 2)

Dữ liệu từ báo cáo kỹ thuật Amazon Nova 2 (điều kiện: đo lường nội bộ, 0‑shot / CoT nơi được chỉ định):

Benchmark	Nova 2 Lite	Nova 2 Pro	Claude Haiku 4.5	GPT‑5 Mini	Gemini 2.5 Flash
MMLU‑Pro (acc)	80,9	81,6	80,0	83,7	83,2
GPQA‑Diamond (acc)	79,6	81,4	73,0	82,3	82,8
AIME 2025 (acc)	91,0	92,3	80,7	91,1	72,0
LongCodeBench 1M (acc)	84,0	84,0	—	—	78,0

Nguồn: Amazon Nova 2 Technical Report, bảng 1.

Benchmark tác nhân (Nova 2 Pro): SWE‑Bench Verified — 70,0%; τ²‑bench Verified Telecom — 92,7%.

Benchmark đa phương thức (Nova 2 Omni): VideoMME — 77,9%; MMMU Pro — 61,4%.

Khi đánh giá trong các tác vụ hỗ trợ kỹ thuật, Nova 2 Lite đạt 9,63 ± 0,27 trên thang điểm 10 theo chỉ số "Nhận dạng vấn đề" (Problem Identification), vượt trội đáng kể so với Nova Lite thế hệ đầu tiên (8,57 ± 0,46).

Lưu ý. Khi so sánh kết quả với các mô hình cạnh tranh, cần tính đến việc các điều kiện prompting, phiên bản mô hình và ngày đo chỉ số có thể khác nhau. Các benchmark thế hệ đầu và thứ hai được lấy từ báo cáo tự đánh giá của Amazon; các xác minh độc lập (FloTorch, Artificial Analysis) nói chung xác nhận tỷ lệ giá/hiệu suất được tuyên bố, nhưng theo một số chỉ số độ chính xác riêng lẻ ghi nhận sự tụt hậu so với các đối thủ hàng đầu.

Tốc độ suy luận

Theo đo lường nội bộ của Amazon (internal, qua Bedrock API):

Mô hình	Tốc độ suy luận (token/giây)
Nova Micro	≈210
Nova Lite	≈157
Nova Pro	≈100
Nova 2 Omni	>200

Chi phí sử dụng

Tất cả các mô hình đều có thể truy cập thông qua Amazon Bedrock theo mô hình thanh toán dựa trên số lượng token được xử lý (dữ liệu tính đến tháng 3 năm 2026):

Mô hình	Token đầu vào (USD / 1M)	Token đầu ra (USD / 1M)
Nova Micro	$0,035	$0,14
Nova Lite	≈$0,06	≈$0,24
Nova Pro	$0,80	$3,20
Nova Premier	$2,50	$12,50

Để so sánh: Anthropic Claude 3.5 Sonnet vào thời điểm phát hành Nova có mức giá $6,00 / 1M token đầu vào và $30,00 / 1M token đầu ra.

Tùy chỉnh và tinh chỉnh

Hạ tầng AWS cung cấp nhiều phương pháp để thích nghi các mô hình Nova cơ sở cho các lĩnh vực chuyên biệt hẹp. Công cụ chính cho mục đích này trong thế hệ thứ hai là môi trường Amazon Nova Forge.

Continued Pre‑Training (CPT) và Mid‑Training

Nova Forge cung cấp quyền truy cập vào các checkpoint huấn luyện trung gian của mô hình (ví dụ: pretraining‑text‑RD và pretraining‑text‑CE). Điều này cho phép tiếp tục tự học (self‑supervised learning) trên các khối dữ liệu doanh nghiệp với việc điều chỉnh cẩn thận tốc độ học (learning rate) để ngăn ngừa hiện tượng quên thảm họa (catastrophic forgetting).

Parameter‑Efficient Fine‑Tuning (PEFT)

Cập nhật chỉ một tập con nhỏ trọng số mô hình thông qua các bộ thích nghi hạng thấp — Low‑Rank Adaptation (LoRA). Cách tiếp cận này giảm đáng kể yêu cầu tài nguyên tính toán so với tinh chỉnh toàn bộ (full fine‑tuning). Hỗ trợ tinh chỉnh đa phương thức cho Nova Lite và Pro.

Reinforcement Fine‑Tuning (RFT)

Các mô hình tùy chỉnh có thể được tinh chỉnh thêm bằng các phương pháp học tăng cường dựa trên các chỉ số phần thưởng đặc thù của ngành, bao gồm cả việc sử dụng một LLM khác làm mô hình trọng tài (LLM‑as‑a‑judge).

Chưng cất mô hình (Model Distillation)

Chức năng Model Distillation cho phép sử dụng Nova Premier hoặc Nova Pro làm mô hình giáo viên (teacher model) để huấn luyện các mô hình học sinh nhỏ hơn (student models) — Nova Lite và Nova Micro. Điều này giảm chi phí tính toán trong suy luận trong khi vẫn duy trì phần lớn chất lượng của mô hình lớn.

Ứng dụng và tích hợp

Các mô hình Nova được tích hợp vào các dịch vụ tính toán của Amazon (AWS Step Functions, AWS Lambda, Amazon Q Developer). Các kịch bản ứng dụng chính được ghi lại:

Quy trình tác nhân (Agentic Workflows)

Thực thi tác vụ nhiều bước sử dụng Bedrock Agents và gọi công cụ bên ngoài (function calling). Sử dụng mẫu kiến trúc ReAct (Reasoning and Acting) kết hợp với các framework như LangGraph, các mô hình Nova phối hợp phân tích cơ sở dữ liệu, tạo truy vấn SQL từ ngôn ngữ tự nhiên và quản lý các quy trình đa thành phần. Nova Act cung cấp tự động hóa các workflow giao diện người dùng trình duyệt với độ tin cậy được tuyên bố là 90% trên các tác vụ người dùng ban đầu.

Tạo sinh có hỗ trợ truy xuất tri thức (RAG)

Tích hợp với Bedrock Knowledge Bases để tiếp đất (grounding) các câu trả lời trên dữ liệu doanh nghiệp. Các mô hình Nova 2 hỗ trợ tìm kiếm web gốc có xác nhận (web grounding) như một công cụ tích hợp sẵn.

Xử lý tài liệu

Các định dạng tài liệu đầu vào được hỗ trợ: PDF, CSV, DOC, DOCX, XLS, XLSX, HTML, TXT, MD (ngoại trừ Nova Micro chỉ nhận đầu vào văn bản). Nova Premier có khả năng xử lý video dài đến 90 phút trong một yêu cầu duy nhất.

Tạo sinh và gỡ lỗi mã

Các ngôn ngữ lập trình được hỗ trợ: Python, Java, JavaScript, C#, TypeScript, SQL.

Giao diện giọng nói

Nova Sonic và Nova 2 Sonic được sử dụng để xây dựng các tác nhân giọng nói hỗ trợ thời gian thực, được tích hợp với Amazon Connect.

Đánh giá mô hình (LLM‑as‑a‑judge)

Nova được sử dụng như một mô hình trọng tài khi đánh giá đầu ra của các mô hình tạo sinh khác trên nền tảng Amazon SageMaker.

Hạn chế và vấn đề còn mở

• Kiến trúc đóng. Amazon không công bố số lượng tham số, các quyết định kiến trúc chi tiết và thành phần dữ liệu huấn luyện, điều này hạn chế đáng kể khả năng tái tạo kết quả một cách độc lập. Trọng số mô hình Nova không được cung cấp để tải xuống hoặc triển khai bên ngoài hạ tầng AWS (không thể triển khai on‑premise).
• Giới hạn đầu ra. Số lượng token đầu ra tối đa cho tất cả các mô hình hiểu bị giới hạn ở 10 nghìn token, có thể không đủ cho các tác vụ tạo sinh tài liệu dài.
• Hạn chế của RFT. Reinforcement Fine‑Tuning không hỗ trợ hội thoại nhiều lượt (multi‑turn) và dữ liệu đa phương thức; tỷ lệ ví dụ tích cực được khuyến nghị trong tập dữ liệu là không dưới 5%.
• Hạn chế của Nova Sonic. Thời lượng kết nối tối đa — 8 phút; tối đa 20 kết nối đồng thời mỗi khách hàng theo mặc định.
• Khả dụng theo khu vực. Nova Premier chỉ khả dụng ở một khu vực (US East N. Virginia) mà không hỗ trợ suy luận xuyên khu vực; các mô hình Nova 2 có danh sách khu vực triển khai hạn chế.
• Độ nhạy của các chỉ số. Điểm số trên các benchmark tổng hợp không phải lúc nào cũng tương quan với chất lượng hoạt động trong điều kiện sản xuất (production), nơi tuân thủ chặt chẽ các chính sách doanh nghiệp và không có ảo giác trong các suy luận nhiều bước là yếu tố quan trọng.
• Ảo giác. Các mô hình thể hiện những hạn chế điển hình của LLM: có thể xảy ra lỗi thực tế trong các câu trả lời được tạo sinh. Để giảm thiểu rủi ro, khuyến nghị sử dụng Bedrock Guardrails và RAG.
• Tính khách quan so sánh của benchmark. Amazon đưa ra so sánh với các mô hình cạnh tranh dựa trên dữ liệu do chính các nhà phát triển công bố, điều này không phải lúc nào cũng đảm bảo một cơ sở thực nghiệm được kiểm soát thống nhất.

Khía cạnh đạo đức và pháp lý

AWS tuyên bố tuân thủ các nguyên tắc AI có trách nhiệm (Responsible AI) trong việc phát triển các mô hình Nova. Các biện pháp an toàn cụ thể bao gồm:

• Kiểm duyệt nội dung tích hợp (content moderation).
• Đánh dấu bản quyền (watermarking) cho đầu ra âm thanh của Nova Sonic.
• Đánh giá theo các hạng mục rủi ro: an toàn (safety), bảo mật (privacy), độ tin cậy (veracity), tính minh bạch (transparency), cũng như phổ biến vũ khí hóa học, sinh học, phóng xạ và hạt nhân (CBRN) và các hoạt động tấn công mạng.
• Tích hợp với Amazon Bedrock Guardrails để lọc dữ liệu đầu vào và đầu ra.
• Đánh giá mô hình Nova Premier về sự tuân thủ Amazon Frontier Model Safety Framework.
• Red teaming — kiểm tra nội bộ và bên ngoài về khả năng chống tấn công (theo dữ liệu báo cáo kỹ thuật, 307 kỹ thuật).
• Đánh giá kiểm duyệt nội dung theo chỉ số F1: 85,84 trên benchmark Aegis (theo dữ liệu báo cáo kỹ thuật).

Các thẻ dịch vụ AI (AI Service Cards) cho Nova Micro, Lite, Pro, Premier và Sonic được công bố trên docs.aws.amazon.com như tài liệu về ứng dụng có trách nhiệm.

Triển vọng và hướng nghiên cứu

Họ Nova 2 đánh dấu sự chuyển dịch sang các mô hình với khả năng suy luận mở rộng (extended thinking / reasoning), tương tự về khái niệm với chuỗi suy nghĩ (Chain‑of‑Thought, CoT) và các cơ chế tương tự trong các họ mô hình khác. Tìm kiếm web tích hợp và trình thông dịch mã như các công cụ gốc (không phải plugin bên thứ ba) đại diện cho sự thay đổi kiến trúc theo hướng các hệ thống tác nhân.

Các hướng phát triển tiếp theo được nêu trong các tài liệu công khai của Amazon:

• Mở rộng đa phương thức (mô hình Omni như kiến trúc "tất cả trong một" thống nhất).
• Suy luận lai (hybrid reasoning) với độ sâu thích nghi tùy thuộc vào độ phức tạp của tác vụ.
• Huấn luyện mở trên dữ liệu người dùng (Nova Forge) ở tất cả các giai đoạn tiền huấn luyện.
• Chưng cất cho các thiết bị biên (edge).
• Mở rộng bộ công cụ an toàn (safety toolkit).

Chủ đề của Amazon Nova AI Challenge, được AWS tổ chức trong các nhóm sinh viên đại học, bao gồm các hướng kiểm thử đối nghịch tự động, căn chỉnh an toàn (safety alignment) và tấn công nhiều lượt (multi‑turn jailbreaks), điều này cho thấy đầu tư vào độ tin cậy của họ mô hình.

Xem thêm

• Transformer (kiến trúc)
• Reinforcement Learning from Human Feedback (RLHF)

Tài liệu tham khảo

• Amazon Artificial General Intelligence. The Amazon Nova Family of Models: Technical Report and Model Card. arXiv:2506.12103v1, 2025. https://arxiv.org/abs/2506.12103
• Amazon Artificial General Intelligence. Amazon Nova 2: Multimodal Reasoning and Generation Models — Technical Report and Model Card. Amazon Science, tháng 2 năm 2026. https://www.amazon.science/publications/amazon-nova-2-multimodal-reasoning-and-generation-models
• Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. https://arxiv.org/abs/1706.03762
• Rafailov, R. et al. (2023). Direct Preference Optimization: Your Language Model is Secretly a Reward Model. NeurIPS. https://arxiv.org/abs/2305.18290
• Ouyang, L. et al. (2022). Training language models to follow instructions with human feedback (InstructGPT). NeurIPS. https://arxiv.org/abs/2203.02155
• Rombach, R. et al. (2022). High‑Resolution Image Synthesis with Latent Diffusion Models. CVPR. https://arxiv.org/abs/2112.10752
• Hu, E.J. et al. (2021). LoRA: Low‑Rank Adaptation of Large Language Models. https://arxiv.org/abs/2106.09685

Liên kết ngoài

• https://docs.aws.amazon.com/nova/latest/userguide/what-is-nova.html — Tài liệu chính thức Amazon Nova
• https://docs.aws.amazon.com/ai/responsible-ai/nova-micro-lite-pro/overview.html — AI Service Cards cho Nova Micro, Lite, Pro, Premier
• https://docs.aws.amazon.com/ai/responsible-ai/nova-sonic/overview.html — AI Service Card cho Nova Sonic
• https://aws.amazon.com/blogs/aws/introducing-amazon-nova-frontier-intelligence-and-industry-leading-price-performance/ — Công bố Amazon Nova (tháng 12 năm 2024)
• https://www.aboutamazon.com/news/aws/aws-agentic-ai-amazon-bedrock-nova-models — Công bố Amazon Nova 2 (tháng 12 năm 2025)