OM Logo
Trang chủTin tức & Sự kiệnGóc nhìn công nghệ & AI
Cận cảnh máy chủ và dây cáp trong phòng máy chủ dưới ánh đèn xanh

Chi phí sử dụng AI giảm 280 lần, nhưng tại sao doanh nghiệp vẫn phải chi nhiều hơn?

OM AI Agent

Theo Stanford HAI, Viện Trí tuệ nhân tạo lấy con người làm trung tâm thuộc Đại học Stanford, chi phí truy vấn mô hình AI đạt mức hiệu năng tương đương GPT-3.5 đã giảm khoảng 280 lần trong chưa đầy hai năm. Tuy nhiên, tổng chi cho AI vẫn có thể tăng khi lượng token sử dụng ngày càng lớn và các tác vụ AI ngày càng phức tạp.

Giá suy luận AI giảm nhanh nhưng không đồng đều

Theo Stanford HAI, mức giảm 280 lần diễn ra từ tháng 11/2022 đến tháng 10/2024, tính trên các mô hình đạt hiệu năng tương đương GPT-3.5.

Một nguyên nhân là các mô hình nhỏ hơn ngày càng đạt được mức hiệu năng trước đây cần đến những mô hình có quy mô lớn hơn nhiều. Năm 2022, PaLM cần 540 tỷ tham số để vượt mức 60% trong một bài kiểm tra kiến thức tổng quát. Đến năm 2024, Phi-3-mini của Microsoft đạt mức tương tự với 3,8 tỷ tham số, ít hơn khoảng 142 lần.

Đồ họa mức giảm chi phí truy vấn mô hình AI đạt mức GPT-3.5 theo Stanford HAI

Đồ họa tổng hợp từ dữ liệu Stanford HAI, 07/04/2025. Ảnh được tạo bởi AI.

Tuy nhiên, tốc độ giảm chi phí khác nhau tùy loại tác vụ. Phân tích của tổ chức nghiên cứu Epoch AI cho thấy, tùy bài kiểm tra, chi phí để đạt một mức hiệu năng cố định có thể giảm từ 9 đến 900 lần mỗi năm. Với mức hiệu năng của GPT-4 trên bộ câu hỏi khoa học ở trình độ tiến sĩ, mức giảm vào khoảng 40 lần mỗi năm.

Epoch AI cũng lưu ý rằng những mức giảm nhanh nhất mới xuất hiện trong năm gần nhất của dữ liệu, nên chưa thể khẳng định xu hướng này sẽ tiếp tục với tốc độ tương tự. Bên cạnh đó, giá bán cho người dùng không hoàn toàn phản ánh chi phí vận hành thực tế của nhà cung cấp.

Bốn yếu tố khiến tổng chi cho AI vẫn tăng

Thứ nhất, lượng token được sử dụng tăng nhanh. Trong báo cáo kết quả kinh doanh quý II/2026, Alphabet cho biết các giao diện lập trình ứng dụng mô hình của Google đang xử lý khoảng 22 tỷ token mỗi phút, tăng từ 16 tỷ token chỉ một quý trước đó. Gần 500 khách hàng Google Cloud đã xử lý hơn 1.000 tỷ token mỗi năm. Khi khối lượng sử dụng tăng nhanh hơn mức giảm đơn giá, tổng chi phí vẫn có thể tăng.

Biểu đồ lượng token mỗi phút các mô hình của Google xử lý trong hai quý đầu năm 2026

Đồ họa tổng hợp từ dữ liệu Alphabet, 22/07/2026. Ảnh được tạo bởi AI.

Thứ hai, những cách sử dụng AI mới cần nhiều token hơn cho mỗi công việc. Theo Anthropic, một tác nhân AI thường sử dụng lượng token gấp khoảng 4 lần một lượt hội thoại thông thường, trong khi hệ thống nhiều tác nhân phối hợp có thể sử dụng gấp khoảng 15 lần. Nguyên nhân là tác nhân AI phải gọi mô hình nhiều lần để hoàn thành một công việc và mỗi lần có thể cần xử lý thêm thông tin từ các bước trước đó.

Biểu đồ lượng token của hội thoại, tác nhân AI và hệ thống nhiều tác nhân

Đồ họa tổng hợp từ dữ liệu Anthropic, 13/06/2025. Ảnh được tạo bởi AI.

Thứ ba, giá giảm mạnh được tính trên một mức năng lực cố định. Con số giảm 280 lần của Stanford HAI áp dụng với các mô hình đạt mức hiệu năng tương đương GPT-3.5. Trong thực tế, doanh nghiệp có thể chuyển sang các mô hình mới và mạnh hơn khi nhu cầu tăng lên. Do đó, mức giá thực trả cho mỗi token không nhất thiết giảm với tốc độ tương tự chỉ số được đo ở một mức năng lực cố định.

Thứ tư, nhu cầu AI tăng kéo theo đầu tư lớn hơn vào hạ tầng. TrendForce ước tính tổng chi đầu tư năm 2026 của chín nhà cung cấp điện toán đám mây lớn nhất vượt 886,7 tỷ USD, tăng khoảng 90%. Alphabet cũng cho biết năng lực tính toán vẫn đang chịu giới hạn về nguồn cung. Điều này cho thấy nhu cầu đối với hạ tầng phục vụ AI tiếp tục tăng ngay cả khi chi phí suy luận trên một đơn vị giảm xuống.

Giá token chỉ là một phần của bài toán chi phí AI

Hai xu hướng đang diễn ra song song: chi phí để đạt một mức năng lực AI nhất định giảm nhanh nhờ các mô hình ngày càng hiệu quả, trong khi lượng AI được sử dụng tiếp tục tăng cả về quy mô lẫn độ phức tạp.

Với doanh nghiệp, vì vậy, đơn giá mỗi triệu token chưa đủ để đánh giá ngân sách AI. Chi phí thực tế còn phụ thuộc vào ba yếu tố: mỗi tác vụ tiêu thụ bao nhiêu token, có bao nhiêu tác vụ được thực hiện và công việc cần đến mức năng lực mô hình nào.

Các tác vụ đơn giản, lặp lại có thể hưởng lợi rõ hơn từ xu hướng giảm giá. Ngược lại, những hệ thống tác nhân phải thực hiện nhiều bước, gọi mô hình nhiều lần hoặc phối hợp nhiều tác nhân có thể tiêu thụ lượng token lớn hơn đáng kể. Khi đó, AI rẻ hơn trên từng token vẫn có thể đi cùng với tổng chi tiêu cao hơn khi quy mô sử dụng tiếp tục mở rộng.

Nguồn tham khảo

Bài viết được tạo bằng công cụ AI, dựa trên các nguồn tham khảo được trích dẫn ở trên.

Chi phí sử dụng AI giảm 280 lần, nhưng tại sao doanh nghiệp vẫn phải chi nhiều hơn? | One Mount