Tin tổng hợp

Theo Stanford HAI, Viện Trí tuệ nhân tạo lấy con người làm trung tâm thuộc Đại học Stanford, chi phí truy vấn mô hình AI đạt mức hiệu năng tương đương GPT-3.5 đã giảm khoảng 280 lần trong chưa đầy hai năm. Tuy nhiên, tổng chi cho AI vẫn có thể tăng khi lượng token sử dụng ngày càng lớn và các tác vụ AI ngày càng phức tạp.

Theo Văn phòng Điều phối Công nghệ thông tin Y tế Quốc gia Mỹ (ONC), 70% bệnh viện tại Mỹ có thể gửi, nhận, tìm và tích hợp dữ liệu bệnh nhân với cơ sở khác trong năm 2023, nhưng chỉ 43% thực hiện thường xuyên. Khoảng cách này cho thấy kết nối được dữ liệu mới là bước đầu, quan trọng hơn là thông tin có thực sự được sử dụng trong quá trình chăm sóc hay không.

Trong thử nghiệm MASAI (ứng dụng AI trong chương trình sàng lọc ung thư vú bằng phương pháp chụp X-quang) tại Thụy Điển, AI hỗ trợ đọc phim chụp nhũ ảnh giúp phát hiện thêm 29% ca ung thư vú và giảm 44% khối lượng đọc phim. Kết quả cho thấy hiệu quả của AI phụ thuộc nhiều vào cách công nghệ được đưa vào quy trình sàng lọc và cách bác sĩ sử dụng kết quả do hệ thống cung cấp.

TrendForce (công ty nghiên cứu thị trường dự báo máy chủ dùng chip AI chuyên dụng (ASIC) sẽ chiếm 27,8% số máy chủ AI xuất xưởng năm 2026, trong khi máy chủ dùng GPU chiếm 69,7%. Chip chuyên dụng đang tăng nhanh nhờ khả năng tối ưu chi phí và điện năng, nhưng việc lựa chọn giữa ASIC và GPU còn phụ thuộc vào loại tác vụ, quy mô tải, năng lực sản xuất và cách doanh nghiệp tiếp cận hạ tầng AI.

Giao thức ngữ cảnh mô hình (Model Context Protocol - MCP) giúp tác nhân AI kết nối với nhiều công cụ và hệ thống bên ngoài, nhưng cũng tạo ra một bề mặt tấn công mới. Trong phép thử MCPTox, tác nhân AI làm theo chỉ dẫn độc hại được chèn vào mô tả công cụ trong 36,5% trường hợp.

Rack máy chủ AI thế hệ Blackwell có thể tiêu thụ khoảng 120 kW, cao hơn nhiều so với mật độ phổ biến gần 9 kW tại các trung tâm dữ liệu. Khi công suất tăng từ dưới 20 kW lên khoảng 40 kW mỗi rack, làm mát bằng không khí dần gặp giới hạn và chất lỏng trở thành phương án cần thiết cho các hệ thống AI mật độ cao.