Theo báo cáo từ Financial Times, Amazon đang phát triển các vi mạch trí tuệ nhân tạo tùy chỉnh để giảm bớt sự phụ thuộc vào NVIDIA. Công ty đã phát triển nhiều loại bộ xử lý nội bộ để xử lý khối lượng công việc tại trung tâm dữ liệu, và nỗ lực mới nhất này là một phần trong khoản đầu tư vào một công ty thiết kế chip vào năm 2015. Amazon dự kiến sẽ cung cấp thêm thông tin về các bộ xử lý AI tùy chỉnh của mình vào tháng tới trong khuôn khổ các thông báo liên quan đến dòng chip Trainium.
Các vi mạch này được phát triển bởi Annapurna Labs của Amazon, và chúng đang được sử dụng bởi Anthropic, đối thủ của OpenAI được Microsoft hỗ trợ. Anthropic là đối tác AI chính của Amazon, cung cấp cho gã khổng lồ thương mại điện tử và điện toán đám mây quyền truy cập vào mô hình AI cơ bản Claude.
Amazon đang thúc đẩy việc phát triển chip AI tùy chỉnh nhằm giảm chi phí và phụ thuộc vào NVIDIA.
Amazon phát triển Bộ xử lý AI tùy chỉnh để cạnh tranh với NVIDIA
Báo cáo hôm nay chỉ là một trong nhiều thông tin cho thấy các công ty công nghệ lớn đang nỗ lực giảm sự phụ thuộc vào NVIDIA trong lĩnh vực bộ xử lý trí tuệ nhân tạo mạnh mẽ nhất. Các GPU của NVIDIA hiện đang dẫn đầu thị trường và có hiệu suất cao trong việc xử lý tải công việc AI. Do đó, nhu cầu cao cùng với nguồn cung hạn chế đã khiến chúng trở thành một trong những sản phẩm được săn lùng nhiều nhất và có giá cả đắt đỏ trên thế giới.
Đối với Amazon, việc phát triển chip AI nội bộ là một cố gắng nhằm giảm bớt sự phụ thuộc vào sản phẩm của NVIDIA và đồng thời cắt giảm chi phí, theo báo Financial Times. Công ty không phải là tay mơ khi nói đến việc phát triển chip tùy chỉnh. Việc mua lại startup thiết kế chip Annapurna đã giúp Amazon sản xuất ra một dòng chip ổn định để giảm chi phí sử dụng sản phẩm của AMD và Intel cho các công việc tại trung tâm dữ liệu truyền thống.
Các chip này, được gọi là bộ xử lý Graviton, được bổ sung bởi các bộ xử lý AI tùy chỉnh của Amazon mang tên Trainium. Trainium được thiết kế để hoạt động với các mô hình ngôn ngữ lớn, và Amazon đã giới thiệu phiên bản Trainium2 vào tháng 11 năm 2023.
Theo thông tin từ FT, Annapurna đang dẫn dắt nỗ lực phát triển các loại chip nhằm giảm sự phụ thuộc của Amazon vào GPU của NVIDIA. Bài viết không cung cấp nhiều chi tiết về các loại chip này, nhưng chỉ ra rằng Amazon có thể chia sẻ thông tin về chúng vào tháng tới tại sự kiện giới thiệu các chip Trainium2. Dù Trainium2 đã được ra mắt vào năm 2023, nhưng việc hạn chế nguồn cung đã ảnh hưởng đến mức độ áp dụng của nó. Theo FT, đối tác AI của Amazon là Anthropic đang sử dụng Trainium2.
Các chip của Amazon được thiết kế dựa trên công nghệ từ công ty Alchip của Đài Loan. Chúng được sản xuất bởi Công ty TNHH Sản xuất chất bán dẫn Đài Loan (TSMC), và Amazon đã cho biết vào năm ngoái rằng hơn 50.000 khách hàng AWS đang sử dụng chip Graviton của mình.
Cùng với Amazon, những tập đoàn lớn khác như Alphabet – công ty mẹ của Google và Meta – chủ sở hữu Facebook cũng tự phát triển chip AI. Các công ty trong ngành như Apple sử dụng chip của Google, trong khi Meta đã ra mắt thế hệ thứ hai của Bộ tăng tốc đào tạo và suy luận Meta (MTIA) vào đầu năm nay. Cả hai giải pháp này đều nhằm giảm bớt sự phụ thuộc vào GPU của NVIDIA, và OpenAI, được Microsoft hỗ trợ, cũng được cho là đang xem xét phát triển chip nội bộ.
Vào đầu tháng này, Google đã giới thiệu bộ vi xử lý tensor mới nhất của mình, Trillium. Những chip này cung cấp hiệu suất đào tạo AI nhanh gấp bốn lần và tốc độ suy luận nhanh gấp ba lần so với các phiên bản trước đó, theo thông báo của công ty.
Theo WCCFTECH