Meta mới đây đã đưa ra thông báo về việc nghiên cứu xây dựng siêu máy tính AI nhanh nhất trên thế giới.
Với tên gọi “Siêu tổ hợp Nghiên cứu AI (RSC)”, Meta tuyên bố rằng dự án là “một trong những siêu máy tính AI chạy nhanh nhất hiện nay” và sẽ là nhanh nhất trên toàn cầu khi nó được hoàn thiện vào giữa năm 2022. Công ty đã bắt đầu thiết kế cơ sở hạ tầng điện toán mới vào đầu năm 2020 để đẩy nhanh quá trình đào tạo các mô hình AI lớn, với mục tiêu một ngày nào đó sẽ sở hữu các mô hình với hơn một nghìn tỷ thông số dữ liệu - tương đương với 36.000 năm video chất lượng cao.
“Cuối cùng, công việc được thực hiện với RSC sẽ mở đường cho các công nghệ, nền tảng máy tính lớn tiếp theo trong tương lai - metaverse, nơi các ứng dụng và sản phẩm do AI điều khiển sẽ đóng một vai trò quan trọng”, công ty mẹ của Facebook viết trong một bài đăng trên blog.
Meta cho biết họ đã cam kết đầu tư dài hạn vào AI kể từ năm 2013 khi thành lập bộ phận Nghiên cứu AI. Thế hệ cơ sở hạ tầng điện toán hiệu suất cao đầu tiên của nhóm nghiên cứu đã được xây dựng vào năm 2017 và có 22.000 GPU NVIDIA V100 Tensor Core trong một cụm duy nhất.
“RSC ngày nay bao gồm tổng cộng 760 hệ thống NVIDIA DGX A100 làm các nút tính toán, với tổng số 6.080 GPU - với mỗi GPU A100 mạnh hơn V100 được sử dụng trong hệ thống trước đây của chúng tôi,” công ty chia sẻ. Trong khi siêu máy tính hiện đang trong quá trình vận hành, công ty cho biết họ có kế hoạch tăng số lượng GPU lên 16.000.
“Tất cả cơ sở hạ tầng này phải cực kỳ đáng tin cậy, vì chúng tôi ước tính một số thử nghiệm có thể chạy trong nhiều tuần và yêu cầu hàng nghìn GPU. Cuối cùng, toàn bộ trải nghiệm sử dụng RSC phải thân thiện với nhà nghiên cứu để các nhóm có thể dễ dàng khám phá một loạt các mô hình AI tiên tiến hơn, ”Meta cho biết thêm.
