Meta chế tạo siêu máy tính AI mạnh nhất thế giới

Khi được hoàn thiện vào cuối năm nay, siêu máy tính phục vụ trí tuệ nhân tạo của Meta có thể thực hiện 5 tỷ tỷ phép tính mỗi giây.

Meta, công ty mẹ của Facebook đã giới thiệu AI Research SuperCluster (RSC), siêu máy tính dùng cho các dự án nghiên cứu trí tuệ nhân tạo (AI).

Được phát triển từ 1,5 năm trước, mục tiêu của RSC là tạo ra các công cụ AI mạnh mẽ hơn, hỗ trợ những công việc phức tạp như phát hiện nội dung thù địch trong bài viết trên Facebook hay Instagram. Meta cho biết RSC là một trong những siêu máy tính AI mạnh nhất hiện nay, và sẽ trở thành siêu máy tính nhanh nhất khi được chế tạo hoàn chỉnh vào cuối năm.

"Với RSC, chúng tôi có thể đào tạo các mô hình (AI) sử dụng tín hiệu đa phương thức, chẳng hạn như nhận diện ngữ cảnh bài đăng dựa trên ngôn ngữ, hình ảnh và tông giọng", Shubho Sengupta, kỹ sư phần mềm tại Meta cho biết.

Công ty mẹ của Facebook đang phát triển siêu máy tính để phục vụ các dự án AI. (Ảnh: Meta).

Với hiệu năng mạnh mẽ, siêu máy tính ngày càng được sử dụng rộng rãi để nghiên cứu AI. Tại Bộ Năng lượng Mỹ, siêu máy tính IBM Summit được áp dụng để phân tích những vấn đề nóng của thế giới. Các hãng như Microsoft, NVIDIA cũng sử dụng siêu máy tính cho mục đích riêng.

Theo The Verge, các kỹ sư của Meta chịu trách nhiệm thiết kế hệ thống tản nhiệt, nguồn, mạng và dây cáp của RSC. Trên website chính thức, Meta cho biết tính đến tháng 1, RSC trang bị 6.080 card đồ họa (GPU) chia thành 760 node Nvidia DGX A100 (hệ thống nhiều CPU, GPU, RAM... được nối lại tạo thành siêu máy tính hoàn chỉnh).

Hiện tại, sức mạnh của RSC tương đương siêu máy tính Perlmutter đặt tại Trung tâm Nghiên cứu Khoa học Máy tính Năng lượng Quốc gia Mỹ, xếp thứ 5 thế giới. Tuy nhiên khi hoàn thiện vào cuối năm nay, Meta cho biết RSC sẽ có 16.000 GPU với hiệu suất tính toán 5 exaflop, tức 5.000 petaflop (5 tỷ tỷ phép tính mỗi giây), trở thành siêu máy tính AI nhanh nhất thế giới.

So với siêu máy tính thông thường, siêu máy tính AI có nhiều điểm tương đồng như phụ thuộc vào các node kết nối với nhau. Điểm khác biệt lớn giữa 2 loại siêu máy tính nằm ở độ chính xác. Do phép tính AI đòi hỏi độ chính xác thấp hơn so với những tác vụ trên siêu máy tính truyền thống, siêu máy tính AI có thể thực hiện nhiều phép tính trong mỗi giây hơn.

Bob Sorensen, nhà phân tích của Hyperion Research cho rằng tốc độ được các nhà sản xuất công bố thường là hiệu suất cao nhất trên lý thuyết. Thực tế, siêu máy tính được xem là hoạt động hiệu quả khi có thể phát huy hết hiệu năng trên những tác vụ mà chúng được thiết kế.

"Do đó, không ngạc nhiên khi một số hệ thống siêu máy tính có hiệu năng thực tế chưa tới 25% so với hiệu suất lý thuyết", Sorensen nói.

Nhóm nghiên cứu của Meta đã sử dụng RSC để đào tạo các mô hình liên quan đến xử lý ngôn ngữ tự nhiên và thị giác máy tính. Trong tương lai, họ có thể dùng RSC để đào tạo các mô hình phân tích đồng thời văn bản, hình ảnh và video, CNN đưa tin.

Khi hoàn thiện, siêu máy tính của Meta có thể thực hiện 8 tỷ tỷ phép tính mỗi giây. (Ảnh: Meta).

Theo thời gian, Meta cho biết RSC sẽ hỗ trợ xây dựng các hệ thống AI hoàn toàn mới, dành cho những tác vụ phức tạp như dịch lượng lớn nội dung theo thời gian thực với nhiều ngôn ngữ khác nhau, giúp mọi người làm việc hoặc chơi game cùng nhau dù nói khác ngôn ngữ.

Trong các thử nghiệm trước đây của Meta, RSC có thể đào tạo các mô hình ngôn ngữ phức tạp nhanh hơn 3 lần so với hệ thống hiện tại. Điều đó đồng nghĩa một mô hình AI thông thường mất 9 tuần để đào tạo, thời gian sẽ rút ngắn còn 3 tuần với RSC.

Meta kỳ vọng RSC có thể đào tạo các mô hình AI với hàng nghìn tỷ thông số, trong các bộ dữ liệu có dung lượng hàng EB (exabyte). Cuối cùng, siêu máy tính này sẽ đóng vai trò quan trọng để xây dựng vũ trụ ảo (metaverse), lĩnh vực mới mà công ty mạng xã hội này hướng đến.