Microsoft nâng cấp server mới thiết kế dành riêng cho AI

pegasus3390

Well-Known Member
catapult.jpg


Trong nhiều năm, Microsoft đã cố gắng để mang lại khả năng hiển thị kết quả nhanh và chính xác nhất trên Bing với các server thử nghiệm có tên là Project Catapult, và giờ đây chúng được nâng cấp mới.

Các server Catapult sử dụng các con chip có thể lập trình với tên gọi là FPGA (field programmable gate arrays), với khả năng mang lại những kết quả tìm kiếm tốt hơn cho Bing. Con chip FPGA có thể nhanh chóng đánh giá, lọc, xếp hạng và đo lường các kết quả dạng chữ và hình ảnh trên Bing.

Và mới đây thì Microsoft đã thiết kế lại server Catapult gốc, Catapult v2 sẽ được thiết kế linh hoạt hơn giữa kết cấu trung tâm dữ liệu truyền thống cho các hoạt động machine learning và mở rộng vai trò của những con chip FPGA để tăng tốc ứng dụng.

Microsoft đã trình bày thiết kế mới lần đầu tiên vào hồi đầu tháng tại hội nghị Scaled Machine Learning tại Standford, California.

Trung tâm dữ liệu của Microsoft hiện đan sử dụng cho các dịch vụ như Cortana và Skype Translator và công ty này đang nâng cấp dữ liệu với việc kết hợp cùng Intel để nâng cấp các con chip silicon trong khi đó chuyển sang cáp quang để thay thế cáp đồng trong việc truyền tải dữ liệu giữa các server và trung tâm dữ liệu.

Catapult v2 cũng mở rộng ảnh hưởng của những con chip FPGA, cho phép chúng có thể đảm đương khối lượng lớn dữ liệu tính toán. Các con chip FPGA có thể kết nối với DRAM, CPU và network switch.

Những con chip FPGA cũng tăng tốc cho các ứng dụng có sẵn hoặc xử lý các nguồn dữ liệu ở quy mô lớn hoặc các hình mẫu deep learning. Cũng như trong Bing, FPGA có thể thu thập các kết quả được đánh giá và huấn luyện các mẫu hình deep learning. Catapult v2 cũng được thiết kế để sử dụng cho các ứng dụng nhận diện khuôn mặt dạng đám mây, xử lý ngôn ngữ tự nhiên và các tác vụ khác liên quan đến machine learning.

Catapult cũng cung cấp một kế hoạch để ứng dụng các con chip FPGA cho machine learning. Nhiều hệ thống machine learning hiện nay đang được xử lý bởi các GPU nhưng vai trò của FPGA thì ít rõ ràng hơn. Baidu hiện cũng đang sử dụng các con chip FPGA cho các con trung tâm dữ liệu cho kỹ thuật deep learning.

FPGA có thể nhanh chóng đưa ra được kết quả sau khi deep learning, nhưng chúng sẽ tiêu thụ rất nhiều năng lượng nếu như không được lập trình một cách chính xác. Chúng cũng có thể được lập trình lại để thực hiện các công việc cụ thể, tuy nhiên việc này cũng hạn chế tính năng của nó. GPU hiện đang tỏ ra linh hoạt hơn và có thể xử lý nhiều tác vụ cùng lúc. FPGA thì lại cho tốc độ nhanh hơn.

Rất nhiều công ty lớn hiện nay đang tỏ vẻ hứng thú với công nghệ FPGA. Intel cũng đã hoàn thành thương vụ trị giá 16.7 tỷ USD khi mua lại Altera, công ty sản xuất chip FPGA. Intel có thể đưa các con chip mới lên hệ thống xe, server, robot, drone và nhiều các thiết bị khác.

Ngoài hệ thống server Catapult của Microsoft được sử dụng cho machine learning thì họ cũng cung cấp cho Texas Advanced Computing Center tại Đại Học Texas, Austin. Hệ thống này tương đối nhỏ với 32 server 2 CPU sử dụng Intel Xeon cùng với 64GB RAM và mộ con chip Altera Stratix V D5 FPGA tích hợp bên trong là 8GB DDR3 RAM bộ nhớ cache.

 
Bên trên