Nhật Bản bắt kịp đường đua AI với siêu máy tính hoàn toàn mới

Kế hoạch cho siêu máy tính đã được Bộ Kinh tế, Thương mại và Công nghiệp Nhật Bản công bố.

Là một quốc gia nổi tiếng với nhiều công nghệ tiên tiến, Nhật Bản cần bắt kịp trong cuộc đua trí tuệ nhân tạo (AI). Trong khi Mỹ, Trung Quốc và Liên minh châu Âu (EU) đều đang có những lợi thế dẫn đầu với các thuật toán độc quyền, sự tụt hậu của Nhật Bản chủ yếu là do thiếu sót ở lĩnh vực học sâu (deep learning) và phát triển phần mềm tinh vi, theo Tech Wire Asia.

Đối với người mới bắt đầu, chìa khóa để phát triển AI tạo sinh là các mô hình ngôn ngữ lớn, như hệ thống nền tảng của ChatGPT (OpenAI) và Ernie Bot (Baidu), có khả năng xử lý tập dữ liệu khổng lồ để tạo ra văn bản và nội dung mới. Ông Noriyuki Kojima, đồng sáng lập công ty khởi nghiệp mô hình ngôn ngữ lớn (LLM - Large Language Model) Kotoba Technology nói, Nhật Bản đang đi sau Mỹ, Trung Quốc và EU trong việc phát triển các thuật toán AI tạo sinh.

Dựa trên báo cáo của Reuters vào tháng 5 vừa qua, nhiều tổ chức Trung Quốc, bao gồm cả những gã khổng lồ công nghệ như Alibaba hay Tencent, đã tung ra ít nhất 79 LLM chỉ trong vòng 3 năm.

Tại Hoa Kỳ, các tập đoàn quyền lực như OpenAI, Microsoft, Google và Meta đóng một vai trò quan trọng trong việc thúc đẩy những tiến bộ LLM của nước này. Rõ ràng, học sâu đòi hỏi một "cộng đồng kỹ sư phần mềm phát triển mạnh mẽ" để xây dựng cơ sở hạ tầng và ứng dụng cần thiết, ông Kojima nói thêm.

Tuy nhiên, Nhật Bản sẽ phải đối mặt với thâm hụt khoảng 789.000 kỹ sư phần mềm vào năm 2030, theo Bộ Kinh tế, Thương mại và Công nghiệp Nhật Bản (METI). Nhật Bản cũng đang phải đối mặt với những thách thức về phần cứng vì LLM cần được đào tạo bằng cách sử dụng các siêu máy tính AI như Vela của IBM và hệ thống lưu trữ Azure của Microsoft. Thật không may, Nikkei Asia đưa tin rằng không có công ty tư nhân Nhật Bản nào sở hữu "cỗ máy đẳng cấp thế giới" với những khả năng đó.

LÀM THẾ NÀO ĐỂ NHẬT BẢN CÓ THỂ BẮT KỊP ĐƯỜNG ĐUA AI?

Ông Kojima nói với CNBC rằng các siêu máy tính do chính phủ kiểm soát như Fugaku "nắm giữ chìa khóa" để Nhật Bản theo đuổi LLM. "Truy cập vào các siêu máy tính quy mô lớn như vậy tạo thành xương sống cho sự phát triển LLM, vì theo truyền thống, siêu máy tính chính là nút thắt quan trọng nhất trong quá trình học sâu", ông giải thích.

Siêu máy tính Fugaku của Nhật Bản tại Trung tâm Khoa học Tính toán Riken ở Kobe, tỉnh Hyogo.

Mặt tích cực là METI có kế hoạch giới thiệu một siêu máy tính tiên tiến hoàn toàn mới. Theo dự kiến, Viện Khoa học và Công nghệ Công nghiệp Tiên tiến Quốc gia Nhật Bản (AIST) sẽ phát triển một siêu máy tính có khả năng tính toán lớn hơn khoảng 2,5 lần so với máy hiện có vào đầu năm 2024.

AIST, một trong những viện nghiên cứu nổi tiếng nhất Nhật Bản, đang lên ý tưởng thành lập trung tâm nghiên cứu mới về siêu máy tính và công nghệ lượng tử vào tháng 7 tới. METI sẽ cung cấp 32 tỷ ¥ (tương đương 226 triệu USD) nhằm tài trợ cho việc xây dựng cơ sở.

Nikkei Asia cũng đưa tin rằng AIST sẽ vận hành siêu máy tính mới tại trung tâm nghiên cứu về công nghệ lượng tử và mở cửa cho các công ty Nhật Bản. Cho đến nay, siêu máy tính hiện tại của AIST có thể truy cập từ bên ngoài thông qua dịch vụ đám mây.

Ngoài ra, Viện Công nghệ Tokyo và Đại học Tohoku cũng có kế hoạch nghiên cứu năng lực LLM nội địa. Dựa trên một thông báo vào tháng 5/2023, hai tổ chức này dự định sử dụng siêu máy tính Fugaku để phát triển LLM chủ yếu dựa trên dữ liệu của Nhật Bản với sự hợp tác của các nhà phát triển siêu máy tính như Fujitsu và Riken.

Viện Công nghệ Tokyo và Đại học Tohoku cũng dự kiến công bố kết quả nghiên cứu trong cùng năm AIST phát hành siêu máy tính mới, năm 2024. Theo Fujitsu, kết quả nghiên cứu có thể hỗ trợ rất nhiều các nhà nghiên cứu và kỹ sư Nhật Bản khác phát triển LLM.

Ngoài ra, chính phủ Nhật Bản cũng sẽ “mạnh tay” đầu tư 6,8 tỷ ¥ (khoảng 48,2 triệu USD) để xây dựng một siêu máy tính mới ở Hokkaido, dự kiến bắt đầu hoạt động sớm nhất vào năm 2024. Siêu máy tính đặc biệt sẽ chuyên đào tạo LLM nhằm thúc đẩy sự phát triển của AI tạo sinh tại Nhật Bản.

Dựa trên nhiều nguồn tin, có vẻ như nhà cung cấp dịch vụ đám mây Sakura Internet cũng đang lắp ráp một siêu máy tính tại thành phố Ishikari. Thiết bị sẽ chứa hơn 2.000 đơn vị xử lý đồ họa từ Nvidia, rất cần thiết cho hệ thống LLM. Điều thú vị là siêu máy tính của Sakura Internet có khả năng phát triển GPT-3 trong vòng 3 ngày và chỉ mất khoảng một năm để phát triển GPT-4.

Bảo Ngọc