Việc huấn luyện các mô hình ngôn ngữ lớn hiện đang vấp phải một rào cản vật lý nghiêm trọng thường được gọi là nút thắt cổ chai bộ nhớ. Các kiến trúc máy tính truyền thống buộc dữ liệu phải di chuyển liên tục giữa bộ xử lý trung tâm và các chip nhớ rời, dẫn đến tình trạng tiêu tốn đến 90% năng lượng chỉ cho việc truyền dẫn thay vì phục vụ tính toán thực tế. Kepler Computing, một startup công nghệ vừa chính thức công bố hoạt động sau nhiều năm giữ bí mật, tuyên bố đã tìm thấy lời giải cho bài toán này thông qua một phương pháp tiếp cận hoàn toàn mới ở cấp độ vật liệu bán dẫn.
Thay vì cố gắng tăng băng thông theo các phương pháp truyền thống như HBM (bộ nhớ băng thông cao), Kepler tập trung vào việc tái cấu trúc cách thức bộ nhớ và logic tương tác với nhau. Đội ngũ kỹ sư của công ty đã phát triển một loại vật liệu sắt từ (ferroelectric) đặc biệt, cho phép tích hợp trực tiếp khả năng lưu trữ vào ngay bên trong các bóng bán dẫn xử lý. Công nghệ này loại bỏ khoảng cách vật lý vốn là nguyên nhân chính gây ra độ trễ và tổn hao năng lượng trong các hệ thống phần cứng AI hiện nay, hứa hẹn mang lại một bước nhảy vọt về hiệu suất mà không cần thay đổi hoàn toàn quy trình sản xuất silicon hiện có.
Tái định nghĩa hiệu suất xử lý bằng kiến trúc bộ nhớ sắt từ
Giải pháp của Kepler Computing tập trung vào việc triển khai bộ nhớ sắt từ (FeRAM) trực tiếp trên các tiến trình sản xuất chip tiêu chuẩn của các đối tác như GlobalFoundries. Khác với bộ nhớ DRAM truyền thống vốn cần nguồn điện liên tục để duy trì dữ liệu, công nghệ của Kepler có khả năng lưu trữ không tự biến với tốc độ truy xuất tương đương với bộ nhớ đệm (cache) của CPU nhưng với mật độ cao hơn gấp nhiều lần. Việc đưa bộ nhớ vào sát các đơn vị tính toán giúp giảm thiểu tối đa quãng đường di chuyển của dữ liệu, từ đó giải quyết triệt để hiện tượng nghẽn cổ chai Von Neumann vốn đang kìm hãm sức mạnh của các dòng GPU cao cấp nhất.
Sự đột phá này không chỉ dừng lại ở lý thuyết mà còn nằm ở khả năng tương thích với hạ tầng sản xuất hiện có của ngành bán dẫn. Kepler không yêu cầu các nhà máy đúc chip phải thay đổi hoàn toàn dây chuyền, mà thay vào đó, họ cung cấp một lớp vật liệu mới có thể phủ lên trên các tấm wafer silicon tiêu chuẩn. Kết quả thử nghiệm ban đầu cho thấy kiến trúc này có thể cải thiện hiệu suất năng lượng gấp 100 lần so với các kiến trúc AI phổ biến. Điều này mở ra cơ hội đưa các mô hình trí tuệ nhân tạo phức tạp lên các thiết bị đầu cuối (edge devices) nhỏ gọn mà không cần phụ thuộc vào hệ thống làm mát đồ sộ hay nguồn điện năng lớn từ các trung tâm dữ liệu.
Thành công của Kepler Computing trong việc thương mại hóa bộ nhớ sắt từ có thể là bước ngoặt thay đổi hoàn toàn cục diện cuộc đua phần cứng, vốn đang bị thống trị bởi các giải pháp tăng cường băng thông đắt đỏ và khan hiếm. Đối với các doanh nghiệp và nhà phát triển hệ thống, việc theo dõi sát sao tiến độ thử nghiệm thực tế của Kepler sẽ giúp đón đầu xu hướng tối ưu hóa phần cứng thế hệ mới. Đây là thời điểm thích hợp để các chuyên gia công nghệ bắt đầu nghiên cứu về các kiến trúc tính toán trong bộ nhớ (compute-in-memory), nhằm sẵn sàng cho một lộ trình phát triển mà ở đó hiệu quả năng lượng và tốc độ xử lý không còn bị giới hạn bởi những rào cản vật lý của kiến trúc máy tính cũ.
Liên hệ qua Zalo
