Bằng sáng chế AMD US12688138: Chiplet cầu nối định hình cuộc chiến chip AI
💡 Ngày 21/7/2026, USPTO đã cấp cho Advanced Micro Devices (AMD) bằng sáng chế US12688138 bảo hộ thiết kế "Chiplet cầu nối tích hợp bộ nhớ đệm cache" - một nhân silicon chuyên dụng vừa kết nối nhiều chiplet tính toán GPU vừa lưu trữ bộ nhớ đệm cache chia sẻ thống nhất, giúp hệ thống đa nhân trông như một thiết bị duy nhất với phần mềm. Bằng sáng chế này là nền tảng kiến trúc của dòng Instinct MI300X với 256 MB bộ nhớ đệm cache chia sẻ trên gói chip, giúp AMD tuyên bố lợi thế hiệu suất 10-60% so với H100 của NVIDIA trên các tác vụ mô hình ngôn ngữ lớn.
| Thông tin | Chi tiết |
|---|---|
| Số hiệu bằng sáng chế | US12688138 |
| Tên sáng chế | Active Bridge Chiplet with Integrated Cache (Chiplet cầu nối tích hợp bộ nhớ đệm cache) |
| Chủ sở hữu | Advanced Micro Devices, Inc. (AMD) |
| Nhà sáng chế | Skyler J. Saleh; Ruijin Wu (San Diego, California) |
| Đơn ưu tiên | 27/9/2019 (đơn gốc US16/585,452) |
| Ngày cấp bằng | 21/7/2026 |
| Vùng pháp lý | USPTO (Hoa Kỳ) |
| Phân loại CPC | G06F 13/4027 (Bus Bridges) |
| Nội dung yêu cầu | Nhân silicon cầu nối chủ động kết nối các chiplet tính toán đồng thời lưu trữ bộ nhớ đệm cache cấp cuối chia sẻ, nhất quán, có thể truy cập bởi mọi chiplet được kết nối |
| Sản phẩm thương mại | AMD Instinct MI300X: 4 nhân IO cầu nối + 8 XCD tính toán, 256 MB Infinity Cache LLC chia sẻ |
Bằng sáng chế US12688138 thực sự bảo hộ điều gì
Bằng sáng chế mô tả một kiến trúc chiplet trong đó một nhân silicon cầu nối chủ động (active bridge die) thực hiện hai nhiệm vụ đồng thời. Thứ nhất, nó đóng vai trò bộ chuyển mạch crossbar băng thông cao, kết nối nhiều chiplet tính toán - các nhân silicon nhỏ xử lý tính toán thực tế của GPU. Thứ hai, quan trọng hơn, nó lưu trữ bộ nhớ đệm cache cấp cuối (LLC) thống nhất, có thể truy cập bởi mọi chiplet tính toán thông qua cầu nối, như thể toàn bộ hệ thống đa nhân là một thiết bị duy nhất. Với lập trình viên phần mềm, GPU đa nhân chỉ là một thiết bị tăng tốc với một không gian bộ nhớ phẳng duy nhất, không cần quản lý tile thủ công.
Các nhà sáng chế Skyler J. Saleh và Ruijin Wu nộp đơn tại USPTO ngày 27/9/2019, khi AMD vẫn là đối thủ yếu thế so với NVIDIA. Ý tưởng được công bố là đơn US20210097013A1 vào tháng 4/2021 và nhận bằng lần đầu vào tháng 11/2022 (US11507527B2). Bằng sáng chế tiếp nối US12688138, bảo hộ phạm vi yêu cầu mở rộng hoặc tinh chỉnh, được cấp ngày 21/7/2026 - đúng lúc dòng MI300 thế hệ hai đang ra mắt. Mã phân loại CPC G06F 13/4027 ghi lại bản chất: đây là một cầu nối silicon chủ động mang cache, không phải interposer thụ động.
Nghe có vẻ là chi tiết kỹ thuật hẹp, nhưng vấn đề nó giải quyết chính là lý do tại sao chiplet GPU từng chật vật trong suốt một thập kỷ.
Vấn đề phân mảnh cache: Tại sao tính nhất quán cache khó đạt được trên nhiều nhân
Khi cắt GPU thành nhiều chiplet, bạn ngay lập tức phá vỡ mô hình bộ nhớ chia sẻ mà phần mềm ứng dụng dựa vào. Mỗi nhân tính toán muốn truy cập cache cục bộ nhanh, riêng tư. Nhưng nếu nhân A cache một địa chỉ bộ nhớ và nhân B đọc cùng địa chỉ đó độc lập, bạn nhận được lỗi đọc dữ liệu cũ (stale-read) - vi phạm tính nhất quán cache. Giải quyết vấn đề này bằng phần mềm đòi hỏi lập trình viên phải theo dõi nhân vật lý nào đang sở hữu vùng bộ nhớ nào: một gánh nặng khổng lồ cho các tác vụ luân chuyển dữ liệu động giữa các đơn vị tính toán, chính xác như những gì xảy ra khi huấn luyện mạng nơ-ron.
Câu trả lời thông thường là interposer silicon thụ động: một đế kết nối các nhân mà không có logic riêng. Interposer thụ động không thể quản lý tính nhất quán cache. Giải pháp được bảo hộ của AMD là đặt logic quản lý cache ngay bên trong nhân cầu nối. Cầu nối chủ động chứa bộ chuyển mạch crossbar cho lưu lượng liên nhân VÀ bộ điều khiển LLC, vì vậy mọi chiplet tính toán đều đọc và ghi vào một cache logic duy nhất, với tính nhất quán được duy trì trong phần cứng cầu nối. Không cần thay đổi phần mềm.
Giải quyết tính nhất quán trong silicon đòi hỏi cầu nối phải hiểu cache - và cầu nối đó cần toàn bộ chuỗi cung ứng đóng gói tiên tiến để tồn tại ở băng thông cần thiết.
Bằng sáng chế phụ thuộc vào điều gì: Chuỗi cung ứng đóng gói tiên tiến
Chiplet cầu nối chủ động không thể chạy trên PCB thông thường. Nó cần đóng gói 2.5D hoặc 3D - đặt nhiều nhân cạnh nhau với kết nối micro-bump hoặc TSV (through-silicon via) - để đạt băng thông nội bộ cần thiết. Trong thiết kế MI300X của AMD, quy trình CoWoS (Chip-on-Wafer-on-Substrate) của TSMC đặt 8 XCD tính toán và 4 nhân IO cầu nối trong một gói chip. Mỗi nhân IO kết nối với 2 ngăn xếp bộ nhớ HBM3 ở tốc độ 665 GB/s mỗi ngăn, và 4 nhân IO cùng nhau cung cấp 5,3 TB/s băng thông HBM tổng hợp với 128 kênh bộ nhớ.
Bộ nhớ đệm Infinity Cache bên trong các nhân IO đạt 17 TB/s băng thông nội bộ ở tần số 2,1 GHz - gấp ba lần băng thông HBM, khiến cache hoạt động như bộ đệm tốc độ cao thực sự giữa tính toán và bộ nhớ. Không có năng lực đóng gói CoWoS của TSMC và khả năng tiếp cận quy trình tiên tiến, bằng sáng chế này sẽ mãi là thiết kế lý thuyết.
Khi đóng gói tiên tiến giải quyết vấn đề vật lý, thiết kế cầu nối chủ động mở khóa tầng lớp hiệu suất tính toán AI trước đây không thể đạt được trong một gói chip duy nhất.
Điều nó mở khóa: Tính toán AI nhất quán trong kỷ nguyên đa nhân
Dòng MI300X xây dựng trên kiến trúc cầu nối chủ động này chứa 192 GB bộ nhớ HBM3e - gấp hơn hai lần NVIDIA H100 - được hỗ trợ bởi 256 MB Infinity Cache trong bốn nhân IO cầu nối. Cache đó khổng lồ theo tiêu chuẩn GPU: NVIDIA H100 chỉ có 50 MB bộ nhớ đệm L2 chia sẻ trên một nhân nguyên khối. Cầu nối chủ động của AMD mang lại cho MI300X bộ nhớ đệm cấp cuối nhiều gấp năm lần, được phân phối trên bốn nhân cầu nối nhưng hợp nhất về mặt logic.
Kết quả thực tế: các mô hình ngôn ngữ lớn với hàng chục tỷ tham số có thể nằm hoàn toàn trong bộ nhớ trên gói chip và cache, loại bỏ độ trễ của các chuyến đi khứ hồi liên tục đến DRAM bên ngoài. AMD tuyên bố lợi thế hiệu suất 10-60% so với H100 trên các tác vụ LLM và suy luận (HotHardware, 2023/2026). Biến thể MI300A, kết hợp 3 chiplet CPU, 6 chiplet GPU và 4 nhân IO cầu nối tương tự, đạt lợi thế hiệu suất 4x so với H100 trong điểm chuẩn HPC OpenFOAM.
Năng lực là thành quả của AMD, nhưng kẻ bị đe dọa bởi bằng sáng chế này lại là công ty đã đặt cược ngược lại chiplet GPU trong nhiều năm.
Ai đứng sau bằng sáng chế: Thập kỷ "chiplet trước tiên" của AMD
AMD áp dụng chiplet cho CPU từ năm 2017 với kiến trúc Ryzen "Zen", tách phần tính toán hiệu suất cao (CCD) ra khỏi nhân I/O - một bước đi giúp AMD chế tạo các lõi tính toán quan trọng trên node tiên tiến trong khi giữ I/O trên quy trình rẻ hơn. Quyết định đó đã cứu AMD khỏi bờ vực phá sản và biến EPYC thành CPU máy chủ dẫn đầu thị trường vào năm 2022.
Bằng sáng chế chiplet cầu nối chủ động này mang triết lý chiplet từ CPU - nơi tính nhất quán dữ liệu trên nhiều nhân đã là bài toán giải quyết được trong phần mềm đa nhân hiện có - sang GPU, nơi vấn đề cache chia sẻ khó hơn và cổ phần hiệu suất cao hơn. Đơn nộp năm 2019 phản ánh quyết định của AMD rằng GPU chiplet cuối cùng sẽ sánh ngang hoặc vượt GPU nguyên khối: một đặt cược được xác nhận khi MI300X ra mắt cuối năm 2023. AMD hiện nắm giữ danh mục IP chiplet ngày càng lớn, với US12688138 bổ sung thêm vào hào phòng thủ xung quanh kiến trúc MI-series.
Giá trị của hào phòng thủ đó phụ thuộc hoàn toàn vào cách đối thủ phản ứng: liệu họ có xây dựng chiplet cầu nối của riêng mình hay chọn con đường kiến trúc khác.
Ai bị đe dọa: Phương pháp tiếp cận nhân đơn của NVIDIA
H100 và H200 của NVIDIA là các nhân GPU nguyên khối lớn: tất cả tính toán và cache trên một chip duy nhất. Điều này hợp lý khi Định luật Moore mang lại thế hệ hiệu suất mới mỗi hai năm - chỉ cần thu nhỏ nhân. Nhưng năng suất wafer tiên tiến trên các nhân 4-5 nm vượt một kích thước nhất định giảm mạnh, khiến kinh tế học của nhân nguyên khối 80 tỷ transistor ngày càng khó khăn. Phản ứng của NVIDIA trong kiến trúc Blackwell (GB100) là dùng kết nối die-to-die NVLink - một phương pháp cầu nối khác không sao chép kiến trúc LLC cầu nối chủ động của AMD.
GPU Ponte Vecchio của Intel dùng phương pháp chiplet cực đoan với 47 tile, nhưng gặp vấn đề năng suất và cuối cùng bị khai tử. Cầu nối chủ động của AMD với cache thống nhất trung tâm đơn giản hơn về mặt kiến trúc và phù hợp hơn với bài toán nhất quán. Sự cấp phép tháng 7/2026 thu hẹp không gian thiết kế: bất kỳ đối thủ nào xây dựng GPU chiplet cầu nối chủ động + cache phải thiết kế xung quanh bằng sáng chế của AMD hoặc đàm phán giấy phép chéo.
Vượt ra ngoài các cuộc chiến GPU hôm nay, hàm ý sâu xa hơn là điều kiến trúc này cho phép khi chiplet di chuyển từ bộ tăng tốc trung tâm dữ liệu sang SoC ô tô, thiết bị biên và thế hệ tiếp theo của GPU tiêu dùng.
Bức tranh lớn hơn: Chiplet là Moore's Law mới - và tại sao dịch bằng sáng chế theo sau
Mô hình chiplet đang trở thành kiến trúc mặc định cho bất kỳ chip hiệu suất cao nào không thể chế tạo tiết kiệm chi phí trên một nhân node tiên tiến. Thị trường chiplet toàn cầu được định giá 54,49 tỷ USD năm 2025 và dự kiến đạt 350,79 tỷ USD vào năm 2034 với CAGR 23,1% (Fortune Business Insights, 2025). Mọi bộ tăng tốc AI lớn, mọi CPU máy chủ cao cấp và ngày càng nhiều SoC tính toán ô tô đều đi theo hướng này.
Khi hệ sinh thái chiplet mở rộng toàn cầu, bối cảnh IP trở nên cứng nhắc hơn. US12688138 của AMD được cấp bởi USPTO, nhưng chip của AMD được sản xuất tại Đài Loan (TSMC), bán ở Hàn Quốc, Nhật Bản, Trung Quốc và châu Âu, cạnh tranh với các công ty có trụ sở tại mỗi thị trường đó. Để thực thi bằng sáng chế này toàn cầu, AMD cần các đơn đăng ký tương đương được dịch bằng sáng chế và tranh tụng tại mỗi vùng pháp lý liên quan. Sai sót trong dịch thuật kỹ thuật đối với một yêu cầu về tính nhất quán cache - dịch sai phạm vi "bộ nhớ đệm cache cấp cuối chia sẻ có thể truy cập bởi mọi chiplet tính toán" sang tiếng Nhật hoặc tiếng Trung - có thể khiến bằng sáng chế không thể thực thi trước đối thủ quan trọng nhất. Dịch thuật sáng chế kỹ thuật chính xác không phải tùy chọn với một công ty mà doanh thu sản phẩm phụ thuộc vào IP này.
Từ một ý tưởng cấp độ transistor được nộp ở California năm 2019, chúng ta đến đây: một bằng sáng chế tháng 7/2026 định hình bối cảnh pháp lý cho các kiến trúc GPU đa nhân trong thập kỷ tới.
Điều này có ý nghĩa gì với chúng ta?
US12688138 của AMD quan trọng hơn một bằng sáng chế bán dẫn đơn lẻ. Đây là một dấu mốc: ngành công nghiệp đã chuyển dịch vĩnh viễn sang kiến trúc đa nhân chiplet, và IP bảo hộ các kiến trúc đó đang được định hình trong thời gian thực. Chiplet cầu nối chủ động tích hợp cache là một trong những phần IP bán dẫn sạch và cơ bản hơn của AMD - một khái niệm mà đối thủ phải tôn trọng trong thiết kế, và AMD có thể cấp phép hoặc thực thi toàn cầu.
Với các kỹ sư xây dựng bộ tăng tốc AI, silicon tính toán biên hoặc bộ xử lý ô tô thế hệ tiếp theo, bằng sáng chế này định nghĩa ranh giới thiết kế. Với các chuyên gia dịch thuật và nhóm IP, đây là lời nhắc nhở rằng đổi mới bán dẫn bắt đầu từ các đơn đăng ký sáng chế - và việc thực thi xuyên thị trường những đơn đó đòi hỏi dịch thuật kỹ thuật hoàn hảo để đứng vững trước thẩm định viên sáng chế tại Tokyo, Seoul, Munich hay Bắc Kinh.
Câu hỏi thường gặp
Bằng sáng chế AMD US12688138 cụ thể bảo hộ điều gì?
US12688138 bảo hộ chiplet cầu nối chủ động - nhân silicon chuyên dụng kết nối nhiều chiplet tính toán GPU hoặc CPU đồng thời lưu trữ bộ nhớ đệm cache cấp cuối thống nhất, nhất quán, có thể truy cập bởi mọi chiplet được kết nối. Cầu nối duy trì tính nhất quán cache giữa các nhân trong phần cứng, giúp phần mềm nhìn thấy hệ thống đa nhân như một thiết bị duy nhất. Được USPTO cấp ngày 21/7/2026 cho Advanced Micro Devices, Inc.
Chiplet cầu nối chủ động của AMD khác NVIDIA ở điểm nào?
H100 của NVIDIA là nhân nguyên khối với 50 MB bộ nhớ đệm L2 chia sẻ trên một chip duy nhất. MI300X của AMD dùng 4 nhân IO cầu nối chủ động (mỗi nhân lưu trữ 64 MB Infinity Cache) và 8 XCD tính toán, tổng cộng 256 MB LLC thống nhất - gấp năm lần. GB100 Blackwell của NVIDIA dùng kết nối die-to-die NVLink, một kiến trúc cầu nối khác không sao chép thiết kế LLC cầu nối chủ động của AMD.
Chiplet là gì và tại sao nó quan trọng với tính toán AI?
Chiplet là nhân silicon nhỏ, theo module, được thiết kế để kết hợp với các chiplet khác trong một gói chip, thay vì xây dựng mọi thứ trên một nhân nguyên khối lớn. Với AI, chiplet cho phép nhà sản xuất GPU kết hợp nhiều nhân tính toán với bể bộ nhớ lớn và ngân hàng cache, đạt mức hiệu suất không thể đạt được trên một nhân đơn. MI300X của AMD nhét 304 đơn vị tính toán và 192 GB bộ nhớ HBM3e vào một gói chip sử dụng 12 chiplet.
Tại sao dịch bằng sáng chế quan trọng với IP bán dẫn như US12688138?
US12688138 bảo hộ kiến trúc lõi được dùng trong chip AI bán toàn cầu. Để thực thi hoặc cấp phép tại Nhật Bản, Hàn Quốc, Trung Quốc và châu Âu, AMD cần bản dịch chính xác các yêu cầu bằng sáng chế. Sai sót trong dịch thuật kỹ thuật một yêu cầu về tính nhất quán cache có thể làm mất phạm vi bảo hộ tại vùng pháp lý đó. Dịch bằng sáng chế chất lượng cao là yếu tố quan trọng sống còn cho chiến lược IP bán dẫn toàn cầu.
Công nghệ này được phát minh khi nào và được cấp bằng khi nào?
Kỹ sư AMD nộp đơn ngày 27/9/2019 (đơn US16/585,452, công bố là US20210097013A1 tháng 4/2021). Bằng sáng chế đầu tiên được cấp tháng 11/2022 (US11507527B2). Bằng tiếp nối US12688138 được cấp ngày 21/7/2026 - ba năm sau khi AMD xuất xưởng sản phẩm MI300X xây dựng trên thiết kế này và bảy năm sau đơn nộp ban đầu. Bằng sáng chế tiếp nối bảo hộ phạm vi yêu cầu tinh chỉnh là thực hành chuẩn trong chiến lược IP bán dẫn.
Nguồn
USPTO Official Gazette Tuần 29 - Bằng sáng chế cấp ngày 21/7/2026
Google Patents - Đơn gốc US20210097013A1 (2021)
HotHardware - Phân tích kiến trúc AMD Instinct MI300 (2023)
Chips and Cheese - Kiến trúc AMD CDNA 3 (2023)
Fortune Business Insights - Báo cáo thị trường chiplet (2025)
Về tác giả
Dao Huy (Lucas) là dịch thuật viên chuyên nghiệp với hơn 7 năm kinh nghiệm trong lĩnh vực dịch bằng sáng chế, dịch thuật kỹ thuật và bản địa hóa tài liệu sở hữu trí tuệ từ tiếng Anh, Trung và Pháp sang tiếng Việt. Công việc của anh bao gồm hồ sơ IP bán dẫn, tài liệu kỹ thuật và bản địa hóa sản phẩm công nghệ - những lĩnh vực mà độ chính xác trong việc truyền đạt các yêu cầu về kiến trúc cache và giao thức kết nối quan trọng không kém khả năng ngôn ngữ. Làn sóng IP chiplet đang tạo ra sự bùng nổ toàn cầu trong các hồ sơ bằng sáng chế bán dẫn, mỗi hồ sơ đều cần được dịch thuật trung thực để thực thi xuyên thị trường.
Cần dịch bằng sáng chế cho hồ sơ bán dẫn, AI hoặc đóng gói tiên tiến? Tìm kiếm dịch thuật kỹ thuật Anh - Việt chính xác hoặc bản địa hóa công nghệ cho tài liệu của bạn? Liên hệ Lucas tại daohuy.com để được báo giá miễn phí.
Written by Dao Huy (Lucas), Vietnamese translator & localization specialist (EN · ZH · FR → Vietnamese). See translation services →
