- AI, đặc biệt là mạng lưới thần kinh và học tăng cường sâu, đang cách mạng hóa thiết kế chip, đạt hiệu suất siêu phàm và thúc đẩy một vòng lặp tự cải tiến giữa AI và phần cứng vật lý.
- Recursive Intelligence, do các đồng sáng tạo AlphaChip của Google thành lập, đang đẩy mạnh việc sử dụng AI để tăng tốc, dân chủ hóa và cuối cùng là tích hợp dọc trong thiết kế chip, hướng tới một kỷ nguyên "designless".
- Công ty này hướng đến việc tạo ra một "bùng nổ Cambrian" của các chip tùy chỉnh, chuyên biệt cho từng khối lượng công việc AI đa dạng, mở khóa hiệu suất vượt trội và tối ưu hóa chi phí thông qua việc mở rộng tài nguyên tính toán.
AI That Designs Its Own Chips: Ricursive's Anna Goldie and Azalia Mirhoseini
- Ứng dụng AI đột phá trong thiết kế chip: Mạng lưới thần kinh và tác nhân học tăng cường sâu đã chứng minh khả năng tạo ra các bố cục chip với hiệu suất siêu phàm, vượt qua khả năng của con người.
- Di sản AlphaChip và ứng dụng thực tế: Công trình AlphaChip đã được sử dụng trong quá trình tape-out của các chip thực tế tại Google (TPU, Axion, Pixel, chip xe tự hành) và các công ty bên ngoài, chứng minh tính hiệu quả và khả năng triển khai thương mại.
- Vòng lặp tự cải tiến AI-Chip: Luận điểm cốt lõi là sử dụng AI để thiết kế chip, và những chip này lại cung cấp năng lượng cho AI tốt hơn, tạo ra một vòng lặp đệ quy mang lại sự cải tiến liên tục.
- Tăng tốc và dân chủ hóa thiết kế: Recursive Intelligence đặt mục tiêu giảm đáng kể thời gian và chi phí thiết kế chip (từ vài năm xuống còn ít hơn), đồng thời cho phép các công ty nhỏ hơn tạo ra chip tùy chỉnh mà không cần đội ngũ chuyên gia khổng lồ.
- Phương pháp kỹ thuật "đồng thiết kế toàn bộ ngăn xếp": Bằng cách làm cho các công cụ thiết kế chip truyền thống nhanh hơn 100.000 lần và kết hợp chúng với các vòng lặp học tăng cường, công ty có thể đồng tối ưu hóa trên toàn bộ luồng công việc thiết kế để đạt được hiệu suất và thời gian ra thị trường vượt trội.
- Kỷ nguyên "Designless" và tùy chỉnh: Mô hình "designless" mới cho phép các công ty tập trung vào ứng dụng và mô hình AI của họ, trong khi Recursive Intelligence lo phần cứng tùy chỉnh từ đầu vào khối lượng công việc cho đến khi sẵn sàng sản xuất.
- Bùng nổ Cambrian về chip: Việc cá nhân hóa và tùy chỉnh chip theo từng khối lượng công việc cụ thể sẽ dẫn đến sự đa dạng chưa từng có về các loại chip, tối ưu hóa cho nhiều yêu cầu khác nhau như hiệu suất cao, tiêu thụ điện năng thấp, hoặc thông lượng lớn.
- Bố cục chip hữu cơ do AI tạo ra: Các mô hình AI có khả năng tạo ra các bố cục chip cong, hữu cơ giúp tối thiểu hóa chiều dài dây và cải thiện hiệu suất, khác biệt so với các bố cục thẳng hàng, đều đặn của con người.
mạng lưới thần kinh— neural networkshiệu suất siêu phàm— superhuman performancetác nhân học tăng cường sâu— deep reinforcement learning agentkhối lượng công việc— workloadluồng công việc thiết kế chip— chip design workflowđồng thiết kế trên toàn bộ ngăn xếp— co-designing across the stackdân chủ hóa thiết kế chip— democratize chip designbùng nổ Cambrian— Cambrian explosionchiều dài dây— wire length
Giới thiệu Recursive Intelligence và AlphaChip
Một trong những chủ đề mà chúng tôi đã nghe suốt cả ngày là mạng lưới thần kinh (neural nets) đang thay thế nhiều công cụ truyền thống. Và tôi nghĩ một trong những danh mục ứng dụng thú vị nhất mà chúng ta thực sự đã thấy điều đó trở thành hiện thực là trong thiết kế chip, nơi mạng lưới thần kinh giờ đây đang đạt hiệu suất siêu phàm (superhuman performance) trong một số phần của quy trình thiết kế bán dẫn. Và vì vậy, tôi rất vui mừng được giới thiệu Anna và Azalia. Họ là những người đồng sáng tạo của AlphaChip, đã thực hiện chính xác điều này tại Google và được sử dụng trên nhiều thế hệ TPU. Giờ đây, họ đã thành lập một công ty để xây dựng điều này. Cảm ơn và chào mừng Anna và Azalia. Cảm ơn rất nhiều.
[tiếng vỗ tay]
Xin chào mọi người. Azalia và tôi rất vui mừng được có mặt tại đây hôm nay để nói về công ty mới của chúng tôi, Recursive Intelligence, nơi chúng tôi đang thực hiện AI cho thiết kế chip và thiết kế chip cho AI. Chúng tôi đã làm việc cùng nhau chặt chẽ trong 10 năm qua tại Google Brain, Anthropic, DeepMind. Và bởi vì làm việc tại một tổ chức là chưa đủ, tôi đã bắt đầu chương trình PhD của mình trong khi vẫn tiếp tục làm việc toàn thời gian và Azalia đã gia nhập giảng viên Stanford. Vì vậy, chúng tôi đã làm việc cùng nhau ở nhiều nơi khác nhau trong một thời gian dài.
Luận điểm và Di sản AlphaChip
Luận điểm của chúng tôi tại công ty này là chip là nhiên liệu cho AI, và chúng tôi nên sử dụng AI để thiết kế, tối ưu hóa và tự động hóa quy trình thiết kế chip, từ đó đóng lại vòng lặp tự cải tiến mang tính đệ quy giữa AI và chất nền vật lý của nó. Chúng tôi bắt đầu định hướng này vào năm 2018 với công trình AlphaChip, nơi chúng tôi đã phát triển một tác nhân học tăng cường sâu (deep reinforcement learning agent) có khả năng tạo ra các bố cục chip với hiệu suất siêu phàm. Công trình này đã được công bố trên Nature, nhưng theo ý kiến của chúng tôi, điều thú vị là nó thực sự đã được sử dụng trong quá trình tape-out của các chip thực tế. Cụ thể, bốn thế hệ gần đây nhất của các chip tăng tốc AI của Google như TPU, các CPU data center tên Axion, điện thoại Pixel, và cả các chip xe tự hành, bên cạnh việc được các công ty bên ngoài như MediaTek áp dụng. Vì vậy, chúng tôi quyết định thành lập công ty này để đưa công việc này lên một tầm cao mới và đảm nhiệm toàn bộ luồng công việc thiết kế chip.
Ba Giai đoạn Phát triển của Recursive Intelligence
Chúng tôi hình dung công ty sẽ phát triển qua ba giai đoạn:
-
Giai đoạn một: Đẩy nhanh quá trình thiết kế chip. Hiện tại, có hai khâu kéo dài thời gian nhất là thiết kế vật lý (đặt hàng tỷ ô tiêu chuẩn hoặc bóng bán dẫn và định tuyến chúng trên một khuôn chip) và xác minh thiết kế (kiểm tra tính đúng đắn của logic chip). Mỗi khâu này có thể mất đến một năm và đòi hỏi hàng trăm hoặc hàng nghìn chuyên gia con người. Mức độ rủi ro là cực kỳ cao; ước tính một ngày chậm trễ của một chip Nvidia như Blackwell có thể khiến một công ty mất khoảng 225 triệu đô la chi phí cơ hội. Vì vậy, chúng tôi muốn giúp các nhà sản xuất chip hiện có ra thị trường nhanh hơn, sản xuất chip nhanh hơn, rẻ hơn và thân thiện hơn với môi trường.
-
Giai đoạn hai: Dân chủ hóa thiết kế chip. Chúng tôi muốn trở thành một nền tảng để thiết kế phần cứng mới, nơi chúng tôi có thể nhận đầu vào là một
khối lượng công việc(workload), ví dụ nhưmô hình quadtiếp theo, thiết kế một kiến trúc giúp tăng tốc đáng kểkhối lượng công việcđó, và sau đó thực hiện toàn bộ quá trình thiết kế cho đến khi đạt chuẩnGDS2 clean– định dạng mà chúng tôi gửi đến các nhà máy sản xuất (fabs) để gia công. Trong trường hợp đó, chúng tôi có thể mở rộng đáng kể số lượng khách hàng có thể phục vụ. Bất kỳ công ty nào cókhối lượng công việcđủ lớn đều có thể hưởng lợi từchip tùy chỉnh, ngay cả khi họ không có đội ngũ hàng trăm hoặc hàng nghìn chuyên gia. -
Giai đoạn ba: Tích hợp dọc. Nếu chúng tôi có khả năng nhanh chóng thiết kế các chip hiệu suất cao, tại sao không tự xây dựng chip của riêng mình? Tại sao không tự đào tạo các mô hình của riêng mình và cùng phát triển chúng? Và cung cấp trí tuệ với mức giá hoặc khả năng không thể sánh kịp. Azalia sẽ nói thêm một chút về phương pháp tiếp cận của chúng tôi trong công ty này.
Phương pháp Tiếp cận Kỹ thuật của Recursive
Ở phía bên phải (trên slide), chúng tôi đang trình bày quy trình, hay luồng công việc truyền thống trong thiết kế chip. Nó bắt đầu bằng thiết kế kiến trúc và kéo dài cho đến khâu sign-off, đó là bản bạn gửi đến các nhà máy (fabs). Như bạn có thể thấy, có rất nhiều thành phần ở đây, và cách các giai đoạn này được thực hiện ngày nay với các chuyên gia con người tham gia vào vòng lặp, làm việc với các công cụ thương mại mà đôi khi phải mất nhiều ngày để chạy một lần lặp duy nhất cho một tối ưu hóa.
Vì vậy, phương pháp tiếp cận của chúng tôi tại Recursive là trước tiên thiết kế lại cách các công cụ này hoạt động, làm cho chúng nhanh hơn 100.000 lần. Sau đó, chúng đã sẵn sàng để được sử dụng với AI bởi vì, như bạn biết, các AI của chúng tôi thực sự thích các vòng lặp lặp lại nhanh chóng và chúng có thể học hỏi theo cấp số nhân và đồng tối ưu hóa trên một không gian rất, rất lớn nếu chúng tôi cho phép chúng làm điều đó. Do đó, bằng cách đồng thiết kế trên toàn bộ ngăn xếp (co-designing across the stack), điều này cho phép chúng tôi mở khóa những cải tiến hiệu suất lớn và rút ngắn thời gian đưa sản phẩm ra thị trường, đến từ cả đồng thiết kế và tự động hóa.
Để cho bạn thấy một cái nhìn thoáng qua về những gì chúng tôi đang xây dựng, đây là một STA (static timing analysis), một công cụ phân tích thời gian tĩnh. Đây là một trong những thành phần rất thách thức của thiết kế vật lý. Và những gì chúng tôi đang trình bày ở đây là chúng tôi đã xây dựng một công cụ có độ tương quan rất cao với các công cụ thương mại và chúng tôi có thể làm điều đó nhanh hơn một nghìn lần. Bây giờ hãy tưởng tượng nếu bạn đang thực hiện sử dụng công cụ AI (AI tool use) hoặc một vòng lặp RL (RL loop), chúng tôi hiện có loại tín hiệu phản hồi này mà chúng tôi có thể sử dụng trong quá trình tối ưu hóa, chúng tôi có thể làm được nhiều điều hơn với nó. Đây là một ví dụ về cách vòng lặp bên ngoài (outer loop) của AI của chúng tôi hoạt động với công cụ này. Chẳng hạn, ban đầu đây là những gì chúng tôi nhận được với một lần lặp duy nhất của vòng lặp bên trong (inner loop), nhưng khi AI tối ưu hóa xung quanh các công thức (recipes) có thể sử dụng các công cụ này, chúng tôi có thể đạt được hiệu suất cao hơn đáng kể.
Tầm nhìn: Kỷ nguyên Thiết kế không nhà máy (Designless) và Tác động
Nhìn rộng hơn, Recursive đang mở ra một kỷ nguyên mới mà chúng tôi gọi là designless (thiết kế không nhà máy), tương tự như mô hình fabless (không nhà máy chế tạo chip) được các công ty như TSMC cho phép. Mô hình fabless đã giúp Nvidia, Apple và các công ty khác tập trung vào việc thiết kế chip và gửi các thiết kế đi gia công ở nơi khác. Chúng tôi muốn trở thành nền tảng cho thiết kế chip, để các công ty có thể tập trung vào ứng dụng, mô hình hóa và các lớp khác, còn chúng tôi sẽ là tài nguyên tính toán (compute) và phần cứng hỗ trợ các ứng dụng đó.
Tác động sẽ là chúng tôi có thể dân chủ hóa thiết kế chip và cho phép đa dạng hơn về loại chip và hiệu suất. Hiện tại, có một vài chip chính thống cho suy luận AI (AI inference). Nhưng như bạn có thể hình dung, và như nhiều bài nói chuyện và cuộc thảo luận hôm nay đã ám chỉ, chúng ta sẽ cần hiệu suất cao hơn rất nhiều trong những năm tới. Và một cách để mở khóa nhiều hiệu suất là thông qua tùy chỉnh (customization). Khi chúng ta xây dựng các chip thực sự được tùy chỉnh cho các khối lượng công việc mà chúng ta đang phục vụ, chúng tôi tại Recursive muốn trở thành nền tảng cho phép bùng nổ Cambrian (Cambrian explosion) về chip, để chúng ta có thể xây dựng nhiều loại chip đa dạng hơn, thực sự tùy chỉnh theo loại khối lượng công việc mà các công ty và người dùng quan tâm. Và bạn có thể tưởng tượng, những chip này có thể hỗ trợ một khối lượng công việc rất lớn như một mô hình tiên phong (frontier model), hoặc chúng có thể hỗ trợ hiệu suất tiêu thụ điện năng rất thấp, thông lượng (throughput) cao hoặc các biến thể hiệu suất khác mà chúng ta cần.
Đội ngũ Phát triển
Cuối cùng, chúng tôi có một đội ngũ tuyệt vời. Công ty của chúng tôi khá đặc biệt ở chỗ chúng tôi có một nhóm người rất chuyên gia về mô hình ngôn ngữ lớn (LLM). Họ đã từng làm việc trên các mô hình như Quad, Gemini, Grok và các dự án tương tự trong quá khứ. Giờ đây, chúng tôi đã kết hợp họ với các chuyên gia thiết kế chip, tạo nên một sự kết hợp rất tuyệt vời và chúng tôi rất vui khi được cùng nhau xây dựng. Vâng, với điều đó, chúng tôi có thể kết thúc bài nói chuyện. Rất sẵn lòng trả lời các câu hỏi.
[tiếng vỗ tay]
Hỏi & Đáp: Hình dạng bố cục chip
Có thông tin gì về hình dạng của các bố cục chip mà các mô hình này tạo ra so với... Ồ, chúng tôi đáng lẽ nên cho xem một số bố cục. Vâng, tôi nghĩ rằng giống như trong AlphaChip, chúng tôi đang thấy các hình dạng bố cục cong, trông hữu cơ. Các chuyên gia con người thường tạo ra các bố cục rất thẳng hàng, trông đều đặn, nhưng các bố cục do AI tạo ra trông hữu cơ, cong hơn, điều này giúp tối thiểu hóa chiều dài dây (wire length), cải thiện hiệu suất. Nhưng điều này đã gây sốc cho các kỹ sư thiết kế vật lý khi họ lần đầu tiên nhìn thấy chúng.
Hỏi & Đáp: Chi phí chip chuyên dụng và Khả năng mở rộng
Một câu hỏi về chi phí của các chip chuyên dụng này. Tôi hoàn toàn hiểu rằng bạn có thể tạo ra một con chip tốt hơn với AI và có các bố cục tốt hơn, v.v. Nhưng tôi nghĩ Azalia cũng đang nói đến việc bạn có thể tạo ra các chip chuyên dụng. Vậy quy mô (scale) hoạt động như thế nào? Tôi không biết các nguyên tắc cơ bản của thiết kế chip. Bạn có thể tạo ra hàng nghìn chip khác nhau và làm cho chúng rẻ như một kiến trúc Hopper không?
Vâng, chắc chắn rằng những gì chúng tôi đang làm ở đây là chúng tôi đang tiến vào một chế độ (regime) mới, nơi chúng tôi có thể tận dụng tài nguyên tính toán làm lợi thế của mình. Bằng cách mở rộng tài nguyên tính toán, chúng tôi có thể giảm thời gian chạy để thiết kế chip và cũng để cho phép các chip hiệu năng cao hơn. Vì vậy, về cơ bản, chúng tôi đang giới thiệu một biến số điều chỉnh (knob). Hiện nay, thông qua tùy chỉnh, với quy mô mà các khối lượng công việc AI sẽ được chạy, kinh tế theo quy mô (economy of scales) đang tự vận hành, phải không? Ngay cả một cải thiện 1% trong một chip phục vụ một mô hình tiên phong cũng là một lợi ích và thành công lớn nếu bạn có thể thực hiện được điều đó. Nhưng, ở các quy mô khác nhau, chúng tôi có các cải thiện hiệu suất khác nhau. Và một lần nữa, điều chúng tôi đang nói ở đây là chúng tôi đang sử dụng tài nguyên tính toán để mang lại tự động hóa và hiệu suất tốt hơn. Và đó là một biến số điều chỉnh mà chúng tôi có thể sử dụng.
[tiếng vỗ tay và reo hò]
TL;DR
- AI, đặc biệt là mạng lưới thần kinh và học tăng cường sâu, đang cách mạng hóa thiết kế chip, đạt hiệu suất siêu phàm và thúc đẩy một vòng lặp tự cải tiến giữa AI và phần cứng vật lý.
- Recursive Intelligence, do các đồng sáng tạo AlphaChip của Google thành lập, đang đẩy mạnh việc sử dụng AI để tăng tốc, dân chủ hóa và cuối cùng là tích hợp dọc trong thiết kế chip, hướng tới một kỷ nguyên "designless".
- Công ty này hướng đến việc tạo ra một "bùng nổ Cambrian" của các chip tùy chỉnh, chuyên biệt cho từng khối lượng công việc AI đa dạng, mở khóa hiệu suất vượt trội và tối ưu hóa chi phí thông qua việc mở rộng tài nguyên tính toán.
Điểm chính
- Ứng dụng AI đột phá trong thiết kế chip: Mạng lưới thần kinh và tác nhân học tăng cường sâu đã chứng minh khả năng tạo ra các bố cục chip với hiệu suất siêu phàm, vượt qua khả năng của con người.
- Di sản AlphaChip và ứng dụng thực tế: Công trình AlphaChip đã được sử dụng trong quá trình tape-out của các chip thực tế tại Google (TPU, Axion, Pixel, chip xe tự hành) và các công ty bên ngoài, chứng minh tính hiệu quả và khả năng triển khai thương mại.
- Vòng lặp tự cải tiến AI-Chip: Luận điểm cốt lõi là sử dụng AI để thiết kế chip, và những chip này lại cung cấp năng lượng cho AI tốt hơn, tạo ra một vòng lặp đệ quy mang lại sự cải tiến liên tục.
- Tăng tốc và dân chủ hóa thiết kế: Recursive Intelligence đặt mục tiêu giảm đáng kể thời gian và chi phí thiết kế chip (từ vài năm xuống còn ít hơn), đồng thời cho phép các công ty nhỏ hơn tạo ra chip tùy chỉnh mà không cần đội ngũ chuyên gia khổng lồ.
- Phương pháp kỹ thuật "đồng thiết kế toàn bộ ngăn xếp": Bằng cách làm cho các công cụ thiết kế chip truyền thống nhanh hơn 100.000 lần và kết hợp chúng với các vòng lặp học tăng cường, công ty có thể đồng tối ưu hóa trên toàn bộ luồng công việc thiết kế để đạt được hiệu suất và thời gian ra thị trường vượt trội.
- Kỷ nguyên "Designless" và tùy chỉnh: Mô hình "designless" mới cho phép các công ty tập trung vào ứng dụng và mô hình AI của họ, trong khi Recursive Intelligence lo phần cứng tùy chỉnh từ đầu vào khối lượng công việc cho đến khi sẵn sàng sản xuất.
- Bùng nổ Cambrian về chip: Việc cá nhân hóa và tùy chỉnh chip theo từng khối lượng công việc cụ thể sẽ dẫn đến sự đa dạng chưa từng có về các loại chip, tối ưu hóa cho nhiều yêu cầu khác nhau như hiệu suất cao, tiêu thụ điện năng thấp, hoặc thông lượng lớn.
- Bố cục chip hữu cơ do AI tạo ra: Các mô hình AI có khả năng tạo ra các bố cục chip cong, hữu cơ giúp tối thiểu hóa chiều dài dây và cải thiện hiệu suất, khác biệt so với các bố cục thẳng hàng, đều đặn của con người.
Từ vựng
mạng lưới thần kinh— neural networkshiệu suất siêu phàm— superhuman performancetác nhân học tăng cường sâu— deep reinforcement learning agentkhối lượng công việc— workloadluồng công việc thiết kế chip— chip design workflowđồng thiết kế trên toàn bộ ngăn xếp— co-designing across the stackdân chủ hóa thiết kế chip— democratize chip designbùng nổ Cambrian— Cambrian explosionchiều dài dây— wire length
Nội dung chi tiết
Giới thiệu Recursive Intelligence và AlphaChip
Một trong những chủ đề mà chúng tôi đã nghe suốt cả ngày là mạng lưới thần kinh (neural nets) đang thay thế nhiều công cụ truyền thống. Và tôi nghĩ một trong những danh mục ứng dụng thú vị nhất mà chúng ta thực sự đã thấy điều đó trở thành hiện thực là trong thiết kế chip, nơi mạng lưới thần kinh giờ đây đang đạt hiệu suất siêu phàm (superhuman performance) trong một số phần của quy trình thiết kế bán dẫn. Và vì vậy, tôi rất vui mừng được giới thiệu Anna và Azalia. Họ là những người đồng sáng tạo của AlphaChip, đã thực hiện chính xác điều này tại Google và được sử dụng trên nhiều thế hệ TPU. Giờ đây, họ đã thành lập một công ty để xây dựng điều này. Cảm ơn và chào mừng Anna và Azalia. Cảm ơn rất nhiều.
[tiếng vỗ tay]
Xin chào mọi người. Azalia và tôi rất vui mừng được có mặt tại đây hôm nay để nói về công ty mới của chúng tôi, Recursive Intelligence, nơi chúng tôi đang thực hiện AI cho thiết kế chip và thiết kế chip cho AI. Chúng tôi đã làm việc cùng nhau chặt chẽ trong 10 năm qua tại Google Brain, Anthropic, DeepMind. Và bởi vì làm việc tại một tổ chức là chưa đủ, tôi đã bắt đầu chương trình PhD của mình trong khi vẫn tiếp tục làm việc toàn thời gian và Azalia đã gia nhập giảng viên Stanford. Vì vậy, chúng tôi đã làm việc cùng nhau ở nhiều nơi khác nhau trong một thời gian dài.
Luận điểm và Di sản AlphaChip
Luận điểm của chúng tôi tại công ty này là chip là nhiên liệu cho AI, và chúng tôi nên sử dụng AI để thiết kế, tối ưu hóa và tự động hóa quy trình thiết kế chip, từ đó đóng lại vòng lặp tự cải tiến mang tính đệ quy giữa AI và chất nền vật lý của nó. Chúng tôi bắt đầu định hướng này vào năm 2018 với công trình AlphaChip, nơi chúng tôi đã phát triển một tác nhân học tăng cường sâu (deep reinforcement learning agent) có khả năng tạo ra các bố cục chip với hiệu suất siêu phàm. Công trình này đã được công bố trên Nature, nhưng theo ý kiến của chúng tôi, điều thú vị là nó thực sự đã được sử dụng trong quá trình tape-out của các chip thực tế. Cụ thể, bốn thế hệ gần đây nhất của các chip tăng tốc AI của Google như TPU, các CPU data center tên Axion, điện thoại Pixel, và cả các chip xe tự hành, bên cạnh việc được các công ty bên ngoài như MediaTek áp dụng. Vì vậy, chúng tôi quyết định thành lập công ty này để đưa công việc này lên một tầm cao mới và đảm nhiệm toàn bộ luồng công việc thiết kế chip.
Ba Giai đoạn Phát triển của Recursive Intelligence
Chúng tôi hình dung công ty sẽ phát triển qua ba giai đoạn:
-
Giai đoạn một: Đẩy nhanh quá trình thiết kế chip. Hiện tại, có hai khâu kéo dài thời gian nhất là thiết kế vật lý (đặt hàng tỷ ô tiêu chuẩn hoặc bóng bán dẫn và định tuyến chúng trên một khuôn chip) và xác minh thiết kế (kiểm tra tính đúng đắn của logic chip). Mỗi khâu này có thể mất đến một năm và đòi hỏi hàng trăm hoặc hàng nghìn chuyên gia con người. Mức độ rủi ro là cực kỳ cao; ước tính một ngày chậm trễ của một chip Nvidia như Blackwell có thể khiến một công ty mất khoảng 225 triệu đô la chi phí cơ hội. Vì vậy, chúng tôi muốn giúp các nhà sản xuất chip hiện có ra thị trường nhanh hơn, sản xuất chip nhanh hơn, rẻ hơn và thân thiện hơn với môi trường.
-
Giai đoạn hai: Dân chủ hóa thiết kế chip. Chúng tôi muốn trở thành một nền tảng để thiết kế phần cứng mới, nơi chúng tôi có thể nhận đầu vào là một
khối lượng công việc(workload), ví dụ nhưmô hình quadtiếp theo, thiết kế một kiến trúc giúp tăng tốc đáng kểkhối lượng công việcđó, và sau đó thực hiện toàn bộ quá trình thiết kế cho đến khi đạt chuẩnGDS2 clean– định dạng mà chúng tôi gửi đến các nhà máy sản xuất (fabs) để gia công. Trong trường hợp đó, chúng tôi có thể mở rộng đáng kể số lượng khách hàng có thể phục vụ. Bất kỳ công ty nào cókhối lượng công việcđủ lớn đều có thể hưởng lợi từchip tùy chỉnh, ngay cả khi họ không có đội ngũ hàng trăm hoặc hàng nghìn chuyên gia. -
Giai đoạn ba: Tích hợp dọc. Nếu chúng tôi có khả năng nhanh chóng thiết kế các chip hiệu suất cao, tại sao không tự xây dựng chip của riêng mình? Tại sao không tự đào tạo các mô hình của riêng mình và cùng phát triển chúng? Và cung cấp trí tuệ với mức giá hoặc khả năng không thể sánh kịp. Azalia sẽ nói thêm một chút về phương pháp tiếp cận của chúng tôi trong công ty này.
Phương pháp Tiếp cận Kỹ thuật của Recursive
Ở phía bên phải (trên slide), chúng tôi đang trình bày quy trình, hay luồng công việc truyền thống trong thiết kế chip. Nó bắt đầu bằng thiết kế kiến trúc và kéo dài cho đến khâu sign-off, đó là bản bạn gửi đến các nhà máy (fabs). Như bạn có thể thấy, có rất nhiều thành phần ở đây, và cách các giai đoạn này được thực hiện ngày nay với các chuyên gia con người tham gia vào vòng lặp, làm việc với các công cụ thương mại mà đôi khi phải mất nhiều ngày để chạy một lần lặp duy nhất cho một tối ưu hóa.
Vì vậy, phương pháp tiếp cận của chúng tôi tại Recursive là trước tiên thiết kế lại cách các công cụ này hoạt động, làm cho chúng nhanh hơn 100.000 lần. Sau đó, chúng đã sẵn sàng để được sử dụng với AI bởi vì, như bạn biết, các AI của chúng tôi thực sự thích các vòng lặp lặp lại nhanh chóng và chúng có thể học hỏi theo cấp số nhân và đồng tối ưu hóa trên một không gian rất, rất lớn nếu chúng tôi cho phép chúng làm điều đó. Do đó, bằng cách đồng thiết kế trên toàn bộ ngăn xếp (co-designing across the stack), điều này cho phép chúng tôi mở khóa những cải tiến hiệu suất lớn và rút ngắn thời gian đưa sản phẩm ra thị trường, đến từ cả đồng thiết kế và tự động hóa.
Để cho bạn thấy một cái nhìn thoáng qua về những gì chúng tôi đang xây dựng, đây là một STA (static timing analysis), một công cụ phân tích thời gian tĩnh. Đây là một trong những thành phần rất thách thức của thiết kế vật lý. Và những gì chúng tôi đang trình bày ở đây là chúng tôi đã xây dựng một công cụ có độ tương quan rất cao với các công cụ thương mại và chúng tôi có thể làm điều đó nhanh hơn một nghìn lần. Bây giờ hãy tưởng tượng nếu bạn đang thực hiện sử dụng công cụ AI (AI tool use) hoặc một vòng lặp RL (RL loop), chúng tôi hiện có loại tín hiệu phản hồi này mà chúng tôi có thể sử dụng trong quá trình tối ưu hóa, chúng tôi có thể làm được nhiều điều hơn với nó. Đây là một ví dụ về cách vòng lặp bên ngoài (outer loop) của AI của chúng tôi hoạt động với công cụ này. Chẳng hạn, ban đầu đây là những gì chúng tôi nhận được với một lần lặp duy nhất của vòng lặp bên trong (inner loop), nhưng khi AI tối ưu hóa xung quanh các công thức (recipes) có thể sử dụng các công cụ này, chúng tôi có thể đạt được hiệu suất cao hơn đáng kể.
Tầm nhìn: Kỷ nguyên Thiết kế không nhà máy (Designless) và Tác động
Nhìn rộng hơn, Recursive đang mở ra một kỷ nguyên mới mà chúng tôi gọi là designless (thiết kế không nhà máy), tương tự như mô hình fabless (không nhà máy chế tạo chip) được các công ty như TSMC cho phép. Mô hình fabless đã giúp Nvidia, Apple và các công ty khác tập trung vào việc thiết kế chip và gửi các thiết kế đi gia công ở nơi khác. Chúng tôi muốn trở thành nền tảng cho thiết kế chip, để các công ty có thể tập trung vào ứng dụng, mô hình hóa và các lớp khác, còn chúng tôi sẽ là tài nguyên tính toán (compute) và phần cứng hỗ trợ các ứng dụng đó.
Tác động sẽ là chúng tôi có thể dân chủ hóa thiết kế chip và cho phép đa dạng hơn về loại chip và hiệu suất. Hiện tại, có một vài chip chính thống cho suy luận AI (AI inference). Nhưng như bạn có thể hình dung, và như nhiều bài nói chuyện và cuộc thảo luận hôm nay đã ám chỉ, chúng ta sẽ cần hiệu suất cao hơn rất nhiều trong những năm tới. Và một cách để mở khóa nhiều hiệu suất là thông qua tùy chỉnh (customization). Khi chúng ta xây dựng các chip thực sự được tùy chỉnh cho các khối lượng công việc mà chúng ta đang phục vụ, chúng tôi tại Recursive muốn trở thành nền tảng cho phép bùng nổ Cambrian (Cambrian explosion) về chip, để chúng ta có thể xây dựng nhiều loại chip đa dạng hơn, thực sự tùy chỉnh theo loại khối lượng công việc mà các công ty và người dùng quan tâm. Và bạn có thể tưởng tượng, những chip này có thể hỗ trợ một khối lượng công việc rất lớn như một mô hình tiên phong (frontier model), hoặc chúng có thể hỗ trợ hiệu suất tiêu thụ điện năng rất thấp, thông lượng (throughput) cao hoặc các biến thể hiệu suất khác mà chúng ta cần.
Đội ngũ Phát triển
Cuối cùng, chúng tôi có một đội ngũ tuyệt vời. Công ty của chúng tôi khá đặc biệt ở chỗ chúng tôi có một nhóm người rất chuyên gia về mô hình ngôn ngữ lớn (LLM). Họ đã từng làm việc trên các mô hình như Quad, Gemini, Grok và các dự án tương tự trong quá khứ. Giờ đây, chúng tôi đã kết hợp họ với các chuyên gia thiết kế chip, tạo nên một sự kết hợp rất tuyệt vời và chúng tôi rất vui khi được cùng nhau xây dựng. Vâng, với điều đó, chúng tôi có thể kết thúc bài nói chuyện. Rất sẵn lòng trả lời các câu hỏi.
[tiếng vỗ tay]
Hỏi & Đáp: Hình dạng bố cục chip
Có thông tin gì về hình dạng của các bố cục chip mà các mô hình này tạo ra so với... Ồ, chúng tôi đáng lẽ nên cho xem một số bố cục. Vâng, tôi nghĩ rằng giống như trong AlphaChip, chúng tôi đang thấy các hình dạng bố cục cong, trông hữu cơ. Các chuyên gia con người thường tạo ra các bố cục rất thẳng hàng, trông đều đặn, nhưng các bố cục do AI tạo ra trông hữu cơ, cong hơn, điều này giúp tối thiểu hóa chiều dài dây (wire length), cải thiện hiệu suất. Nhưng điều này đã gây sốc cho các kỹ sư thiết kế vật lý khi họ lần đầu tiên nhìn thấy chúng.
Hỏi & Đáp: Chi phí chip chuyên dụng và Khả năng mở rộng
Một câu hỏi về chi phí của các chip chuyên dụng này. Tôi hoàn toàn hiểu rằng bạn có thể tạo ra một con chip tốt hơn với AI và có các bố cục tốt hơn, v.v. Nhưng tôi nghĩ Azalia cũng đang nói đến việc bạn có thể tạo ra các chip chuyên dụng. Vậy quy mô (scale) hoạt động như thế nào? Tôi không biết các nguyên tắc cơ bản của thiết kế chip. Bạn có thể tạo ra hàng nghìn chip khác nhau và làm cho chúng rẻ như một kiến trúc Hopper không?
Vâng, chắc chắn rằng những gì chúng tôi đang làm ở đây là chúng tôi đang tiến vào một chế độ (regime) mới, nơi chúng tôi có thể tận dụng tài nguyên tính toán làm lợi thế của mình. Bằng cách mở rộng tài nguyên tính toán, chúng tôi có thể giảm thời gian chạy để thiết kế chip và cũng để cho phép các chip hiệu năng cao hơn. Vì vậy, về cơ bản, chúng tôi đang giới thiệu một biến số điều chỉnh (knob). Hiện nay, thông qua tùy chỉnh, với quy mô mà các khối lượng công việc AI sẽ được chạy, kinh tế theo quy mô (economy of scales) đang tự vận hành, phải không? Ngay cả một cải thiện 1% trong một chip phục vụ một mô hình tiên phong cũng là một lợi ích và thành công lớn nếu bạn có thể thực hiện được điều đó. Nhưng, ở các quy mô khác nhau, chúng tôi có các cải thiện hiệu suất khác nhau. Và một lần nữa, điều chúng tôi đang nói ở đây là chúng tôi đang sử dụng tài nguyên tính toán để mang lại tự động hóa và hiệu suất tốt hơn. Và đó là một biến số điều chỉnh mà chúng tôi có thể sử dụng.
[tiếng vỗ tay và reo hò]