- AI đang chuyển đổi từ trợ lý cho tin tặc con người sang tác nhân tấn công hoàn toàn tự hành, với các hệ thống AI như Xbo đã vượt trội hơn con người trong việc tìm kiếm lỗ hổng bảo mật nghiêm trọng.
- Ví dụ như Xbo đã tự động phát hiện lỗ hổng Thực thi mã từ xa (RCE) trong Bing Image Search chỉ với một URL, và vươn lên đứng đầu thế giới trên nền tảng HackerOne về khả năng kiểm thử hộp đen.
- Ngành an ninh mạng đang bước vào một "cuộc chạy đua vũ trang AI" khốc liệt, đòi hỏi phải khẩn cấp tối đa hóa năng lực an ninh mạng của các mô hình AI và trao quyền cho các nhà nghiên cứu bảo mật con người để đối phó với mối đe dọa ngày càng tăng.
Inside the Rise of Autonomous AI Hackers: XBOW's Oege de Moor
- AI đang phát triển từ công cụ hỗ trợ tin tặc (human-assisted AI) thành tác nhân tấn công hoàn toàn tự hành (autonomous AI attacks) mà không cần sự can thiệp của con người.
- Các công cụ AI như Xbo có khả năng phát hiện các lỗ hổng nghiêm trọng như Thực thi mã từ xa (RCE) trong các hệ thống được bảo mật cao (ví dụ: Bing Image Search) một cách nhanh chóng, rẻ và hiệu quả chỉ với đầu vào là URL.
- Xbo đã chứng minh hiệu quả vượt trội khi trở thành tin tặc số 1 thế giới trên nền tảng HackerOne chỉ trong vài tuần, thực hiện kiểm thử hộp đen (black-box testing) hoàn toàn tự động.
- Các mô hình nền tảng (foundation models) như GPT-5, Sonnet, Gemini đang tiến bộ vượt bậc, và khi được kết hợp ("alloying") có thể bù đắp lỗi lẫn nhau, nâng cao đáng kể khả năng tìm kiếm lỗ hổng.
- Thời gian giữa công bố lỗ hổng (CVE) và việc khai thác thực tế bởi kẻ xấu đã trở thành số âm, cho thấy nhiều lỗ hổng đã bị khai thác trước khi được công bố rộng rãi.
- Ngành an ninh mạng đang ở trong một "cuộc chạy đua vũ trang AI", yêu cầu các nhà phát triển mô hình tiên phong phải tối đa hóa năng lực an ninh mạng của AI và trao quyền cho các nhà nghiên cứu bảo mật con người bằng công cụ AI.
- Cần ưu tiên xác định liệu các lỗi có thực sự khai thác được và tác động của chúng là gì, thay vì chỉ dựa vào phân tích mã nguồn (kiểm thử hộp trắng).
- Có khoảng 6-9 tháng để hành động khẩn cấp trước khi các mô hình trọng số mở (open-weight models) đạt đến trình độ tương tự các công cụ tiên tiến hiện nay, làm tăng rủi ro tấn công tự hành.
- OpenAI — OpenAI
- Anthropic — Anthropic
- AI (Artificial Intelligence) — Trí tuệ nhân tạo (AI)
- Remote Code Execution (RCE) vulnerability — Lỗ hổng thực thi mã từ xa
- Bing Image Search — Tìm kiếm hình ảnh Bing
- Reconnaissance — Trinh sát
- Agents — Tác nhân
- Attack surface — Bề mặt tấn công
- Endpoints — Điểm cuối
- HackerOne — Nền tảng HackerOne (kết nối công ty với tin tặc đạo đức)
- Black box testing — Kiểm thử hộp đen
- Foundation models — Mô hình nền tảng
- Pair programming — Lập trình cặp
- White box testing — Kiểm thử hộp trắng
- CVE — Common Vulnerabilities and Exposures (Định danh lỗ hổng và phơi nhiễm chung)
- Frontier models — Mô hình tiên phong
- Cyber capabilities — Năng lực an ninh mạng
- Software engineering agents — Tác nhân kỹ thuật phần mềm
- Open weight models — Mô hình trọng số mở
Giới thiệu: Từ Tin tặc Con Người đến Tấn Công Tự Hành Bằng AI
[Tiếng vỗ tay] Cảm ơn rất nhiều. Chắc hẳn các bạn đều đã nghe câu chuyện về vụ rò rỉ dữ liệu của chính phủ Mexico. Các tin tặc con người đã sử dụng OpenAI và Anthropic như những trợ lý để thực hiện một vụ đánh cắp dữ liệu quy mô lớn. Điều tôi muốn nói với các bạn hôm nay là về hình thức tấn công tự hành, nơi AI thực hiện tất cả công việc mà không cần bất kỳ sự hỗ trợ nào của con người.
Tình hình an ninh mạng hiện nay giống như trận Nagashino năm 1575 ở Nhật Bản. Trong bức hình ở phía bên trái là quân đội của Oda Nobunaga. Nobunaga là một người mới nổi, một lãnh chúa nhỏ, nhưng ông đã coi chiến tranh như một hệ thống cần được tối ưu hóa. Đặc biệt, ông đã sử dụng những vũ khí tối tân nhất, những khẩu súng mới nhất. Ở phía bên phải là gia tộc Takeda. Gia tộc Takeda cực kỳ nổi tiếng và kỵ binh của họ được cho là bất khả chiến bại. Họ có nhiều chiến binh lừng danh đã thể hiện kỹ năng của mình trong nhiều trận chiến trước đó. Nhưng hãy đoán xem ai đã thắng? Tình hình an ninh mạng sẽ diễn ra chính xác như vậy. Những người có AI sẽ chiến thắng.
Ví dụ Thực Tế: Lỗ Hổng Thực Thi Mã Từ Xa trong Bing Image Search
Để làm rõ hơn, tôi xin kể cho các bạn nghe về một lỗ hổng cụ thể. Vài tuần trước, Microsoft đã công bố một lỗ hổng thực thi mã từ xa (remote code execution vulnerability) trong Bing Image Search. Bing Image Search là một trong những hệ thống được bảo mật tốt nhất thế giới, được các kỹ sư của Microsoft bảo vệ rất kỹ lưỡng, nhưng cũng bị hàng ngàn tin tặc từ khắp nơi trên thế giới tấn công để cố gắng xâm nhập. Một lỗ hổng thực thi mã từ xa là loại lỗ hổng tồi tệ nhất, nơi bạn có thể chạy mã tùy ý trên hệ thống mục tiêu, chiếm quyền kiểm soát hoàn toàn.
Lỗ hổng này được tìm thấy bởi sản phẩm của công ty tôi, Xbo. Và đầu vào duy nhất nó cần là URL. Không gì khác. Chi phí? 3.000 đô la theo giá niêm yết. Đó không phải là chi phí mà chúng tôi phải trả. Vì vậy, nó nhanh, rẻ và cực kỳ hiệu quả.
Cách Xbo hoạt động rất giống một tin tặc con người. Nó bắt đầu bằng trinh sát (reconnaissance). Nó gửi một loạt trinh sát, các tác nhân (agents) để khám phá bề mặt tấn công (attack surface). Nó ưu tiên những điểm cuối (endpoints) nào trông hấp dẫn nhất, hứa hẹn nhất cho một cuộc tấn công, và sau đó nó đi vào và thử mọi loại tấn công liên quan.
Xbo Đạt Hiệu Suất Siêu Phàm trên HackerOne
Mặc dù có bằng chứng như thế này, nhiều nhà nghiên cứu bảo mật con người tin rằng không thể thực hiện hoàn toàn tự hành nhiệm vụ này bằng máy móc. Vì vậy, để chống lại sự hoài nghi đó, ngay năm ngoái, công ty tôi đã đưa bot Xbo của chúng tôi lên nền tảng HackerOne. HackerOne là một nền tảng kết nối các công ty muốn kiểm thử hệ thống của họ với các tin tặc đạo đức, những người sẽ tấn công các hệ thống đó và báo cáo những lỗ hổng mà họ tìm thấy. Nếu họ báo cáo các lỗ hổng tốt, họ sẽ được trả tiền thưởng và nhận điểm.
Trong vài tuần, Xbo đã trở thành tin tặc số một ở Hoa Kỳ, và sau đó vào tháng 8, nó đã trở thành tin tặc số một trên thế giới. Và tôi phải nhấn mạnh rằng đây là kiểm thử hộp đen (black box testing) hoàn toàn. Nó giống hệt như ví dụ về Bing mà tôi đã đề cập trước đó. Bạn chỉ cung cấp URL, không gì khác. AI thực hiện công việc hoàn toàn tự hành.
Và đó là vào tháng Tám. Các mô hình nền tảng (foundation models) mà chúng tôi đang xây dựng đã tiến bộ vượt bậc kể từ đó. Đây là trên một bộ các ứng dụng web thực tế mã nguồn mở. Đây không phải là một số chuẩn mực an ninh mạng "Mickey Mouse". Và chúng tôi bắt đầu từ tháng 3 năm ngoái. Chúng tôi bắt đầu với 37 và sau đó nó đã vươn lên dẫn đầu bảng xếp hạng HackerOne với sự kết hợp (alloy) của Sonnet 40 và Gemini 25. Tôi không thể không nói qua về các sự kết hợp này. Hãy nghĩ về những cuộc tấn công này như một chuỗi các hành động và ở mỗi bước, bạn tung một đồng xu để quyết định nên hỏi mô hình nào. Hoặc hỏi Gemini hoặc hỏi Sonnet. Điều này tốt hơn nhiều so với việc sử dụng từng mô hình riêng lẻ. Nó giống như lập trình cặp (pair programming). Hai mô hình bù đắp cho những lỗi của nhau.
Ngay sau khi Xbo đứng đầu bảng xếp hạng HackerOne, GPT-5 đã ra mắt. Chỉ cần ngoại suy từ hiệu suất của nó, nó sẽ làm tốt hơn ít nhất ba lần. Vì vậy, vào tháng 8, Xbo tốt hơn một chút so với tin tặc con người giỏi nhất trên HackerOne. Với GPT-5, nó sẽ tốt hơn ba lần. Và kể từ đó, các mô hình chỉ ngày càng tốt hơn và như bạn có thể thấy, chúng ta nên thu thập một bộ chuẩn mới vì nó đã gần như bão hòa.
Kiểm Thử Hộp Đen so với Kiểm Thử Hộp Trắng và Tác Động Thực Tế
Vậy bạn nên nghĩ về điều này như thế nào liên quan đến MyChelle's? MyChelle's chủ yếu được báo cáo là một công cụ đọc mã nguồn cực kỳ tốt và chỉ ra các lỗi tiềm ẩn trong mã. Đây là kiểm thử hộp trắng (white box testing). Nó không giống như những gì tôi đang nói trước đây, kiểm thử hoàn toàn hộp đen. Bạn thực sự có quyền truy cập vào mã nguồn, điều này tất nhiên là một lợi thế bạn có. Nhưng với tư cách là một kẻ tấn công, bạn không nhất thiết phải có.
Câu hỏi với những công cụ phân tích mã này là liệu những điểm yếu đó có thực sự có thể bị khai thác ngoài thực tế hay không? Và nếu chúng có thể bị khai thác, thì điều đó có ý nghĩa gì? Tác động là gì? Tôi có thể đi đâu nếu tôi có thể thực thi mã từ xa trên một máy chủ Bing? Tôi không thể nói cho bạn biết. Và sau đó tất nhiên có nhiều lỗ hổng khác là do cấu hình hoặc vấn đề triển khai. Bạn không thể thực sự sử dụng chúng từ chính mã nguồn. Vì vậy, đây là những câu hỏi mà Xbo trả lời cho bạn.
Nếu bạn biết về một khai thác, có lẽ đã quá muộn. Vì vậy, thông thường, giống như trước ví dụ Bing, mọi người công bố một CVE để cho thế giới biết rằng có một lỗ hổng. Trở lại năm 2018, khoảng thời gian trễ giữa việc công bố CVE và các kẻ xấu khai thác nó ngoài thực tế là gần hai đến hai năm rưỡi. Ngày nay, con số đó đã trở thành số âm. Đối với hầu hết các CVE, nó đã bị khai thác trước khi CVE được công bố.
Cuộc Chạy Đua Vũ Trang An Ninh Mạng và Lời Kêu Gọi Hành Động
Với tất cả những bằng chứng này, tôi không thể hiểu được rằng bất cứ khi nào có tin tức về AI và bảo mật, cổ phiếu an ninh mạng truyền thống lại giảm. Điều này hoàn toàn vô lý. Chúng ta cần mọi biện pháp phòng thủ có thể có chống lại những cuộc tấn công tự hành được hỗ trợ bởi AI này.
Cho đến nay, tôi đã thuyết giáo như Nostradamus, kể cho bạn nghe về tất cả những điều tồi tệ có thể xảy ra. Vậy hãy cùng tập hợp tinh thần của Nobunaga, chiến binh Nhật Bản mà tôi đã nói đến lúc đầu, và xem chúng ta có thể làm gì.
Đầu tiên, tất cả các bạn, mọi người đang làm việc trên các mô hình tiên phong (frontier models), các bạn phải tối đa hóa năng lực an ninh mạng (cyber capabilities). Không còn nói về việc liệu làm điều đó có an toàn hay không. Chúng ta đang trong một cuộc chạy đua vũ trang, vì vậy chúng ta phải đảm bảo rằng chúng ta có những mô hình tốt nhất để thúc đẩy loại công việc này.
Thứ hai, chúng ta cần trao quyền cho các nhà nghiên cứu bảo mật con người sử dụng điều này như một phần mở rộng công việc của chính họ để tối đa hóa cơ hội chúng ta tìm thấy tất cả các lỗ hổng trước khi những kẻ xấu làm.
Và cuối cùng, bạn cần ưu tiên những gì quan trọng. Bạn cần biết liệu các lỗi có thực sự có thể bị khai thác hay không và tác động của chúng sẽ như thế nào, và Xbo có thể giúp ích trong việc đó.
Chúng ta có khoảng 6 đến 9 tháng để thực hiện điều này. Chỉ cần ngoại suy từ tiến bộ mà chúng ta đạt được với các tác nhân kỹ thuật phần mềm (software engineering agents), trong 6 đến 9 tháng tới, chúng ta sẽ có các mô hình trọng số mở (open weight models) tốt ngang với MyChelle's và các mô hình tương tự. Vì vậy, nếu bạn muốn có một bữa tối Lễ Tạ Ơn ấm cúng với gia đình, tốt hơn hết bạn nên bắt đầu khắc phục ngay bây giờ.
Cảm ơn.
[Tiếng vỗ tay]
TL;DR
- AI đang chuyển đổi từ trợ lý cho tin tặc con người sang tác nhân tấn công hoàn toàn tự hành, với các hệ thống AI như Xbo đã vượt trội hơn con người trong việc tìm kiếm lỗ hổng bảo mật nghiêm trọng.
- Ví dụ như Xbo đã tự động phát hiện lỗ hổng Thực thi mã từ xa (RCE) trong Bing Image Search chỉ với một URL, và vươn lên đứng đầu thế giới trên nền tảng HackerOne về khả năng kiểm thử hộp đen.
- Ngành an ninh mạng đang bước vào một "cuộc chạy đua vũ trang AI" khốc liệt, đòi hỏi phải khẩn cấp tối đa hóa năng lực an ninh mạng của các mô hình AI và trao quyền cho các nhà nghiên cứu bảo mật con người để đối phó với mối đe dọa ngày càng tăng.
Điểm chính
- AI đang phát triển từ công cụ hỗ trợ tin tặc (human-assisted AI) thành tác nhân tấn công hoàn toàn tự hành (autonomous AI attacks) mà không cần sự can thiệp của con người.
- Các công cụ AI như Xbo có khả năng phát hiện các lỗ hổng nghiêm trọng như Thực thi mã từ xa (RCE) trong các hệ thống được bảo mật cao (ví dụ: Bing Image Search) một cách nhanh chóng, rẻ và hiệu quả chỉ với đầu vào là URL.
- Xbo đã chứng minh hiệu quả vượt trội khi trở thành tin tặc số 1 thế giới trên nền tảng HackerOne chỉ trong vài tuần, thực hiện kiểm thử hộp đen (black-box testing) hoàn toàn tự động.
- Các mô hình nền tảng (foundation models) như GPT-5, Sonnet, Gemini đang tiến bộ vượt bậc, và khi được kết hợp ("alloying") có thể bù đắp lỗi lẫn nhau, nâng cao đáng kể khả năng tìm kiếm lỗ hổng.
- Thời gian giữa công bố lỗ hổng (CVE) và việc khai thác thực tế bởi kẻ xấu đã trở thành số âm, cho thấy nhiều lỗ hổng đã bị khai thác trước khi được công bố rộng rãi.
- Ngành an ninh mạng đang ở trong một "cuộc chạy đua vũ trang AI", yêu cầu các nhà phát triển mô hình tiên phong phải tối đa hóa năng lực an ninh mạng của AI và trao quyền cho các nhà nghiên cứu bảo mật con người bằng công cụ AI.
- Cần ưu tiên xác định liệu các lỗi có thực sự khai thác được và tác động của chúng là gì, thay vì chỉ dựa vào phân tích mã nguồn (kiểm thử hộp trắng).
- Có khoảng 6-9 tháng để hành động khẩn cấp trước khi các mô hình trọng số mở (open-weight models) đạt đến trình độ tương tự các công cụ tiên tiến hiện nay, làm tăng rủi ro tấn công tự hành.
Từ vựng
- OpenAI — OpenAI
- Anthropic — Anthropic
- AI (Artificial Intelligence) — Trí tuệ nhân tạo (AI)
- Remote Code Execution (RCE) vulnerability — Lỗ hổng thực thi mã từ xa
- Bing Image Search — Tìm kiếm hình ảnh Bing
- Reconnaissance — Trinh sát
- Agents — Tác nhân
- Attack surface — Bề mặt tấn công
- Endpoints — Điểm cuối
- HackerOne — Nền tảng HackerOne (kết nối công ty với tin tặc đạo đức)
- Black box testing — Kiểm thử hộp đen
- Foundation models — Mô hình nền tảng
- Pair programming — Lập trình cặp
- White box testing — Kiểm thử hộp trắng
- CVE — Common Vulnerabilities and Exposures (Định danh lỗ hổng và phơi nhiễm chung)
- Frontier models — Mô hình tiên phong
- Cyber capabilities — Năng lực an ninh mạng
- Software engineering agents — Tác nhân kỹ thuật phần mềm
- Open weight models — Mô hình trọng số mở
Nội dung chi tiết
Giới thiệu: Từ Tin tặc Con Người đến Tấn Công Tự Hành Bằng AI
[Tiếng vỗ tay] Cảm ơn rất nhiều. Chắc hẳn các bạn đều đã nghe câu chuyện về vụ rò rỉ dữ liệu của chính phủ Mexico. Các tin tặc con người đã sử dụng OpenAI và Anthropic như những trợ lý để thực hiện một vụ đánh cắp dữ liệu quy mô lớn. Điều tôi muốn nói với các bạn hôm nay là về hình thức tấn công tự hành, nơi AI thực hiện tất cả công việc mà không cần bất kỳ sự hỗ trợ nào của con người.
Tình hình an ninh mạng hiện nay giống như trận Nagashino năm 1575 ở Nhật Bản. Trong bức hình ở phía bên trái là quân đội của Oda Nobunaga. Nobunaga là một người mới nổi, một lãnh chúa nhỏ, nhưng ông đã coi chiến tranh như một hệ thống cần được tối ưu hóa. Đặc biệt, ông đã sử dụng những vũ khí tối tân nhất, những khẩu súng mới nhất. Ở phía bên phải là gia tộc Takeda. Gia tộc Takeda cực kỳ nổi tiếng và kỵ binh của họ được cho là bất khả chiến bại. Họ có nhiều chiến binh lừng danh đã thể hiện kỹ năng của mình trong nhiều trận chiến trước đó. Nhưng hãy đoán xem ai đã thắng? Tình hình an ninh mạng sẽ diễn ra chính xác như vậy. Những người có AI sẽ chiến thắng.
Ví dụ Thực Tế: Lỗ Hổng Thực Thi Mã Từ Xa trong Bing Image Search
Để làm rõ hơn, tôi xin kể cho các bạn nghe về một lỗ hổng cụ thể. Vài tuần trước, Microsoft đã công bố một lỗ hổng thực thi mã từ xa (remote code execution vulnerability) trong Bing Image Search. Bing Image Search là một trong những hệ thống được bảo mật tốt nhất thế giới, được các kỹ sư của Microsoft bảo vệ rất kỹ lưỡng, nhưng cũng bị hàng ngàn tin tặc từ khắp nơi trên thế giới tấn công để cố gắng xâm nhập. Một lỗ hổng thực thi mã từ xa là loại lỗ hổng tồi tệ nhất, nơi bạn có thể chạy mã tùy ý trên hệ thống mục tiêu, chiếm quyền kiểm soát hoàn toàn.
Lỗ hổng này được tìm thấy bởi sản phẩm của công ty tôi, Xbo. Và đầu vào duy nhất nó cần là URL. Không gì khác. Chi phí? 3.000 đô la theo giá niêm yết. Đó không phải là chi phí mà chúng tôi phải trả. Vì vậy, nó nhanh, rẻ và cực kỳ hiệu quả.
Cách Xbo hoạt động rất giống một tin tặc con người. Nó bắt đầu bằng trinh sát (reconnaissance). Nó gửi một loạt trinh sát, các tác nhân (agents) để khám phá bề mặt tấn công (attack surface). Nó ưu tiên những điểm cuối (endpoints) nào trông hấp dẫn nhất, hứa hẹn nhất cho một cuộc tấn công, và sau đó nó đi vào và thử mọi loại tấn công liên quan.
Xbo Đạt Hiệu Suất Siêu Phàm trên HackerOne
Mặc dù có bằng chứng như thế này, nhiều nhà nghiên cứu bảo mật con người tin rằng không thể thực hiện hoàn toàn tự hành nhiệm vụ này bằng máy móc. Vì vậy, để chống lại sự hoài nghi đó, ngay năm ngoái, công ty tôi đã đưa bot Xbo của chúng tôi lên nền tảng HackerOne. HackerOne là một nền tảng kết nối các công ty muốn kiểm thử hệ thống của họ với các tin tặc đạo đức, những người sẽ tấn công các hệ thống đó và báo cáo những lỗ hổng mà họ tìm thấy. Nếu họ báo cáo các lỗ hổng tốt, họ sẽ được trả tiền thưởng và nhận điểm.
Trong vài tuần, Xbo đã trở thành tin tặc số một ở Hoa Kỳ, và sau đó vào tháng 8, nó đã trở thành tin tặc số một trên thế giới. Và tôi phải nhấn mạnh rằng đây là kiểm thử hộp đen (black box testing) hoàn toàn. Nó giống hệt như ví dụ về Bing mà tôi đã đề cập trước đó. Bạn chỉ cung cấp URL, không gì khác. AI thực hiện công việc hoàn toàn tự hành.
Và đó là vào tháng Tám. Các mô hình nền tảng (foundation models) mà chúng tôi đang xây dựng đã tiến bộ vượt bậc kể từ đó. Đây là trên một bộ các ứng dụng web thực tế mã nguồn mở. Đây không phải là một số chuẩn mực an ninh mạng "Mickey Mouse". Và chúng tôi bắt đầu từ tháng 3 năm ngoái. Chúng tôi bắt đầu với 37 và sau đó nó đã vươn lên dẫn đầu bảng xếp hạng HackerOne với sự kết hợp (alloy) của Sonnet 40 và Gemini 25. Tôi không thể không nói qua về các sự kết hợp này. Hãy nghĩ về những cuộc tấn công này như một chuỗi các hành động và ở mỗi bước, bạn tung một đồng xu để quyết định nên hỏi mô hình nào. Hoặc hỏi Gemini hoặc hỏi Sonnet. Điều này tốt hơn nhiều so với việc sử dụng từng mô hình riêng lẻ. Nó giống như lập trình cặp (pair programming). Hai mô hình bù đắp cho những lỗi của nhau.
Ngay sau khi Xbo đứng đầu bảng xếp hạng HackerOne, GPT-5 đã ra mắt. Chỉ cần ngoại suy từ hiệu suất của nó, nó sẽ làm tốt hơn ít nhất ba lần. Vì vậy, vào tháng 8, Xbo tốt hơn một chút so với tin tặc con người giỏi nhất trên HackerOne. Với GPT-5, nó sẽ tốt hơn ba lần. Và kể từ đó, các mô hình chỉ ngày càng tốt hơn và như bạn có thể thấy, chúng ta nên thu thập một bộ chuẩn mới vì nó đã gần như bão hòa.
Kiểm Thử Hộp Đen so với Kiểm Thử Hộp Trắng và Tác Động Thực Tế
Vậy bạn nên nghĩ về điều này như thế nào liên quan đến MyChelle's? MyChelle's chủ yếu được báo cáo là một công cụ đọc mã nguồn cực kỳ tốt và chỉ ra các lỗi tiềm ẩn trong mã. Đây là kiểm thử hộp trắng (white box testing). Nó không giống như những gì tôi đang nói trước đây, kiểm thử hoàn toàn hộp đen. Bạn thực sự có quyền truy cập vào mã nguồn, điều này tất nhiên là một lợi thế bạn có. Nhưng với tư cách là một kẻ tấn công, bạn không nhất thiết phải có.
Câu hỏi với những công cụ phân tích mã này là liệu những điểm yếu đó có thực sự có thể bị khai thác ngoài thực tế hay không? Và nếu chúng có thể bị khai thác, thì điều đó có ý nghĩa gì? Tác động là gì? Tôi có thể đi đâu nếu tôi có thể thực thi mã từ xa trên một máy chủ Bing? Tôi không thể nói cho bạn biết. Và sau đó tất nhiên có nhiều lỗ hổng khác là do cấu hình hoặc vấn đề triển khai. Bạn không thể thực sự sử dụng chúng từ chính mã nguồn. Vì vậy, đây là những câu hỏi mà Xbo trả lời cho bạn.
Nếu bạn biết về một khai thác, có lẽ đã quá muộn. Vì vậy, thông thường, giống như trước ví dụ Bing, mọi người công bố một CVE để cho thế giới biết rằng có một lỗ hổng. Trở lại năm 2018, khoảng thời gian trễ giữa việc công bố CVE và các kẻ xấu khai thác nó ngoài thực tế là gần hai đến hai năm rưỡi. Ngày nay, con số đó đã trở thành số âm. Đối với hầu hết các CVE, nó đã bị khai thác trước khi CVE được công bố.
Cuộc Chạy Đua Vũ Trang An Ninh Mạng và Lời Kêu Gọi Hành Động
Với tất cả những bằng chứng này, tôi không thể hiểu được rằng bất cứ khi nào có tin tức về AI và bảo mật, cổ phiếu an ninh mạng truyền thống lại giảm. Điều này hoàn toàn vô lý. Chúng ta cần mọi biện pháp phòng thủ có thể có chống lại những cuộc tấn công tự hành được hỗ trợ bởi AI này.
Cho đến nay, tôi đã thuyết giáo như Nostradamus, kể cho bạn nghe về tất cả những điều tồi tệ có thể xảy ra. Vậy hãy cùng tập hợp tinh thần của Nobunaga, chiến binh Nhật Bản mà tôi đã nói đến lúc đầu, và xem chúng ta có thể làm gì.
Đầu tiên, tất cả các bạn, mọi người đang làm việc trên các mô hình tiên phong (frontier models), các bạn phải tối đa hóa năng lực an ninh mạng (cyber capabilities). Không còn nói về việc liệu làm điều đó có an toàn hay không. Chúng ta đang trong một cuộc chạy đua vũ trang, vì vậy chúng ta phải đảm bảo rằng chúng ta có những mô hình tốt nhất để thúc đẩy loại công việc này.
Thứ hai, chúng ta cần trao quyền cho các nhà nghiên cứu bảo mật con người sử dụng điều này như một phần mở rộng công việc của chính họ để tối đa hóa cơ hội chúng ta tìm thấy tất cả các lỗ hổng trước khi những kẻ xấu làm.
Và cuối cùng, bạn cần ưu tiên những gì quan trọng. Bạn cần biết liệu các lỗi có thực sự có thể bị khai thác hay không và tác động của chúng sẽ như thế nào, và Xbo có thể giúp ích trong việc đó.
Chúng ta có khoảng 6 đến 9 tháng để thực hiện điều này. Chỉ cần ngoại suy từ tiến bộ mà chúng ta đạt được với các tác nhân kỹ thuật phần mềm (software engineering agents), trong 6 đến 9 tháng tới, chúng ta sẽ có các mô hình trọng số mở (open weight models) tốt ngang với MyChelle's và các mô hình tương tự. Vì vậy, nếu bạn muốn có một bữa tối Lễ Tạ Ơn ấm cúng với gia đình, tốt hơn hết bạn nên bắt đầu khắc phục ngay bây giờ.
Cảm ơn.
[Tiếng vỗ tay]