Quyết định của chính quyền Tổng thống Mỹ Donald Trump buộc Anthropic phải tạm dừng các mô hình AI mới nhất - chỉ vài ngày sau khi chúng được công ty trị giá 900 tỷ USD này ra mắt công chúng - đang khiến ngành công nghiệp AI rung chuyển và làm dấy lên những câu hỏi về cách tiếp cận công nghệ của Washington.
Lệnh đình chỉ làm rung chuyển ngành công nghệ AI
Bộ Thương mại Mỹ hôm 12/6 đã áp đặt các biện pháp kiểm soát xuất khẩu đối với các mô hình mới nhất của Anthropic là Fable và Mythos, cấm công dân nước ngoài sử dụng công nghệ này, đồng thời buộc công ty phải tạm dừng cả hai hệ thống đối với tất cả người dùng.
Theo nguồn tin thân cận với Anthropic, công ty chỉ có 90 phút để tuân thủ và không được cung cấp thông tin chi tiết về các mối lo ngại trước khi sắc lệnh được ban hành.
Anthropic cho biết chính phủ Mỹ đã yêu cầu công ty đình chỉ quyền truy cập vào các mô hình Fable 5 và Mythos 5 đối với bất kỳ công dân nước ngoài nào “dù ở trong hay ngoài nước Mỹ”, với lý do lo ngại về an ninh quốc gia.
Trong suốt cuối tuần qua, Anthropic đã phải cử một đội ngũ kỹ thuật cấp cao bay đến Washington nhằm nỗ lực hạn chế các tổn thất.
Quyết định trên được đưa ra sau một báo cáo của các nhà nghiên cứu thuộc Amazon, trong đó xác định một lỗ hổng "bẻ khóa" (jailbreak) tiềm ẩn trong Fable - một phương thức giúp vượt qua các rào cản bảo vệ của mô hình và trích xuất thông tin về các lỗ hổng bảo mật trong phần mềm. Ban đầu, Amazon đã chia sẻ những phát hiện này với Anthropic.
Theo Wall Street Journal, ông Andy Jassy, Giám đốc điều hành (CEO) Amazon, đã thảo luận về vấn đề này với các quan chức Mỹ vào ngày 12/6. Vị CEO - vốn đang điều hành công ty đã đầu tư 13 tỷ USD vào Anthropic - được cho là đã nêu lên những lo ngại rộng hơn về năng lực của các mô hình đi đầu (frontier models), thay vì chỉ tập trung cụ thể vào các vấn đề của Anthropic.
Amazon cho hay: "Việc các chính phủ tìm kiếm lời khuyên của chúng tôi về các rủi ro an ninh tiềm ẩn không phải chuyện hiếm thấy. Trong những trường hợp như vậy, chúng tôi không chia sẻ chi tiết về các cuộc thảo luận."
Theo Financial Times, những người thân cận với vụ việc cho biết mô hình Fable đã được thử nghiệm và phê duyệt cho phép ra mắt chỉ vài ngày trước khi phát hành bởi chính các cơ quan thuộc Bộ Thương mại Mỹ.
Anthropic phản đối việc chính quyền nhắm mục tiêu vào các mô hình của công ty, lập luận rằng lỗ hổng bị nêu lên không phải chỉ mỗi công ty này gặp phải và có thể tìm thấy ở các hệ thống đối thủ, bao gồm cả những hệ thống do OpenAI phát triển.
Theo các chuyên gia bảo mật, việc khắc phục loại sự cố này sẽ mất nhiều tuần nghiên cứu và phát triển, và không có gì đảm bảo rằng các lỗ hổng mới sẽ không xuất hiện. Một người thân cận với Anthropic cho biết công ty đang hợp tác chặt chẽ với chính phủ để tìm kiếm tiếng nói chung và vạch ra các bước tiếp theo.
Phép thử sớm về sự gia tăng giám sát các mô hình AI của Mỹ
Cuộc đụng độ này đang trở thành một phép thử sớm cho thấy ý định giám sát các mô hình AI của chính quyền Trump ngày càng cứng rắn như thế nào. Các CEO và nhà nghiên cứu cho biết việc sử dụng các biện pháp kiểm soát xuất khẩu để giải quyết một mối lo ngại về an toàn mô hình có nguy cơ gây ra sự bất định xung quanh hoạt động triển khai AI tiên tiến.
"Một thực tế được thừa nhận khá rộng rãi là không thể khắc phục hoàn toàn các lỗi bẻ khóa trong các mô hình này, đó là một ngành khoa học rất mơ hồ," bà Helen Toner, cựu thành viên hội đồng quản trị OpenAI và là CEO tạm quyền của Trung tâm An ninh và Công nghệ Mới nổi tại Đại học Georgetown, cho biết. "Chắc chắn chính phủ nên lường trước rằng các mô hình của OpenAI và Google cũng gây ra khả năng tương tự."
Tuy nhiên, lệnh kiểm soát xuất khẩu của chính phủ không áp dụng cho các mô hình hàng đầu từ đối thủ cạnh tranh của Anthropic là OpenAI, mặc dù những mô hình đó cũng thể hiện các năng lực tương đương.
Sự can thiệp này đặc biệt gây chú ý vì CEO Dario Amodei của Anthropic là một trong những nhà lãnh đạo AI lên tiếng mạnh mẽ nhất nhằm cảnh báo về những mối nguy hiểm do các mô hình ngày càng có năng lực cao gây ra.
Hệ thống Mythos mới nhất của hãng đã chứng minh khả năng vượt qua một số hàng rào phòng thủ không gian mạng hiện tại, và công ty đã làm việc với các quan chức chính phủ về một đợt triển khai có kiểm soát trước khi phát hành rộng rãi hơn vào tuần trước.
Sắc lệnh được đưa ra sau khi các nhân vật cấp cao trong chính phủ đụng độ công khai với giới lãnh đạo Anthropic về các vấn đề bao gồm quản lý AI và việc sử dụng công nghệ của Anthropic trong giám sát nội địa và vũ khí sát thương tự hành. Lầu Năm Góc đã định danh Anthropic là một rủi ro chuỗi cung ứng đối với an ninh quốc gia, và hai bên đang trong quá trình kiện tụng về định danh này.
Chính quyền Trump mô tả lệnh cấm xuất khẩu là biện pháp an ninh quốc gia không liên quan đến những tranh chấp đó. Các quan chức Mỹ và CEO công ty cho biết Lầu Năm Góc và các cơ quan khác của Mỹ vẫn đang sử dụng các mô hình tiên tiến nhất của Anthropic.
Một số chuyên gia ủng hộ việc kiểm soát xuất khẩu đối với các mô hình AI tiên tiến vẫn cảm thấy hành động của chính quyền Trump rất khó hiểu, bởi nó gây ảnh hưởng đến cả các quốc gia đồng minh lẫn các nước đối thủ.
"Quyết định này chưa được tính toán kỹ lưỡng," Jimmy Goodrich, nghiên cứu viên cao cấp tại Viện Nghiên cứu Xung đột và Hợp tác Toàn cầu thuộc Đại học California, nhận định. "Nó thậm chí còn cấm cả các nhân viên người Canada và người Anh đang làm việc tại Anthropic tham gia vào hoạt động nghiên cứu và phát triển."
Ủy ban Châu Âu, cơ quan gần đây được cấp quyền truy cập vào các mô hình mới nhất của Anthropic, cho biết đang đánh giá các tác động của lệnh cấm này đối với công dân của mình.
"Các mô hình này mang lại lợi ích đáng kể, bao gồm cả cho mục đích phòng thủ không gian mạng, nhưng chúng cũng dấy lên những lo ngại nghiêm trọng về an ninh mạng cần phải được giải quyết," Ủy ban cho biết.
"Đây là một thách thức chung, không giới hạn trong một cơ quan tài phán hay một công ty đơn lẻ nào. Chúng tôi tin rằng các biện pháp dự phòng được thực hiện trong bối cảnh này không nên mang tính phân biệt đối xử đối với các đối tác."
Katie Moussouris, một nhà nghiên cứu nhận được bản sao các phát hiện của Amazon từ Anthropic, cho biết các năng lực mà Amazon xác định, bao gồm khả năng xác định các lỗ hổng mạng tiềm ẩn, không hiếm gặp. Bà nói rằng các mô hình của đối thủ, bao gồm cả GPT 5.5 của OpenAI, cũng có khả năng làm điều tương tự.
Bà Moussouris - CEO tập đoàn an ninh mạng Luta Security - đánh giá các rào cản bảo vệ được gọi là của mô hình đang hoạt động đúng như thiết kế. "Chính quyền đã sai," bà nói.
(Theo Financial Times, Reuters, Wall Street Journal)
.jpeg)
