Millennium - Anthropic: Khi AI vào phòng rủi ro, ngành blockchain nhìn thấy điều gì?

Millennium Management vừa công bố hợp tác với Anthropic, công ty đứng sau mô hình Claude, để phát triển một “chuyên viên phân tích rủi ro” được dẫn dắt bởi AI. Bản tin ngắn gọn, không có tham số kỹ thuật, không có benchmark, không có bản mô tả kiến trúc, không có tên người phụ trách. Chỉ có hai chữ lặp lại: rủi ro và AI. Với một người làm kiểm toán hợp đồng thông minh, một bản tin như vậy không khiến tôi tò mò. Nó khiến tôi cảnh giác. Tôi đã nhìn thấy quá nhiều dự án blockchain huy động tiền bằng một trang web đẹp và một bản white paper dày, nhưng không có một dòng mã nào để kiểm tra. Bây giờ, ngành quỹ phòng hộ đang bắt đầu chơi cùng một ván bài. Câu hỏi tôi đặt ra không phải là “AI có thay thế được nhà phân tích rủi ro không?”. Câu hỏi tôi đặt ra là: khi một quỹ đầu tư quá lớn đến mức không thể mắc sai lầm, họ sẽ kiểm soát con AI của chính họ bằng cách nào? Và nếu không có câu trả lời rõ ràng, liệu thị trường có đang mua một câu chuyện đẹp thay vì một hệ thống đã được chứng minh? Lỗ hổng không hề nằm ở logic, mà nằm ở lòng tin. Millennium không phải là một quỹ nhỏ thích làm màu công nghệ. Đây là một trong những quỹ phòng hộ đa chiến lược lớn nhất thế giới, với lượng tài sản quản lý lên đến hàng chục tỷ đô la. Họ nổi tiếng vì kỷ luật vận hành, vì hệ thống quản trị rủi ro nhiều tầng và vì việc không ngại chi tiền cho những công cụ có thể giúp họ tránh được tổn thất. Anthropic cũng không phải là một công ty AI xa lạ. Họ đã tạo ra Claude, một trong những mô hình ngôn ngữ lớn có khả năng đọc hiểu văn bản dài và suy luận phức tạp. Họ đang cạnh tranh trực tiếp với OpenAI và Google trong cuộc đua đưa AI vào doanh nghiệp. Vì vậy, khi hai thực thể này bắt tay nhau, thị trường có quyền kỳ vọng. Nhưng kỳ vọng cần phải dựa trên dữ liệu, không phải dựa trên tên tuổi. Bài viết gốc không cho chúng ta dữ liệu. Nó không nói rõ Millennium sẽ dùng công nghệ của Anthropic để phân tích loại rủi ro nào, là rủi ro thị trường, rủi ro tín dụng, rủi ro thanh khoản hay rủi ro hoạt động. Nó không nói rõ AI này sẽ độc lập đến mức nào, có quyền đưa ra quyết định gì, hay chỉ đơn thuần là một trợ lý đọc tài liệu. Nó cũng không nói rõ liệu mô hình có khả năng giải trình hay chỉ là một hộp đen. Những câu hỏi đó không phải là chi tiết kỹ thuật thừa. Chúng là cốt lõi của bất kỳ hệ thống quản trị rủi ro nào. Tôi nhớ năm 2017, tôi mới vào nghề kiểm toán bảo mật. Một dự án ICO nhờ tôi xem lại hợp đồng thông minh của họ. Tôi dành hai tuần đọc từng dòng code, tìm ra một lỗi reentrancy trong hàm rút tiền và viết một báo cáo dài với mã khai thác mẫu. Tôi cảm thấy chiến thắng. Nhưng một đồng nghiệp cấp cao nói với tôi một câu mà tôi nhớ đến bây giờ: “Em tìm ra lỗi, nhưng vấn đề không phải là lỗi. Vấn đề là tại sao hệ thống lại được thiết kế theo cách cho phép lỗi tồn tại.” Câu nói đó thay đổi cách tôi nhìn về toàn bộ ngành tài chính phi tập trung. Một hệ thống an toàn không phải là một hệ thống không có lỗi. Một hệ thống an toàn là một hệ thống biết rõ giới hạn của chính nó, có cơ chế phát hiện lỗi, có quy trình xử lý lỗi và có con người chịu trách nhiệm khi lỗi vượt khỏi tầm kiểm soát. AI risk analyst của Millennium cũng phải được đánh giá theo cách đó. Thoạt nhìn, sự kết hợp này rất hợp lý. Phòng rủi ro của một quỹ phòng hộ đa chiến lược phải xử lý lượng lớn dữ liệu phi cấu trúc: báo cáo tài chính, hồ sơ pháp lý, tin tức vĩ mô, biên bản cuộc họp, email môi giới và các tín hiệu chính sách. Claude rất mạnh trong việc tóm tắt, trích xuất thông tin và phát hiện sự bất thường trong văn bản. Một mô hình như vậy có thể giúp các nhà phân tích rủi ro quét hàng nghìn trang tài liệu nhanh hơn nhiều so với việc đọc thủ công. Nhưng việc đánh giá rủi ro không chỉ là đọc. Nó bao gồm việc tính toán giá trị rủi ro, đo lường độ biến động, kiểm tra sự phụ thuộc giữa các tài sản, mô phỏng các kịch bản khủng hoảng và xây dựng các hạn mức đầu tư. Đó là những tác vụ đòi hỏi số liệu chứ không chỉ văn bản. Một mô hình ngôn ngữ lớn không thể tự tính toán VaR một cách chính xác nếu không được kết nối với một công cụ tính toán, một cơ sở dữ liệu và một quy trình kiểm tra chéo. Vì vậy, tôi tin rằng hệ thống mà Anthropic và Millennium đang cùng phát triển sẽ không phải là một mô hình AI duy nhất. Nó sẽ là một đường ống dữ liệu phức tạp, bao gồm nhiều lớp: Lớp đầu tiên là dữ liệu đầu vào. Các nguồn dữ liệu về thị trường, về danh mục đầu tư, về dòng tiền và về tin tức phải được làm sạch, chuẩn hóa và lưu trữ ở một nơi mà mô hình có thể truy cập. Lớp thứ hai là mô hình ngôn ngữ. Claude sẽ đóng vai trò là bộ não đọc hiểu và suy luận, nhưng nó cần một lớp truy xuất thông tin để tìm đúng tài liệu liên quan đến câu hỏi rủi ro. Kỹ thuật này thường được gọi là RAG, tức là tạo sinh với truy xuất tăng cường. Lớp thứ ba là lớp tính toán. Các con số như biến động giá, tương quan giữa các tài sản hay mức độ rủi ro danh mục cần được tính bằng các mô hình định lượng. AI sẽ không tính toán chúng theo kiểu suy luận ngôn ngữ, mà sẽ gọi các hàm số, truy vấn cơ sở dữ liệu và lấy kết quả từ các công cụ chuyên dụng. Lớp thứ tư là lớp kiểm soát. Trước khi một khuyến nghị được đưa ra cho nhà đầu tư hoặc cho bộ phận giao dịch, nó phải đi qua các rào cản. Có thể là một nhà phân tích con người xem xét lại. Có thể là một quy tắc kinh doanh. Có thể là một hệ thống cảnh báo tự động. Lớp cuối cùng là bản ghi. Mọi quyết định của AI, mọi dữ liệu được sử dụng và mọi phiên bản mô hình phải được ghi lại để có thể kiểm toán sau này. Nếu một trong các lớp này bị lỗi, toàn bộ hệ thống sẽ sụp đổ, giống như một hợp đồng thông minh có thể bị khai thác thông qua một oracle giá bị thao túng. Trong tài chính phi tập trung, một trong những lỗ hổng lớn nhất mà tôi từng gặp không nằm trong logic hợp đồng, mà nằm ở nguồn dữ liệu giá. Hợp đồng có thể viết rất chặt chẽ, nhưng nếu giá token đến từ một bể thanh khoản nhỏ, kẻ tấn công chỉ cần mua một lượng lớn token để đẩy giá lên hoặc kéo giá xuống, rồi thực hiện giao dịch theo hướng có lợi. Tất cả logic bảo mật bên trong hợp đồng trở nên vô nghĩa vì niềm tin của hệ thống đặt vào một nguồn dữ liệu không đáng tin cậy. AI risk analyst của Millennium cũng phải đối mặt với vấn đề tương tự. Nếu dữ liệu về vị thế giao dịch của quỹ bị sai, nếu dữ liệu thị trường chậm vài phút, nếu tin tức bị nhiễu hoặc bị cố ý bóp méo, thì dù mô hình có thông minh đến đâu, kết quả đưa ra cũng sẽ không phản ánh đúng rủi ro thực tế. Một hệ thống phân tích rủi ro bằng AI không chỉ cần một mô hình tốt, mà còn cần một nguồn dữ liệu trung thực, kịp thời và có thể truy xuất nguồn gốc. Điều này đưa tôi đến một điểm quan trọng: chiến lược của Anthropic và Millennium có thể giống với cách các giao thức DeFi xây dựng hệ thống oracle. Thay vì phụ thuộc vào một nguồn thông tin duy nhất, họ có thể dùng nhiều nguồn dữ liệu và so sánh chéo. Thay vì để mô hình tự do suy luận, họ có thể thiết kế các bước kiểm tra bắt buộc. Thay vì coi AI là người ra quyết định, họ có thể coi AI là một công cụ cảnh báo sớm. Nhưng tôi muốn nhấn mạnh một điều: một AI risk analyst có thể được gọi là hệ thống “phi tập trung” theo nghĩa kỹ thuật, nhưng nếu nó được xây dựng trên một mô hình duy nhất và vận hành trong một quy trình duy nhất, thì đó vẫn là một điểm thất bại đơn lẻ. Từ góc nhìn thương mại, thương vụ này rất có giá trị với Anthropic. Họ đang cần những khách hàng tên tuổi trong lĩnh vực tài chính để chứng minh rằng công nghệ của họ không chỉ dùng để viết code hay trả lời câu hỏi, mà còn có thể tham gia vào những vòng ra quyết định quan trọng bậc nhất trên thị trường. Millennium có thể trả cho họ một khoản phí đủ lớn, có thể lên đến vài triệu đô la mỗi năm, nhưng con số đó chưa quan trọng bằng việc được in tên trên bảng giới thiệu khách hàng. Millennium cũng có lợi. Họ có thể giảm tải cho các nhân viên phân tích cấp thấp, tự động hóa các công việc viết báo cáo, dò tìm dữ liệu bất thường và dành thời gian cho các quyết định phức tạp hơn. Nhưng điều đó không có nghĩa là họ sẽ sa thải hàng loạt nhà phân tích rủi ro. Ít nhất là trong giai đoạn đầu. Có một khả năng mà nhiều người bỏ qua: các hợp đồng kiểu này thường đi kèm các điều khoản rất phức tạp về quyền sở hữu dữ liệu và mô hình. Nếu Millennium cung cấp dữ liệu của họ để huấn luyện lại mô hình Claude, liệu Anthropic có quyền dùng dữ liệu đó để phục vụ một quỹ đối thủ hay không? Nếu có, Millennium sẽ mất lợi thế cạnh tranh. Nếu không, Anthropic sẽ phải xây dựng một hệ thống kiểm soát truy cập rất phức tạp. Đây là một trong những điều khoản mà bản tin không đề cập, nhưng nó quyết định giá trị thực sự của thương vụ. Về mặt pháp lý, một câu hỏi lớn hơn nữa là trách nhiệm. Giả sử AI risk analyst đưa ra một cảnh báo rủi ro, nhưng nhà quản lý quỹ không nghe theo và thị trường đi theo chiều hướng có lợi. Ai chịu trách nhiệm cho khoản lợi nhuận bị bỏ lỡ? Ngược lại, nếu AI đưa ra một khuyến nghị quá thận trọng, khiến quỹ bỏ lỡ cơ hội, thì đó có phải là một sai lầm đáng bồi thường không? Trong thế giới hợp đồng thông minh, mọi thứ có thể được quy về code. Nếu một hàm thực hiện sai, nó thực hiện sai. Nhưng trong AI, không có một dòng code duy nhất để chỉ ra lỗi. Lỗi nằm trong dữ liệu, nằm trong cách huấn luyện, nằm trong cách diễn giải và nằm trong những tình huống mà mô hình chưa từng gặp. Điều đó có nghĩa là việc kiểm toán AI không thể giống với việc kiểm toán hợp đồng thông minh. Khi tôi kiểm toán một hợp đồng thông minh, tôi có thể xác định chính xác hàm nào bị lỗi, dòng nào có thể bị khai thác. Khi kiểm toán một hệ thống AI, tôi chỉ có thể đặt câu hỏi về quy trình, về dữ liệu, về các rào cản và về khả năng giải trình. Vai trò của kiểm toán viên sẽ thay đổi. Trước đây, tôi ngồi đọc từng dòng code. Bây giờ, tôi phải ngồi đọc cả hệ thống: ai cấp quyền cho AI, ai sửa tham số, ai phê duyệt phiên bản mô hình mới, ai có thể ghi đè quyết định của AI, làm thế nào để biết AI đang hoạt động theo đúng thiết kế. Nếu những quy trình đó không được xây dựng từ đầu, thì dù mô hình có xuất sắc đến đâu, hệ thống vẫn yếu, giống như một hợp đồng thông minh hoàn hảo nhưng được triển khai bởi một tài khoản quản trị có một chiếc khóa riêng duy nhất. Một điểm mù khác mà tôi muốn nói đến là sự đồng nhất về hành vi. Trong thị trường tài chính, rủi ro lớn nhất không phải là một người tham gia mắc lỗi. Rủi ro lớn nhất là nhiều người tham gia cùng mắc lỗi theo một hướng. Khi hàng loạt quỹ phòng hộ cùng sử dụng những mô hình AI có nguồn gốc chung để đánh giá rủi ro, họ có thể sẽ đưa ra những quyết định giống nhau vào cùng một thời điểm. Nếu một mô hình nói rằng thanh khoản đang cạn kiệt, các quỹ đồng loạt giảm vị thế. Việc cùng lúc đóng vị thế sẽ làm cạn kiệt thanh khoản thật, khiến dự đoán của mô hình trở thành hiện thực. Điều đó nghe có vẻ hợp lý, nhưng nó tạo ra một vòng xoáy tự củng cố. Tôi đã từng chứng kiến những đợt thanh lý dây chuyền trong tài sản số. Khi giá một tài sản giảm, các vị thế đòn bẩy bị thanh lý, giá tiếp tục giảm, và chu kỳ lặp lại. Trong thế giới AI, cùng một kịch bản có thể xảy ra, nhưng với một biến thể mới: thay vì cùng một cơ chế thanh lý, những người chơi có thể cùng chung một cách nhìn nhận rủi ro. Đây không phải là vấn đề của riêng Anthropic. Bất kỳ công ty nào bán mô hình AI cho nhiều tổ chức tài chính đều có thể tạo ra hiệu ứng đồng nhất. OpenAI cũng vậy, Google cũng vậy. Nhưng Anthropic đang dẫn đầu trong câu chuyện về an toàn AI, vì vậy họ phải chịu trách nhiệm giải thích rõ hơn về cách ngăn chặn rủi ro hệ thống, không chỉ rủi ro của từng khách hàng. Tôi có thể hình dung ra một tương lai nơi các công ty bảo hiểm sẽ không chấp nhận bảo hiểm rủi ro hoạt động cho một quỹ sử dụng AI mà không có cơ chế kiểm toán độc lập. Các nhà đầu tư sẽ hỏi ban điều hành rằng họ kiểm soát mô hình AI bằng cách nào. Và rồi một ngành nghề mới sẽ ra đời: kiểm toán viên mô hình AI tài chính. Nhưng trước khi ngành đó trở thành hiện thực, sẽ có nhiều tổ chức lao vào sử dụng AI vì áp lực cạnh tranh, mà không hiểu hết những gì họ đang mua. Với ngành blockchain, câu chuyện này là một lời nhắc quan trọng. Blockchain đã hứa hẹn thay thế niềm tin bằng mã nguồn. Trên thực tế, blockchain chỉ thay thế một lớp niềm tin bằng một lớp niềm tin khác. Thay vì tin vào ngân hàng, chúng ta tin vào giao thức. Thay vì tin vào nhà môi giới, chúng ta tin vào oracle. Thay vì tin vào bảng cân đối kế toán, chúng ta tin vào nhà phát triển. Và giờ đây, thay vì tin vào nhà phân tích rủi ro là con người, chúng ta được yêu cầu tin vào một mô hình AI. Mô hình đó được tạo ra bởi ai, được kiểm soát bởi ai, và được kiểm toán bởi ai? Đó là những câu hỏi quyết định tất cả. Nếu một quỹ đầu tư nói rằng họ dùng AI để quản trị rủi ro, tôi không phản đối. Nếu họ nói rằng AI đó an toàn vì nó đến từ một công ty AI nổi tiếng, tôi lập tức cảnh giác. Sự nổi tiếng không phải là bằng chứng an toàn. Trong các cuộc kiểm toán, tôi không bao giờ chấp nhận câu trả lời “hợp đồng này do công ty lớn viết”. Tôi yêu cầu được xem cách khóa quản trị được phân quyền, cách kiểm tra ranh giới giữa các chức năng, cách xử lý khi có sự cố. Với AI, các câu hỏi sẽ là: Mô hình có được cấp quyền thực hiện lệnh giao dịch hay chỉ được quyền đưa ra cảnh báo? Dữ liệu nào được phép đưa vào mô hình, và ai chịu trách nhiệm nếu dữ liệu đó sai? Có bao nhiêu con người trong vòng lặp trước khi một khuyến nghị của AI được chuyển thành hành động? Mỗi phiên bản mô hình mới có được kiểm toán lại toàn bộ hay không? Khi AI đưa ra một quyết định bất thường, hệ thống có thể trích xuất toàn bộ chuỗi suy luận để giải thích quyết định đó không? Nếu một khuyến nghị của AI không được con người làm theo và gây ra tổn thất, trách nhiệm thuộc về bên nào? Những câu hỏi này không được trả lời trong bản tin. Vì vậy, cách tốt nhất để đọc thông tin về Millennium và Anthropic không phải là nghĩ về việc AI đã chinh phục được ngành quản trị rủi ro. Cách tốt nhất là nghĩ về một tín hiệu cho thấy các quỹ đầu tư đang chạy đua để không bị bỏ lại phía sau. Điều đó có thể tốt, nhưng nó cũng có thể là một cái bẫy. Khi các công ty AI cạnh tranh để giành hợp đồng từ các định chế tài chính lớn, họ có xu hướng phóng đại năng lực. Họ nói về tiềm năng chứ không nói về hạn chế. Họ trưng ra logo khách hàng. Họ không trưng ra các bài kiểm tra thất bại. Điều đó không có gì mới. Các công ty công nghệ tài chính trước đây cũng làm như vậy. Nhưng với AI, sự phóng đại có hậu quả nghiêm trọng hơn. Vì người ta có xu hướng tin tưởng vào máy móc hơn con người, đặc biệt là khi máy móc được trí tuệ nhân tạo hóa. Một mô hình AI nói với giọng điềm tĩnh và tự tin có thể khiến người đọc tin rằng những gì nó nói là chính xác, ngay cả khi mô hình chỉ đang đoán. Tôi không nói rằng hệ thống do Millennium và Anthropic xây dựng sẽ thất bại. Tôi nói rằng nó sẽ gặp những rào cản mà bản tin không đề cập. Rào cản đầu tiên là dữ liệu. Một quỹ đầu cơ đa chiến lược có dữ liệu nội bộ cực kỳ nhạy cảm. Họ sẽ không vội đưa toàn bộ dữ liệu đó cho một công ty AI bên ngoài. Họ sẽ thử nghiệm trên một phạm vi nhỏ, với dữ liệu đã được ẩn danh hoặc mô phỏng. Rào cản thứ hai là văn hóa. Những nhà phân tích rủi ro lâu năm có thể không tin tưởng một cỗ máy. Họ sẽ phản đối những khuyến nghị khác với trực giác của họ. Nếu AI đúng nhiều hơn sai, lòng tin có thể dần hình thành. Nhưng nếu AI sai chỉ một lần, lòng tin sẽ sụp đổ. Rào cản thứ ba là khung pháp lý. Các cơ quan quản lý chưa có quy định cụ thể về việc sử dụng AI trong quản trị rủi ro. Họ có thể yêu cầu các quỹ chứng minh rằng họ hiểu cách vận hành của AI, rằng họ có thể giải thích các quyết định của AI cho thanh tra, và rằng họ có kế hoạch dự phòng khi AI gặp sự cố. Điều này không dễ dàng với các mô hình học sâu phức tạp. Và rồi đến câu hỏi về tính minh bạch. Trong blockchain, một giao thức được gọi là phi tập trung khi bất kỳ ai cũng có thể kiểm tra mã nguồn và xác minh hành vi. Trong AI, một mô hình được gọi là minh bạch khi có thể giải thích vì sao nó đưa ra kết luận. Nhưng phần lớn các mô hình hiện nay, bao gồm cả những mô hình do Anthropic phát triển, không thực sự giải thích được suy luận của chúng. Chúng đưa ra câu trả lời dựa trên hàng tỷ tham số, và không ai có thể theo dõi chính xác con đường từ câu hỏi đến câu trả lời. Đó là lý do vì sao việc sử dụng AI trong phòng rủi ro cần một lớp kiểm soát rất khác so với việc sử dụng AI trong phòng marketing. Nếu AI trong marketing sai, bạn mất một chiến dịch. Nếu AI trong quản trị rủi ro sai, bạn có thể mất cả quỹ. Vậy điều gì sẽ xảy ra tiếp theo? Theo cách nhìn của tôi, trong vòng sáu đến mười hai tháng tới, chúng ta sẽ thấy một trong ba kịch bản. Kịch bản thứ nhất: Millennium và Anthropic công bố một bài viết kỹ thuật hoặc một báo cáo chi tiết về cách họ xây dựng hệ thống. Họ chia sẻ kết quả kiểm tra, một số ví dụ thực tế và những hạn chế của mô hình. Nếu điều này xảy ra, thị trường có thể tin rằng thương vụ không chỉ là PR. Kịch bản thứ hai: cả hai giữ im lặng. Không có tài liệu kỹ thuật, không có số liệu cụ thể, chỉ có những thông báo tiếp theo về “hợp tác thành công”. Nếu điều này xảy ra, hãy coi đây là một thương vụ tiếp thị. Nó có thể mang lại lợi ích thương mại, nhưng không có ý nghĩa thay đổi hệ thống. Kịch bản thứ ba: một quỹ hoặc công ty khác công bố một thương vụ tương tự với một công ty AI khác. Ngành quỹ phòng hộ bước vào một cuộc đua công nghệ mà không ai thực sự hiểu ai đang dẫn đầu. Khi đó, thị trường không còn mua sản phẩm, mà mua nỗi sợ bị bỏ lại phía sau. Tôi không biết kịch bản nào sẽ xảy ra. Nhưng tôi biết điều này: trong một thị trường tăng, ai cũng hào hứng với những câu chuyện AI kết hợp tài chính. FOMO sẽ đẩy giá trị của các câu chuyện lên cao. Nhưng các hợp đồng thông minh của blockchain đã dạy chúng ta rằng lỗ hổng thường xuất hiện đúng lúc mọi người tin tưởng nhất. Khi một dự án huy động được hàng chục triệu đô la nhưng không ai nhìn thấy mã nguồn, tôi gọi đó là rủi ro. Khi một quỹ đầu tư lớn công bố hợp tác với một công ty AI để phát triển chuyên viên phân tích rủi ro, nhưng không công bố bất kỳ chi tiết kỹ thuật nào, tôi cũng gọi đó là rủi ro. Không phải vì công nghệ không tồn tại. Mà vì người ta chưa chứng minh được nó hoạt động trong điều kiện thử thách thật. Lỗ hổng không hề nằm ở logic, mà nằm ở lòng tin. Và lòng tin trong tài chính là thứ đắt nhất trên thị trường. Bạn không thể mua nó bằng một bản thông cáo báo chí. Nếu tôi là một nhà đầu tư đang xem xét cổ phần của một quỹ đầu cơ sử dụng AI để phân tích rủi ro, tôi sẽ yêu cầu một bản mô tả về quy trình kiểm toán mô hình. Tôi sẽ hỏi ai đã thử nghiệm mô hình trong các kịch bản khủng hoảng, mô hình phản ứng thế nào khi thị trường đi ngược lại dự đoán, và ai là người cuối cùng chịu trách nhiệm. Nếu câu trả lời là “mô hình do công ty AI chúng tôi tin tưởng xây dựng”, tôi sẽ rút tiền. Niềm tin không nên dựa trên tên tuổi. Niềm tin nên dựa trên bằng chứng và quy trình. Điều này áp dụng cho cả blockchain lẫn AI. Trước khi kết thúc, tôi muốn đặt một câu hỏi ngược lại. Nếu AI risk analyst của Millennium thực sự hoạt động tốt, nó sẽ làm gì khi phát hiện ra rủi ro lớn nhất đang nằm ngay trong hệ thống của chính nó? Nếu nó không được thiết kế để tự kiểm tra, liệu nó có cảnh báo đúng lúc không? Một hệ thống rủi ro không thể nhìn thấy rủi ro của chính nó là một hệ thống mù. Câu hỏi đó không chỉ dành cho Millennium và Anthropic. Câu hỏi đó dành cho toàn bộ ngành công nghiệp đang chạy đua tích hợp AI vào tài chính. Chúng ta đang xây dựng một cỗ máy để đo lường rủi ro, nhưng chúng ta quên mất ai sẽ đo lường cỗ máy. Câu trả lời sẽ đến từ các kiểm toán viên, từ các cơ quan quản lý, từ những quy trình thiết kế nghiêm túc và từ những bài kiểm tra căng thẳng thực sự. Và nếu câu trả lời không đến, thì một ngày nào đó, thị trường sẽ dạy chúng ta một bài học đắt giá, giống như nó đã từng dạy cho những ai tin rằng code không thể có lỗi ngay trước khi code vỡ vụn. Millennium và Anthropic có thể thành công. Tôi hy vọng họ thành công, vì một hệ thống quản trị rủi ro tốt hơn sẽ có lợi cho cả ngành. Nhưng hy vọng không phải là một chiến lược đầu tư. Bằng chứng mới là thứ có giá trị. Chúng ta hãy chờ xem họ có công bố bằng chứng, hay chỉ tiếp tục phát hành những bản tin đẹp đẽ. Và khi đó, câu hỏi cuối cùng sẽ không phải là Anthropic có phải là công ty AI giỏi nhất. Câu hỏi cuối cùng sẽ là: hệ thống này có thể bị kiểm toán từ bên ngoài hay không? Nếu không thể kiểm toán, thì đó không phải là một hệ thống kiểm soát rủi ro. Đó chỉ là một câu chuyện về sự kiểm soát, được kể bởi những người đang nắm giữ một niềm tin rất lớn. Và niềm tin ấy, đến lượt nó, chính là rủi ro. Trong blockchain, chúng tôi gọi đó là thiết kế giả định tin cậy. Bất kỳ ai tham gia vào một giao thức đều phải chấp nhận một tập hợp các giả định về những gì họ tin là đúng. Giao thức càng nhỏ về khía cạnh niềm tin thì càng an toàn. Còn trong câu chuyện Millennium và Anthropic, tập hợp giả định tin cậy đang rất lớn: Tin rằng dữ liệu thị trường không bị thao túng. Tin rằng mô hình Claude không bị lạm dụng. Tin rằng đội ngũ kỹ thuật của Millennium có đủ năng lực để diễn giải các kết quả AI. Tin rằng con người sẽ giữ vững quyền kiểm soát cuối cùng. Tin rằng khi xảy ra sai sót, có một quy trình xử lý được xác định rõ ràng. Nếu bất kỳ giả định nào bị vi phạm, hệ thống sẽ sụp đổ theo cách không ai lường trước. Tôi đã dành nhiều năm để tìm kiếm những lỗ hổng trong hợp đồng thông minh. Lỗ hổng lớn nhất không bao giờ là một hàm viết sai. Lỗ hổng lớn nhất là một thiết kế khiến người dùng tin rằng họ không cần phải tin ai. Không có hệ thống nào không cần niềm tin. AI risk analyst của Millennium cũng vậy. Nó sẽ thay đổi cách các quỹ phòng hộ hoạt động, nếu nó được xây dựng đúng. Nhưng trước khi đặt cược vào câu chuyện này, hãy nhớ rằng thị trường đang ở giai đoạn hào hứng. Vào lúc này, nhiều người sẽ nói rằng AI là tương lai, rằng các quỹ không dùng AI sẽ bị bỏ lại, rằng thương vụ Millennium - Anthropic đánh dấu một kỷ nguyên mới. Có thể họ đúng. Nhưng cũng có thể họ chỉ đang lặp lại một câu chuyện cũ: một công nghệ mới xuất hiện, ai cũng muốn nhảy vào, và họ quên mất rằng công nghệ đó cần được kiểm soát bằng những nguyên tắc cũ. Đó là nguyên tắc về trách nhiệm giải trình, về sự minh bạch, về kiểm toán độc lập và về lòng tin có căn cứ. Blockchain đã nhắc chúng ta nhớ rằng mã nguồn không phải là chân lý. Nó chỉ là một tập hợp các quy tắc do con người viết ra, chứa đựng những giả định mà con người tin là đúng. AI cũng vậy. Một mô hình ngôn ngữ lớn không phải là một vị thần. Nó là một tấm gương phản chiếu dữ liệu mà nó được huấn luyện. Nếu dữ liệu chứa đựng những sai lệch, mô hình sẽ khuếch đại sai lệch đó. Nếu dữ liệu không đại diện cho những kịch bản cực đoan, mô hình sẽ mù về những kịch bản cực đoan. Tôi muốn nói rõ: tôi không phản đối việc dùng AI trong quản trị rủi ro. Tôi phản đối việc dùng AI mà không có một lớp kiểm toán đủ mạnh. Và tôi muốn nhìn thấy một thế hệ công cụ kiểm toán cho AI, giống như những bộ khung đánh giá rủi ro mà tôi và đồng nghiệp đã xây dựng cho DeFi. Chúng ta cần những bảng câu hỏi, những bài kiểm tra căng thẳng, những bộ dữ liệu chuẩn để so sánh mô hình này với mô hình khác. Chúng ta cần những kiểm toán viên có khả năng đọc hiểu cả mã nguồn lẫn mô hình thống kê. Chúng ta cần những cơ quan quản lý đặt ra các tiêu chuẩn tối thiểu cho việc sử dụng AI trong quyết định tài chính. Nếu không có những thứ đó, thì thương vụ Millennium - Anthropic chỉ là một cú huỳnh quang trên radar. Nó sáng, đẹp, và có thể gây chú ý. Nhưng khi màn hình tối lại, câu hỏi vẫn còn nguyên: ai thực sự kiểm soát rủi ro? Những người viết ra quy tắc, hay những người tin rằng AI sẽ tự tìm ra quy tắc? Tôi nghĩ câu trả lời nằm ở một nơi mà bản tin không viết: trong phòng họp, nơi các giám đốc rủi ro sẽ yêu cầu nhóm kỹ thuật giải trình từng quyết định. Chỉ khi đó, AI mới xứng đáng ngồi vào bàn quản trị rủi ro. Và chỉ khi đó, lỗ hổng niềm tin mới được thu hẹp. Cho đến lúc đó, hãy đối xử với mọi tuyên bố AI trong tài chính giống như một hợp đồng thông minh chưa được kiểm toán. Dựa trên kinh nghiệm kiểm toán của tôi, điều đó có nghĩa là: hãy tin, nhưng phải kiểm chứng. Và nếu không thể kiểm chứng, hãy chuẩn bị cho kịch bản xấu nhất. Đó không phải là sự bi quan. Đó là một kỷ luật. Một kỷ luật mà ngành blockchain đang học, và ngành tài chính truyền thống sắp phải học.