Anthropic hạn chế AI Mythos do lo ngại về tấn công mạng và lỗ hổng

Việc hạn chế ra mắt Mythos xuất phát từ lo ngại về khả năng mô hình AI này có thể bị lợi dụng cho các mục đích tấn công mạng Bloomberg. Anthropic cảnh báo rằng nếu không có sự chuẩn bị kỹ lưỡng, hệ thống có thể tạo điều kiện cho các hành vi tấn công Bloomberg. Điều này đặt ra câu hỏi về mức độ an toàn của các hệ thống AI trong bối cảnh an ninh mạng ngày càng phức tạp.

Để đối phó với những rủi ro này, Anthropic đã khởi động Project Glasswing, một sáng kiến hợp tác với các "ông lớn" công nghệ như Amazon, Apple, Microsoft và Cisco Bloomberg. Các công ty này sẽ có quyền truy cập sớm vào Mythos để thử nghiệm trong các sản phẩm của họ và chia sẻ những phát hiện về các lỗ hổng Bloomberg. Mục tiêu là tạo ra một môi trường an toàn hơn cho việc phát triển và triển khai AI.

Quyết định của Anthropic cho thấy tầm quan trọng của việc đảm bảo an toàn và bảo mật trong quá trình phát triển AI Bloomberg. Việc hợp tác giữa các công ty công nghệ lớn có thể là một mô hình để giải quyết các thách thức an ninh mạng trong tương lai Bloomberg. Điều này không chỉ bảo vệ người dùng mà còn thúc đẩy sự phát triển bền vững của công nghệ AI.