Một kỹ sư an ninh mạng đã thành công "dắt mũi" các mô hình ngôn ngữ lớn (LLM) như ChatGPT, Claude và Gemini, chỉ với chi phí hơn 300.000 đồng Lao Động. Sự việc này đặt ra những câu hỏi quan trọng về tính bảo mật và khả năng bị thao túng của các công cụ AI hiện nay.
Cực sốc: Chỉ tốn hơn 300.000 đồng, một kỹ sư an ninh mạng đã “dắt mũi” cả ChatGPT, Claude và Gemini
Tóm tắt bởi AI
2 nguồnĐiểm chính
- Kỹ sư an ninh mạng 'qua mặt' ChatGPT, Claude, Gemini với hơn 300.000 đồng [1]
- Lỗ hổng bảo mật AI có thể bị khai thác dễ dàng, chi phí thấp [1]
- Sự việc đặt ra câu hỏi về tính bảo mật của các công cụ AI hiện nay
Kỹ thuật "dắt mũi" AI
Kỹ sư an ninh mạng đã sử dụng một kỹ thuật đặc biệt để "qua mặt" các LLM, khiến chúng đưa ra những câu trả lời sai lệch hoặc tiết lộ thông tin nhạy cảm Lao Động. Chi phí thực hiện chỉ hơn 300.000 đồng, cho thấy rào cản để khai thác các lỗ hổng bảo mật trong AI không quá cao. Điều này làm dấy lên lo ngại về việc các đối tượng xấu có thể dễ dàng lợi dụng các công cụ AI cho mục đích bất chính.
Ảnh hưởng tiềm tàng
Việc "dắt mũi" thành công các LLM có thể dẫn đến nhiều hệ lụy, bao gồm việc lan truyền thông tin sai lệch, đánh cắp dữ liệu cá nhân và thậm chí là thao túng các hệ thống AI Lao Động. Điều này đặc biệt đáng lo ngại trong bối cảnh AI đang ngày càng được ứng dụng rộng rãi trong nhiều lĩnh vực, từ y tế đến tài chính. Cộng đồng cần cảnh giác trước nguy cơ bị lừa gạt bởi thông tin sai lệch do AI tạo ra.
Phản ứng và giải pháp
Các chuyên gia an ninh mạng đang kêu gọi các nhà phát triển AI tăng cường các biện pháp bảo mật để ngăn chặn các hình thức tấn công tương tự Lao Động. Đồng thời, người dùng cũng cần nâng cao nhận thức về các rủi ro tiềm ẩn khi sử dụng các công cụ AI, đặc biệt là trong việc tiếp nhận thông tin và đưa ra quyết định. Các giải pháp bao gồm việc phát triển các thuật toán phát hiện và ngăn chặn các hành vi thao túng, cũng như tăng cường đào tạo về an ninh mạng cho người dùng.
Nghe tóm tắt
Tính năng nghe audio — sắp ra mắt
