Công ty trí tuệ nhân tạo (AI) Anthropic của Mỹ đang tìm kiếm một chuyên gia về vũ khí hóa học và chất nổ liều cao để ngăn chặn việc "lạm dụng thảm khốc" phần mềm của mình BBC News. Động thái này cho thấy những lo ngại về việc các công cụ AI có thể bị sử dụng để hướng dẫn chế tạo vũ khí nguy hiểm BBC News. Anthropic muốn đảm bảo các biện pháp bảo vệ của mình đủ mạnh mẽ để ngăn chặn điều này BBC News.
Công ty AI Anthropic tìm kiếm chuyên gia vũ khí để ngăn người dùng 'lạm dụng
Tóm tắt bởi AI
1 nguồnĐiểm chính
- Anthropic tuyển chuyên gia vũ khí để ngăn chặn lạm dụng AI vào mục đích chế tạo vũ khí [1]
- Công ty AI lo ngại các công cụ có thể hướng dẫn chế tạo vũ khí nguy hiểm [1]
- Vị trí tuyển dụng yêu cầu kinh nghiệm về vũ khí hóa học và chất nổ [1]
Tuyển dụng chuyên gia
Anthropic đang tìm kiếm một chuyên gia có kinh nghiệm tối thiểu năm năm trong "phòng thủ vũ khí hóa học và/hoặc chất nổ" BBC News. Ứng viên cũng cần có kiến thức về "thiết bị phát tán phóng xạ" BBC News. Công ty cho biết vai trò này tương tự như các công việc trong các lĩnh vực nhạy cảm khác mà họ đã tạo ra BBC News.
Lo ngại về lạm dụng AI
Công ty lo sợ rằng các công cụ AI có thể chỉ dẫn cho ai đó cách chế tạo vũ khí hóa học hoặc phóng xạ BBC News. Điều này cho thấy những lo ngại ngày càng tăng về việc lạm dụng công nghệ AI BBC News. Các công ty đang tìm cách chủ động ngăn chặn những rủi ro tiềm ẩn BBC News.
Các công ty khác cũng hành động
Anthropic không phải là công ty AI duy nhất áp dụng chiến lược này BBC News. OpenAI, nhà phát triển ChatGPT, cũng đã đăng tuyển một vị trí tương tự BBC News. Động thái này cho thấy sự quan tâm ngày càng tăng của ngành công nghiệp AI đối với các vấn đề an ninh BBC News.
Nghe tóm tắt
Tính năng nghe audio — sắp ra mắt
