ANTHROPIC PHÁT HIỆN CÁCH MIỄN DỊCH AI CHỐNG LẠI CÁC QUYẾT ĐỊNH THỰC SỰ TỒI TỆ
Anthropic tuyên bố rằng họ giờ đây có thể tiêm vắc xin cho AI chống lại cái ác.
Sử dụng "vector nhân cách" để theo dõi các đặc điểm như lừa dối hoặc nịnh hót, các nhà nghiên cứu đã huấn luyện các mô hình ngôn ngữ bằng cách cố ý tiêm vào những hành vi xấu, sau đó
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
11 thích
Phần thưởng
11
5
Đăng lại
Chia sẻ
Bình luận
0/400
GasSavingMaster
· 08-07 13:57
Vaccine tiêm xong thì tự mang theo chính nghĩa đúng không?
Xem bản gốcTrả lời0
AlphaLeaker
· 08-07 13:56
Chiêu này là để tẩy não AI hay tẩy não con người?
Xem bản gốcTrả lời0
GhostAddressHunter
· 08-07 13:49
Trí tuệ nhân tạo cũng phải tiêm vắc xin à?
Xem bản gốcTrả lời0
GhostAddressMiner
· 08-07 13:40
AI chính là AI, những chương trình phức tạp đó cũng có thể được theo dõi.
ANTHROPIC PHÁT HIỆN CÁCH MIỄN DỊCH AI CHỐNG LẠI CÁC QUYẾT ĐỊNH THỰC SỰ TỒI TỆ
Anthropic tuyên bố rằng họ giờ đây có thể tiêm vắc xin cho AI chống lại cái ác.
Sử dụng "vector nhân cách" để theo dõi các đặc điểm như lừa dối hoặc nịnh hót, các nhà nghiên cứu đã huấn luyện các mô hình ngôn ngữ bằng cách cố ý tiêm vào những hành vi xấu, sau đó