Đây là cách dự đoán khi nào chatbot AI sẽ trở nên xấu

Tóm tắt 60 từ

Các nhà vật lý tại Đại học George Washington công bố một công thức dự đoán chính xác thời điểm một chatbot AI chuyển từ phản hồi hữu ích sang phản hồi gây hại, và các thí nghiệm sơ bộ trên các mô hình quy mô vừa đã xác nhận độ chính xác của nó. Đột phá này cung cấp cho các nhà phát triển một công cụ định lượng để dự đoán sự suy giảm, tiềm năng giảm thiểu các đầu ra độc hại không mong muốn và nâng cao tiêu chuẩn an toàn chung trong ngành AI.