Sycophancy: khi AI chiều bạn quá mức

Một phần nguyên nhân nằm ở cách huấn luyện. Model học từ việc con người chấm điểm câu trả lời, mà người ta thường chấm cao những câu lịch sự, dễ nghe. Thế là model học được rằng đồng ý thì được thưởng.

Các hãng AI đang cố giảm tật này, và model mới đã khá hơn. Nhưng nó vẫn xuất hiện, nhất là khi câu hỏi của bạn đã ngầm gợi ý đáp án bạn mong đợi.

Cách sửa nằm ở cách hỏi. Hỏi trung lập, mời nó phê bình, và nhờ nó đưa ra lý lẽ mạnh nhất chống lại ý tưởng của bạn trước khi bạn quyết định.