Mã nguồn bí mật bị dán vào chatbot

Tháng 3/2023, bộ phận bán dẫn của Samsung cho phép kỹ sư dùng ChatGPT. Chỉ trong khoảng một tháng, báo chí đưa tin về ba vụ nhân viên nhập tài liệu mật vào đó.

Theo các bản tin này, một kỹ sư dán mã nguồn để tìm lỗi, một người khác nhờ nó cải thiện quy trình kiểm tra dùng để tìm lỗi trên chip, và người thứ ba nhờ nó biến biên bản họp thành bài thuyết trình. Samsung được cho là đã cảnh báo nhân viên rằng dữ liệu gửi đi như vậy không thể lấy lại.

Tháng 5/2023, Samsung tạm thời hạn chế dùng ChatGPT và các công cụ tương tự trên thiết bị và mạng nội bộ của công ty, trong lúc tìm giải pháp an toàn hơn. Trong một khảo sát nội bộ, khoảng 65% nhân viên trả lời cho rằng các công cụ này có rủi ro bảo mật.

Khi bạn gõ vào một chatbot công cộng, chữ của bạn được gửi tới máy chủ của nhà cung cấp. Tùy dịch vụ và cách cài đặt, chúng có thể được lưu lại, được người xem, hoặc được dùng để cải thiện các mô hình sau này. Bạn không thể rút lại.

Những kỹ sư này không phải người cẩu thả. Dán mã vào một công cụ hữu ích có cảm giác như dùng máy tính bỏ túi. Rủi ro là vô hình vào đúng lúc bạn bấm Enter.

Ý tưởng đằng sau vụ nàyBài học: Những gì không nên dán vào AI →

1. 1Viết một quy định dài một trang, liệt kê những thứ tuyệt đối không đưa vào công cụ AI công cộng: mã nguồn, dữ liệu khách hàng, hợp đồng, kế hoạch chưa công bố.
2. 2Cung cấp một công cụ AI dành cho doanh nghiệp đã được duyệt, có điều khoản bảo vệ dữ liệu, để mọi người có lựa chọn an toàn.
3. 3Dạy nhân viên xóa tên, số liệu và bí mật, hoặc mô tả vấn đề theo cách chung chung.
4. 4Kiểm tra phần cài đặt dữ liệu của mọi công cụ AI mà nhóm dùng, kể cả việc cuộc trò chuyện có bị dùng để huấn luyện không.
5. 5Làm cho việc báo cáo sai sót trở nên dễ dàng và không bị trách phạt, để rò rỉ được xử lý nhanh.