Dịch vụ AI trên cloud và quyền riêng tư dữ liệu

Mỗi nhà cung cấp lớn đều cho truy cập mô hình ngôn ngữ lớn và các loại AI khác qua cloud của mình: Amazon Bedrock trên AWS, các dịch vụ Azure AI của Microsoft trong đó có Azure OpenAI, và Vertex AI trên Google Cloud. Bạn gọi mô hình qua API, nằm trong cùng tài khoản, cùng mạng và cùng cơ chế phân quyền với các hệ thống khác của bạn.

Họ cũng cung cấp các khối xây dựng xung quanh mô hình: tìm kiếm trên tài liệu của riêng bạn, agent, công cụ đánh giá và bộ lọc nội dung.

Dùng mô hình qua tài khoản cloud thường đi kèm điều khoản doanh nghiệp: prompt và kết quả không được dùng để huấn luyện mô hình của nhà cung cấp, dữ liệu có thể nằm trong region đã chọn, và quyền truy cập được kiểm soát bằng cùng IAM như mọi thứ khác. Đó thường là điều bộ phận pháp lý và bảo mật cần trước khi duyệt cho dùng AI.

Hãy đọc điều khoản thật của dịch vụ và region bạn dùng. Đừng đoán; tính năng, region và cách xử lý dữ liệu khác nhau giữa các mô hình.

Hỏi bốn câu. Dữ liệu được xử lý và lưu ở đâu? Có bị dùng để huấn luyện không? Prompt và kết quả có được ghi log không, ai ghi, và giữ bao lâu? Ai trong công ty được gọi mô hình này và xem log?

Không đưa dữ liệu cá nhân và dữ liệu bí mật vào prompt trừ khi dịch vụ đã được duyệt cho loại dữ liệu đó. Áp dụng đặc quyền tối thiểu cho endpoint AI giống như với một cơ sở dữ liệu.

Lượt gọi AI thường tính giá theo token, mô hình lớn hơn thì đắt hơn. Một vòng lặp hay một app đông người dùng có thể tiêu tiền rất nhanh, nên hãy đặt cảnh báo ngân sách và hạn mức. Bắt đầu với mô hình nhỏ nhất làm tốt được việc.