Doanh nghiệp đưa AI vào vận hành cần kiểm soát những gì?
AI đã đi xa hơn chatbot
Nhiều doanh nghiệp bắt đầu với ChatGPT, Copilot hoặc một công cụ tạo nội dung. Nhưng mô hình sử dụng AI hiện nay đang thay đổi nhanh.
AI có thể:
- truy cập knowledge base;
- đọc tài liệu nội bộ;
- phân tích khách hàng;
- sinh mã nguồn;
- gọi API;
- tạo ticket;
- gửi email;
- cập nhật hệ thống;
- phối hợp với Agent khác.
Khi đó AI không còn đơn thuần là “công cụ hỗ trợ”.
Nó trở thành một thành phần của quá trình doanh nghiệp.
Và trước khi mở rộng sử dụng, tổ chức cần thiết lập các lớp kiểm soát phù hợp.
1. Xác định AI nào đang tồn tại
Doanh nghiệp không thể quản lý những gì mình không biết.
AI inventory ban đầu có thể ghi:
- AI system;
- mục đích;
- phòng ban;
- owner;
- provider;
- model;
- dữ liệu sử dụng;
- trạng thái.
Với AI Agent, inventory có thể cần sâu hơn:
Agent → Runtime → Protocol → Tool → Dependency → Provider → Version → Trust Boundary.
Mục tiêu không phải làm register thật phức tạp, mà để khi xảy ra sự cố có thể trả lời được:
Agent nào?
Đang sử dụng identity nào?
Có quyền gì?
Truy cập dữ liệu nào?
Gọi công cụ nào?
Có thể revoke ở đâu?
2. Xác định owner
AI không nên được đưa vào production theo kiểu “phòng IT đang quản lý”.
Cần phân biệt:
- Business Owner;
- Process Owner;
- AI System Owner;
- Data Owner;
- Information Asset Owner;
- Technical Owner.
Một người có thể giữ nhiều vai trò, nhưng trách nhiệm phải rõ.
Đây là nền tảng quan trọng của ISO/IEC 42001: AI cần được quản lý như một hệ thống trong tổ chức, không chỉ như một model kỹ thuật.
3. Quản lý dữ liệu và nguồn tri thức
Một trong những câu hỏi quan trọng nhất đối với AI là:
“Câu trả lời này dựa trên nguồn nào?”
Đối với hệ thống sử dụng RAG hoặc knowledge base, doanh nghiệp cần biết:
- source document;
- version;
- ngày cập nhật;
- quyền truy cập;
- nguồn gốc;
- trạng thái hiệu lực.
Nếu tài liệu nguồn đã hết hiệu lực nhưng knowledge layer chưa cập nhật, AI có thể đưa ra câu trả lời rất thuyết phục nhưng sai.
Đây vừa là vấn đề của AI governance, vừa là vấn đề chất lượng.
ISO 9001 cung cấp góc nhìn quan trọng về kiểm soát quá trình và documented information, trong khi ISO/IEC 42001 bổ sung góc nhìn quản trị hệ thống AI.
4. Kiểm soát truy cập
Khi AI Agent bắt đầu gọi tool hoặc API, access control trở thành vấn đề trọng yếu.
Không nên mặc định:
“Agent cần truy cập thì cấp quyền.”
Cần áp dụng các nguyên tắc như:
- least privilege;
- need-to-know;
- segregation of duties;
- approval;
- logging;
- periodic review.
Một Agent hỗ trợ tài chính không nhất thiết cần quyền sửa mọi giao dịch.
Một Agent CSKH không nhất thiết cần đọc toàn bộ hồ sơ khách hàng.
Một coding Agent không nhất thiết phải có production credentials.
Đây là nơi ISO/IEC 27001 và AIMS cần kết nối chặt chẽ.
5. Quản lý secrets
AI Agent hiện đại thường cần:
- API key;
- OAuth token;
- cloud credential;
- database credential;
- service account.
Nếu credential xuất hiện trong prompt, code, log hoặc workspace không được bảo vệ, AI có thể trở thành một đường dẫn mới cho sự cố an toàn thông tin.
Doanh nghiệp cần xác định:
- secrets được lưu ở đâu;
- Agent lấy secrets như thế nào;
- thời hạn credential;
- cơ chế rotation;
- revoke;
- log;
- xử lý sự cố.
6. Validation trước khi hành động
Một Agent tạo draft email khác hoàn toàn một Agent tự gửi email.
Một Agent đề xuất lệnh thanh toán khác hoàn toàn một Agent có quyền thực hiện thanh toán.
Do đó phải xác định rõ mức độ autonomy.
Có thể chia hành động thành:
Low impact: AI tự thực hiện.
Medium impact: AI thực hiện nhưng có monitoring.
High impact: cần human approval.
Validation gate đặc biệt quan trọng đối với:
- thanh toán;
- thay đổi quyền;
- xóa dữ liệu;
- xuất bản nội dung;
- quyết định ảnh hưởng khách hàng;
- thay đổi production.
7. Đo chất lượng đầu ra
AI output không nên được đánh giá bằng cảm giác.
Doanh nghiệp cần xác định tiêu chí như:
- accuracy;
- completeness;
- consistency;
- hallucination rate;
- false positive;
- false negative;
- customer acceptance;
- human correction rate.
Đây là điểm kết nối trực tiếp với tư duy quản lý chất lượng của ISO 9001.
AI có thể rất nhanh nhưng nếu tỷ lệ phải sửa lại cao thì chưa chắc quá trình đã hiệu quả hơn.
8. Quản lý thay đổi
Đây là rủi ro thường bị bỏ sót.
AI application hôm nay có thể khác với chính nó một tháng sau do:
- model upgrade;
- prompt update;
- retraining;
- knowledge update;
- API update;
- plugin update;
- thay đổi tool;
- thay đổi quyền.
Do đó AI change management cần xác định:
- thay đổi nào phải được ghi nhận;
- thay đổi nào cần risk assessment;
- thay đổi nào cần test;
- thay đổi nào cần approval;
- trường hợp nào phải rollback.
“Không thay code” không có nghĩa “hệ thống không thay đổi”.
9. Kiểm soát nhà cung cấp
Rất nhiều AI system phụ thuộc sâu vào bên thứ ba.
Doanh nghiệp nên hiểu:
- dữ liệu được gửi tới đâu;
- provider sử dụng dữ liệu như thế nào;
- dữ liệu được lưu bao lâu;
- model/version có thể thay đổi không;
- service có subcontractor không;
- incident notification thế nào;
- service termination xử lý dữ liệu ra sao.
Supplier governance có thể kết nối cả ISO 9001, ISO/IEC 27001 và ISO/IEC 42001.
10. Xem xét tác động môi trường
Không phải mọi AI project đều tạo ra environmental aspect đáng kể. Tuy nhiên doanh nghiệp không nên mặc định vấn đề này luôn không liên quan.
Nếu tổ chức mở rộng:
- GPU infrastructure;
- data center;
- cloud compute;
- thiết bị;
- energy consumption;
thì environmental management có thể trở thành một phần của quyết định.
ISO 14001:2026 hiện đã được xuất bản và tiếp tục nhấn mạnh việc gắn environmental management với chiến lược, leadership và environmental performance.
Doanh nghiệp đang vận hành ISO 14001 có thể sử dụng chính cơ chế đánh giá khía cạnh môi trường hiện tại để xem xét vấn đề này khi phù hợp.
Một AI system tốt cần nhiều hơn model tốt
Một hệ thống AI thực tế có thể gồm:
Model + Data + Knowledge + Prompt + Agent + Tool + Identity + Workspace + API + Human + Monitoring.
Đánh giá riêng model là chưa đủ.
Ví dụ model có chất lượng cao nhưng knowledge base lỗi thời thì output vẫn sai.
Model an toàn nhưng Agent được cấp quyền quá rộng vẫn tạo rủi ro.
Model chính xác nhưng không có log thì khó điều tra sự cố.
Model tốt nhưng người dùng không được đào tạo thì hệ thống vẫn có thể bị sử dụng sai.
Trước khi đưa AI vào production hãy hỏi 12 câu
- AI này dùng để làm gì?
- Ai là owner?
- AI sử dụng dữ liệu nào?
- Nguồn dữ liệu có được phép sử dụng không?
- AI có quyền truy cập gì?
- AI có thể thực hiện hành động gì?
- Hành động nào cần con người phê duyệt?
- Output được kiểm tra bằng tiêu chí nào?
- Có log đủ để truy vết không?
- Khi model hoặc source thay đổi thì làm gì?
- Khi xảy ra sự cố có thể revoke và isolate ở đâu?
- Khi ngừng sử dụng AI, dữ liệu và quyền được xử lý thế nào?
Nếu doanh nghiệp chưa trả lời được nhiều câu trong số này, AI có thể đang phát triển nhanh hơn hệ thống quản trị.
Doanh nghiệp cần một tiêu chuẩn hay nhiều tiêu chuẩn?
Điều này phụ thuộc vào bối cảnh.
Nếu vấn đề chính là quản trị AI, hãy tìm hiểu chứng nhận ISO/IEC 42001.
Nếu AI đang sử dụng dữ liệu nhạy cảm hoặc tích hợp sâu với hệ thống IT, ISO/IEC 27001 là nền tảng rất quan trọng.
Nếu AI ảnh hưởng trực tiếp tới sản phẩm, dịch vụ hoặc trải nghiệm khách hàng, ISO 9001 cung cấp góc nhìn quản lý quá trình và chất lượng.
Nếu hoạt động công nghệ có các khía cạnh môi trường đáng kể, ISO 14001 bổ sung góc nhìn environmental management.
Không nhất thiết mọi doanh nghiệp đều cần cả bốn chứng nhận.
Nhưng khi AI trở thành một phần của quá trình kinh doanh, bốn góc nhìn quản trị này ngày càng có khả năng giao nhau.
Câu hỏi thường gặp
Chỉ sử dụng ChatGPT có cần ISO/IEC 42001 không?
Không thể kết luận chỉ dựa trên việc tổ chức có dùng ChatGPT. Cần xem xét mục đích, quy mô, rủi ro, trách nhiệm và mức độ AI tham gia hoạt động.
ISO/IEC 27001 có đủ để quản lý AI không?
Không hoàn toàn. ISO/IEC 27001 tập trung vào information security, còn ISO/IEC 42001 có phạm vi quản trị AI rộng hơn.
Có nên cấm nhân viên dùng AI?
Một chính sách cấm tuyệt đối không phải lúc nào cũng khả thi. Nhiều tổ chức phù hợp hơn với cách tiếp cận dựa trên rủi ro: xác định AI được phép, dữ liệu được phép sử dụng và hành vi bị cấm.
AI inventory có giống asset inventory của ISMS?
Có liên quan nhưng không hoàn toàn giống nhau. Một AI system có các thuộc tính quản trị, vòng đời và tác động riêng cần được theo dõi.
Thách thức ?
Thách thức của doanh nghiệp không còn nằm ở câu hỏi “có dùng AI hay không”.
Câu hỏi quan trọng hơn là:
AI đang được sử dụng ở đâu, ai chịu trách nhiệm, AI được phép làm gì và doanh nghiệp chứng minh việc kiểm soát đó bằng bằng chứng nào?
Đó chính là bước chuyển từ sử dụng AI sang quản trị AI.