KR — 전자신문
SAS: "Năm tới sẽ là năm AI cho thấy kết quả… Trách nhiệm và niềm tin trong doanh nghiệp ngày càng quan trọng"
AI2 phút đọc
SAS, một công ty phần mềm dữ liệu và AI, dự đoán năm 2027 các công ty sẽ bị đánh giá dựa trên kết quả thực tế của AI agent. Theo SAS, sự tin cậy, trách nhiệm và bằng chứng về giá trị sẽ quan trọng nhất.
Chuyện gì đã xảy ra?
Ngày 17, SAS công bố '11 dự đoán lớn về ngành AI cho năm 2027'. AI agent là các chương trình có thể tự phán đoán và tự hành động. Công ty cho rằng AI agent đang lan nhanh trong công việc kinh doanh. Vì vậy, doanh nghiệp phải suy nghĩ lại về ba điều: ai chịu trách nhiệm, đo lợi nhuận từ đầu tư AI bằng cách nào, và có thể tin AI đến mức nào.
Những điểm chính
- SAS gọi năm 2027 là năm AI được đánh giá bằng kết quả, không phải bằng lời hứa.
- Giám đốc thông tin (CIO) sẽ quản lý quyền truy cập hệ thống của AI agent, không chỉ của con người.
- Trong ngành ngân hàng, AI agent có thể chuyển từ xem hàng sang chuyển tiền và các quyết định quan trọng khác.
- Nhà sản xuất phần mềm phải chứng minh sản phẩm đáng mua, vì AI giúp việc tự xây phần mềm trong nội bộ dễ hơn.
- Doanh nghiệp cần cách đo xem sản phẩm AI (nội dung, mã lập trình, phân tích) có thật sự cải thiện kết quả kinh doanh hay không.
AI agent khác gì AI cũ?
Các công cụ AI trước đây chủ yếu giúp người dùng làm một việc đơn lẻ, như viết một bản nháp. AI agent đi xa hơn. Chúng có thể lên kế hoạch nhiều bước và thực hiện hành động trong các hệ thống thật. Vì thế, các câu hỏi về quyền hạn, an toàn và ai là người chịu lỗi trở nên cấp bách.
Vì sao điều này quan trọng?
Nếu AI agent gửi tin nhắn sai cho khách hàng, hoặc tự duyệt việc mà không được phép, thương hiệu có thể bị tổn hại. SAS khuyên doanh nghiệp phải xác định rõ khi nào con người can thiệp và khi nào phải dừng agent. Mô phỏng, bản sao số (bản ảo của hệ thống thật) và dữ liệu tổng hợp (dữ liệu nhân tạo dùng để thử nghiệm) có thể giúp kiểm tra rủi ro trước khi AI chạm đến khách hàng thật. Giám đốc SAS Hàn Quốc, Lee Jung-hyuk, nói rằng sự tin cậy và trách nhiệm đặc biệt quan trọng trong các ngành được quản lý chặt ở Hàn Quốc như tài chính, dịch vụ công, sản xuất và khoa học đời sống.
Cần theo dõi điều gì?
- Doanh nghiệp có đặt ra luật rõ ràng về quyền hạn và trách nhiệm của AI agent hay không.
- Ngân hàng kiểm tra giới hạn của agent trước khi cho phép chuyển tiền như thế nào.
- Các công ty đám mây lớn có mạnh thêm không, vì hạ tầng AI rất đắt.
- Doanh nghiệp có bắt đầu tính chi phí AI theo tổng chi tiêu cho dữ liệu, quản trị và hạ tầng hay không.
Chú giải
- SAS
- Công ty phần mềm chuyên về dữ liệu và AI.
- Lee Jung-hyuk
- Giám đốc điều hành của SAS Hàn Quốc.