Cơ quan giám sát tài chính Anh yêu cầu doanh nghiệp báo cáo sự cố AI và các trường hợp suýt xảy ra sự cố

Chuyện gì đã xảy ra?

Jessica Rusu, một quan chức dữ liệu của FCA, phát biểu tại một sự kiện ở London hôm thứ Hai. Bà nói các quy tắc báo cáo sự cố hiện nay cần bao gồm cả những lỗi AI nghiêm trọng và các trường hợp suýt xảy ra. Bà cho rằng AI tự vận hành nhiều hơn thì cần trách nhiệm giải trình rõ ràng hơn.

Các con số và sự kiện chính

• Ngành tài chính đóng góp 223,6 tỷ bảng Anh cho nền kinh tế Anh năm 2025, tương đương 8% tổng sản lượng quốc gia.
• Tỷ lệ này xếp thứ tư cao nhất trong các nước OECD.
• Tháng 1, Ủy ban Ngân khố của Hạ viện kêu gọi các cơ quan quản lý tổ chức các bài kiểm tra căng thẳng về cú sốc thị trường do AI gây ra.
• Bộ Khoa học, Đổi mới và Công nghệ cho biết các sửa đổi về AI trong dự luật an ninh mạng vẫn đang được cân nhắc.

Bối cảnh cho người mới

AI "tự vận hành" là loại AI có thể tự ra quyết định và hành động mà không cần người điều khiển từng bước. Trong ngành hàng không, các sự cố suýt xảy ra phải được báo cáo ở hầu hết các nước. Nhờ đó, người ta học được cách tránh tai nạn thật. Một chuyên gia cho rằng AI cũng nên học theo cách này.

Vì sao điều này quan trọng?

AI kém kiểm soát có thể gây hại cho khách hàng, tạo lỗ hổng an ninh mạng và làm hỏng hoạt động, và mọi việc có thể xảy ra rất nhanh và trên quy mô lớn. Nếu biết các sự cố nhỏ sớm, các công ty có thể sửa lỗi trước khi xảy ra thiệt hại lớn. Chính phủ Anh vẫn chưa quyết định có thêm quy định AI cụ thể vào luật hay không.

Cần theo dõi điều gì?

• Chính phủ có thêm quy định về AI vào dự luật an ninh mạng và hệ thống mạng thông tin hay không.
• Các cơ quan quản lý có bắt đầu yêu cầu báo cáo các trường hợp suýt xảy ra không.
• Có tổ chức các bài kiểm tra căng thẳng về AI trong ngành tài chính hay không.