KR — 전자신문

[Bảo vệ AI] ⑤ Tọa đàm – “An toàn AI là yếu tố quyết định năng lực cạnh tranh công nghiệp”…Kêu gọi “tăng tốc an toàn”

Chính sách24 tháng 10, 20263 phút đọc

Các chuyên gia Hàn Quốc bàn về cách giữ AI an toàn mà không làm chậm quá nhiều việc phát triển. Họ cho rằng an toàn AI có thể trở thành thế mạnh cạnh tranh, nên Hàn Quốc cần phát triển AI nhanh hơn đồng thời nâng cao độ an toàn và niềm tin.

Chuyện gì đã xảy ra?

Tờ The Electronic Times, một tờ báo công nghệ của Hàn Quốc, tổ chức một buổi tọa đàm đặc biệt với các chuyên gia từ chính phủ, học viện và doanh nghiệp. Họ thảo luận cách xây dựng một môi trường sử dụng AI an toàn. Ý chính là 'tăng tốc an toàn': vừa xây dựng AI thật nhanh, vừa bảo đảm an toàn. Các chuyên gia cũng nói rằng những ý tưởng chung về đạo đức AI cần trở thành công cụ an toàn thật sự, chẳng hạn như các nguyên tắc rõ ràng và 'đội đỏ' (nhóm tấn công thử hệ thống để tìm điểm yếu).

Các con số và sự kiện chính

Buổi tọa đàm có năm khách mời: một giáo sư luật của Đại học Quốc gia Seoul, giám đốc chiến lược của Upstage, giám đốc điều hành SelectStar, một giáo sư giáo dục đạo đức của Đại học Sư phạm Quốc gia Seoul và một quan chức của Bộ Khoa học và ICT.
Chính phủ Hàn Quốc đã công bố 'Nguyên tắc Đạo đức AI của Hàn Quốc' với bảy điểm chính, gồm thiết kế lấy con người làm trung tâm, quyền riêng tư, công bằng, trách nhiệm, an toàn, niềm tin và minh bạch.
Một nhóm hợp tác do Na Uy và Phần Lan dẫn đầu có 28 nước tham gia đàm phán về cách ứng phó rủi ro AI.
Nhà Trắng Mỹ đề xuất cách tiếp cận nhẹ tay: doanh nghiệp tự quản lý, còn chính phủ chỉ đặt ra các quy tắc an toàn cơ bản.

Vì sao chủ đề này được bàn nhiều?

AI đang mạnh lên rất nhanh. Một số AI có thể tự hành động. Các mô hình AI tiên tiến, gọi là 'frontier', có thể tạo ra những mối đe dọa an ninh mạng mới. Nhiều người hỏi liệu có nên phát triển AI chậm lại hay không. Tuy nhiên, Hàn Quốc đang cố đuổi kịp Mỹ và Trung Quốc, nên chậm lại có thể không phải là lựa chọn thực tế.

Vì sao điều này quan trọng?

Các chuyên gia cho rằng an toàn không chỉ là chi phí. Nó còn có thể tạo ra niềm tin và sức mạnh kinh doanh. Ví dụ, khách hàng tài chính của SelectStar trước hết dùng AI trong nội bộ công ty vì họ chưa yên tâm dùng với khách hàng bên ngoài. Nếu có các quy tắc an toàn thật sự và dễ làm theo, AI có thể lan rộng trong đời sống nhanh hơn, chứ không chậm lại.

Cần theo dõi điều gì?

Các nước có đạt được thỏa thuận chung toàn cầu về tốc độ phát triển AI hay không.
Hàn Quốc tham gia các cuộc đàm phán quốc tế sớm đến mức nào, trước khi chủ đề trở thành chương trình chính thức.
Các nguyên tắc đạo đức AI sẽ được biến thành quy tắc thật cho doanh nghiệp và trường học như thế nào.
Các công ty có chấp nhận quy tắc an toàn như 'rào chắn' hướng dẫn, thay vì chỉ coi đó là luật bắt buộc hay không.

Chú giải

SelectStar: Công ty Hàn Quốc có CEO tham gia tọa đàm; hoạt động trong lĩnh vực AI và có khách hàng tài chính.
Upstage: Công ty AI của Hàn Quốc; giám đốc chiến lược của công ty này tham gia tọa đàm.

Cùng một tin, nhiều góc nhìn

Chính sáchAI

Điểm mấu chốt là tham gia từ khâu hình thành chương trình nghị sự

Nhìn từ góc độ chính sách công nghệ, điều thú vị là tọa đàm không tranh luận nên tăng tốc hay giảm tốc, mà chuyển sang việc Hàn Quốc nên tham gia xây dựng quy tắc toàn cầu khi nào và bằng cách nào. Mỹ nghiêng về tự điều chỉnh, Trung Quốc không mặn mà với việc giảm tốc, còn sáng kiến do Na Uy và Phần Lan dẫn dắt có 28 nước tham gia nhưng đồng thuận thực chất vẫn còn xa. Vì vậy, ý kiến cho rằng cần tham gia trước khi vấn đề được chính thức hóa nghe như một cửa ngõ thực tế. Cách quan điểm "hàng rào bảo vệ chứ không phải quy định" sẽ chuyển thành nghĩa vụ cụ thể cho doanh nghiệp thì hiện chưa được biết.

Địa chính trịAI

Giữa cuộc đua tốc độ, an toàn có thể là quân bài thương lượng của người đi sau

Nhìn từ góc độ địa chính trị công nghệ, Mỹ nghiêng về tự điều tiết với các biện pháp an toàn tối thiểu, còn Trung Quốc không mặn mà với việc điều chỉnh tốc độ, nên có vẻ không ai thực sự nghĩ đến việc chậm lại. Vì vậy với một nước đi sau như Hàn Quốc, thay vì tranh luận về tốc độ, tham gia định hình chương trình nghị sự về an toàn ngay từ sớm, trước khi chuẩn mực quốc tế đóng khung, là một nước đi thú vị. Khi đó an toàn không chỉ là chi phí mà còn có thể nâng cao niềm tin và khả năng tiếp cận thị trường. Việc Mỹ và Trung Quốc sẽ tham gia ra sao vào sáng kiến 28 nước do Na Uy và Phần Lan dẫn dắt thì hiện chưa được biết.

Người dùngAI

Vì sao ngân hàng mới chỉ dùng AI trong nội bộ

Điều mình thấy thú vị là nhiều khách hàng ngành tài chính hiện chỉ triển khai AI cho nhân viên nội bộ, vì còn lo ngại khi mở rộng sang dịch vụ cho khách. Vì vậy, thay đổi đầu tiên mà người đi làm cảm nhận được có lẽ là AI hỗ trợ công việc nội bộ, còn dịch vụ cho khách hàng sẽ mở chậm hơn. Thời điểm đó có thể phụ thuộc vào việc hướng dẫn an toàn và bộ phận chịu trách nhiệm về rủi ro được thiết lập tốt đến đâu. Khi nào người dùng cảm nhận rõ trong đời sống thì chưa được biết.

Cùng chủ đề

Chính sáchThe Register26 thg 10

<UNKNOWN>

Chính sách전자신문26 thg 10

Tương lai Hwaseong còn xa không? 'Thành phố AI tương lai' từ chăm sóc đến vũ trụ tại COEX

Thành phố đặc biệt Hwaseong thuộc tỉnh Gyeonggi sẽ trưng bày công nghệ đô thị AI cùng 56 doanh nghiệp và tổ chức tại triển lãm AI 'MARS 2026' ở COEX, Seoul, từ ngày 3 đến 5 tháng 11. Sự kiện bao gồm năm lĩnh vực là di chuyển, sản xuất, đời sống, vận hành đô thị và hàng không vũ trụ, cùng các hội thảo và chương trình thu hút đầu tư.

Chính sáchTechCrunch26 thg 10

Tác giả “Cyberselfish” nhắm vào những người theo chủ nghĩa tự do ở Thung lũng Silicon khi cuốn sách của bà được tái xuất

Cuốn “Cyberselfish” của Paulina Borsook, xuất bản năm 2000 và đã ngừng in từ lâu, sẽ trở lại với ấn bản mới của Tin House, có lời giới thiệu mới của Gil Durán. Borsook cho rằng cuốn sách phân tích ảnh hưởng của chủ nghĩa tự do công nghệ đối với văn hóa Thung lũng Silicon.

Chính sáchheise online26 thg 10