AI có thể phá vỡ hệ thống pháp luật bằng cách tìm ra những kẽ hở trước đây bị ẩn giấu

Chuyện gì đã xảy ra?

Felix Ringe, một học giả luật tại Stanford, và cộng sự Linus Folkerts cho rằng các mô hình ngôn ngữ lớn (LLM) đã đủ mạnh để tìm ra những chỗ mâu thuẫn trong luật. Những chỗ này có thể bị lợi dụng. Họ viết rằng luật viết cũng có thể có lỗ hổng, giống như phần mềm. Họ đã nêu một số ví dụ trong luật Đức, nhưng chỉ chia sẻ những lỗ hổng mà họ tin là không gây hại nghiêm trọng.

Các ví dụ và con số chính

• Một bản sửa đổi quy định về bệnh nghề nghiệp (BKV) của Đức có thể thiếu một căn cứ pháp lý bắt buộc phải nêu.
• Theo lập luận này, một nhà báo có thể yêu cầu một văn bản chưa công bố, dựa trên luật tiếp cận thông tin, và thách thức một điều khoản bảo mật có thể không hợp lệ.
• Một quy định về thị thực quá cảnh có thể không hợp lệ vì chính phủ không nêu rõ cơ sở pháp lý khi ban hành.
• Nhóm nghiên cứu nói rằng khi lập luận pháp lý rẻ đi và phổ biến hơn, các hệ thống AI có thể gây nguy hại cho hoạt động của hệ thống pháp luật hiện nay.

Vì sao so sánh luật với mã nguồn?

Ý tưởng coi mã máy tính là một kiểu luật đã có từ lâu, ít nhất từ năm 1999, với cuốn sách của Lawrence Lessig. Ringe thì làm ngược lại: ông coi luật như mã nguồn. Cách so sánh này chỉ đúng đến một mức nhất định. Ví dụ, kết quả xét xử của tòa án không cố định như một chương trình chạy ổn định, nên việc so sánh này có những chỗ không khớp.

Vì sao điều này quan trọng?

Nếu AI có thể tìm lỗ hổng trong luật với số lượng lớn, hệ thống pháp luật có thể khó theo kịp. Các nhà lập pháp có thể phải viết luật chặt chẽ hơn, và có thể cần dùng chính AI để làm việc đó. Vấn đề này cũng cho thấy AI đang thay đổi cả lĩnh vực pháp lý.

Cần theo dõi điều gì?

• Các tòa án Đức có xử lý những lỗ hổng này như thế nào.
• Các cơ quan lập pháp có thay đổi quy trình soạn luật để chặt chẽ hơn không.
• Việc sử dụng AI trong ngành luật, mà một luật sư ở San Francisco nói là đang mở rộng nhanh.