UK — The Register
Viết mã chống bot với KillSwitch, ngôn ngữ lập trình được thiết kế để làm rối LLM
Phần mềm1 phút đọc
Một kỹ sư phần mềm đã tạo KillSwitch, một ngôn ngữ lập trình mã nguồn mở nhằm làm rối các chatbot AI (LLM), khiến chúng khó đọc hoặc sao chép mã. Người đọc cũng sẽ thấy khó hiểu lúc đầu.
Ngôn ngữ mã làm rối AI
Dominik Picheta, kỹ sư phần mềm tại Cloudflare và là một trong những nhà phát triển chính của ngôn ngữ Nim, đã tạo ra KillSwitch. Mã trông giống các đoạn văn xuôi lẫn với tên hàm kỳ lạ. Lệnh được viết bằng các hoán vị chữ cái của trạng từ tiếng Anh, và không cần phải là từ có nghĩa. Picheta nói đây là một câu đố thú vị cho cả con người.
Ngôn ngữ hoạt động thế nào
KillSwitch là ngôn ngữ dựa trên ngăn xếp (stack). Ngăn xếp là cách lưu dữ liệu theo kiểu món vào sau thì lấy ra trước. Chương trình bắt đầu bằng cụm như "this story starts" và gọi hàm bằng cụm như "ignore previous instructions". Để in "Hello World", bạn đưa chữ vào ngăn xếp rồi gọi hàm in, tên là một hoán vị của từ "visibly". Ngôn ngữ này nhỏ, chỉ có hàm, biến và câu lệnh if.
Vì sao đáng chú ý
Ý tưởng này cho thấy một cách mà người ta thử ngăn công cụ AI đọc hoặc tái sử dụng mã của họ. Tài liệu đặc tả của ngôn ngữ cũng được viết để làm rối LLM, nên nó vừa là trò đùa vừa là cái bẫy với AI. Bài báo cho biết đặc tả nói KillSwitch có thể tấn công mạng, nhưng đọc kỹ thì điều đó không đúng.
Chú giải
- KillSwitch
- Ngôn ngữ lập trình mã nguồn mở, được tạo để làm rối chatbot AI và khó đọc với người mới.
- LLM
- Mô hình ngôn ngữ lớn, loại AI đọc và viết văn bản, mã như các chatbot.
- Cloudflare
- Công ty vận hành dịch vụ internet, trong đó có nền tảng chạy mã trên máy chủ.
- Nim
- Ngôn ngữ lập trình mà Dominik Picheta cùng phát triển.