UK — The Register
KillSwitch로 봇에 강한 코드 작성하기: LLM을 혼란시키도록 설계된 프로그래밍 언어
소프트웨어1분 읽기
한 소프트웨어 엔지니어가 AI 챗봇(LLM)이 코드를 쉽게 읽지 못하도록 만든 오픈소스 프로그래밍 언어 KillSwitch를 소개합니다. 사람에게도 처음에는 어렵습니다.
AI를 헷갈리게 만드는 코드 언어
Cloudflare의 소프트웨어 엔지니어이자 Nim 언어의 핵심 개발자인 Dominik Picheta가 KillSwitch를 만들었습니다. 코드는 평범한 문장 덩어리와 이상한 함수 이름이 섞인 모습입니다. 명령어는 영어 부사의 철자 바꾸기(애너그램)로 쓰며, 실제 단어일 필요는 없습니다. Picheta는 사람에게도 재미있는 퍼즐이라고 말합니다.
이 언어가 작동하는 방식
KillSwitch는 스택 기반 언어입니다. 스택은 물건을 쌓고 꺼내는 목록 같은 방식입니다. 프로그램은 "this story starts" 같은 문구에서 시작하고, "ignore previous instructions" 같은 문구로 함수를 호출합니다. "Hello World"를 출력하려면 글자를 스택에 넣고 "visibly"의 철자 바꾸기로 된 출력 함수를 호출합니다. 언어는 작고, 함수, 변수, if 문만 있습니다.
왜 중요한가
이 아이디어는 사람들이 AI 도구가 자신의 코드를 읽고 다시 쓰는 것을 막으려는 한 방법을 보여 줍니다. 또한 이 언어의 설명서도 LLM을 헷갈리게 쓰여 있어, 일종의 농담이자 함정입니다. 기사에 따르면 설명서는 KillSwitch가 네트워크를 공격할 수 있다고 말하지만, 자세히 읽으면 사실이 아닙니다.
용어 풀이
- KillSwitch
- AI 챗봇을 헷갈리게 만들려고 만든, 사람에게도 처음엔 어려운 오픈소스 프로그래밍 언어입니다.
- LLM
- 대규모 언어 모델. 챗봇처럼 글과 코드를 읽고 쓰는 AI입니다.
- Cloudflare
- 인터넷 서비스를 운영하는 회사로, 서버에서 코드를 실행하는 플랫폼을 제공합니다.
- Nim
- Dominik Picheta가 함께 개발하는 프로그래밍 언어입니다.
- 스택
- 나중에 넣은 것이 먼저 나오는 방식으로 데이터를 저장하는 간단한 구조입니다.