신규 LLM: Gemini 4 Carbon, 익스플로잇 전문가

무슨 일이 있었나

구글은 최신 대형 언어 모델(LLM) 'Carbon'을 발표했습니다. LLM은 글을 읽고 쓰는 AI 시스템입니다. Carbon은 네 주 전에 보여준 'Argon'을 대신합니다. 지금은 누구나 쓸 수 있는 상태가 아닙니다. 구글은 먼저 미국 정보기관과 선택된 사용자에게 모델을 공유한다고 밝혔습니다. 시간이 지나면 믿을 수 있는 사이버 방어 전문가와 다른 신뢰 파트너도 'Fairwind'라는 프로그램을 통해 접근할 수 있게 됩니다.

주요 숫자와 사실

• Exploitgym 테스트 점수: Carbon 약 55%, Argon 42%
• SEC-bench Pro 테스트: Carbon 88% 조금 넘음, GPT-6 Astra보다 앞섬
• 보안 구멍 수정 능력을 보는 CWE-bench 테스트: Carbon 71%
• 가격: 입력 토큰 100만 개당 4달러, 출력 토큰 100만 개당 20달러 (처음에는 50% 할인)
• 일반 공개 시점은 아직 발표되지 않았으나 구글은 곧 공개될 것이라고 말함 (Argon은 공개까지 약 2주 걸림)

배경 설명

이번 제한은 백악관의 요청을 따른 것이라고 기사는 전합니다. 구글은 새 AI 모델을 먼저 미국 정보기관과 구글이 승인한 사용자에게만 열겠다고 밝혔습니다. 구글은 또 지금까지 Carbon에 대해 '프롬프트 인젝션' 공격이 성공한 사례가 없다고 말합니다. 프롬프트 인젝션은 글 속에 숨겨진 지시문으로 AI가 사용자가 요청하지 않은 일을 하게 만드는 수법입니다.

왜 중요한가

Carbon이 가장 크게 좋아진 부분은 소프트웨어의 약점을 찾고 그 약점을 공격하는 코드(익스플로잇)를 만드는 능력입니다. 이 능력은 보안 전문가가 시스템을 지키는 데 도움을 줄 수 있습니다. 하지만 해커가 나쁘게 쓸 수도 있습니다. 그래서 구글은 접근 범위를 좁게 유지하고 있습니다. 이 이야기는 AI 기업이 빠른 발전과 안전, 그리고 정부 규칙 사이에서 균형을 맞추고 있다는 것을 보여줍니다.

앞으로 지켜볼 점

• Carbon이 일반 사람들에게 언제 공개될지
• Fairwind 프로그램을 통해 더 많은 집단이 접근할 수 있을지
• 독립적인 시험에서 구글이 말한 Carbon의 능력과 안전성이 확인될지