Maxwell, 최적화되지 않은 코드에 실행 중 업그레이드를 제공

무슨 일이 있었나

월요일, 이스라엘 텔아비브의 스타트업 doubleAI가 Maxwell을 소개했습니다. Maxwell은 프로그램이 실행되는 동안 기계어 코드를 검사하고, 개선하고, 다시 쓰는 "코드 실행 모델"입니다. 원래의 소스 코드는 바꾸지 않습니다. 대신 컴퓨터가 실제로 실행하는 코드를 바꿉니다.

주요 수치

• doubleAI에 따르면 데이터 처리 파이프라인이 38배 넘게 빨라졌습니다.
• AI 추론 커널(AI 프로그램의 핵심 작은 부분)은 4.5배 넘게 빨라졌습니다.
• 4K 영상을 만드는 오픈 월드 모델 LTX-2.5는 Maxwell의 도움으로 거의 두 배 빨라졌습니다.
• 결과는 코드와 실행되는 하드웨어에 따라 달라집니다.

컴파일러와 무엇이 다른가

컴파일러는 사람이 쓴 코드를 컴퓨터가 실행할 수 있는 형태로 바꾸며, 프로그램이 시작되기 전에 이 일을 합니다. JIT(실행 중 컴파일) 컴파일러는 프로그램이 도는 동안 일부 작업을 합니다. 컴파일러는 조심스럽고 작은 안전한 변경만 합니다. Maxwell은 더 유연합니다. 프로그램이 도는 동안 정확한 하드웨어와 실제 데이터를 볼 수 있습니다. 또 다른 정렬 방법으로 바꾸는 것처럼 알고리즘 전체를 교체할 수도 있습니다. 안전을 위해 형식 검증을 써서, 바뀐 코드가 같은 일을 올바르게 한다는 수학적 증명을 만듭니다.

왜 중요한가

소프트웨어가 빨라지면 컴퓨팅 자원, 시간, 돈이 아낄 수 있습니다. Maxwell이 잘 작동한다면, 조건이 바뀔 때 프로그램이 스스로 나아질 수 있습니다. 또한 변경이 옳다는 증명과 함께 실행 중 코드를 바꾸는 AI라는 새로운 생각을 보여줍니다. 기사에 따르면 Maxwell은 알고리즘적이고 특정 하드웨어에 맞춰질 수 있는 코드에서 가장 잘 작동합니다.

지켜볼 점

• 다른 회사들이 실제 대형 프로그램에 Maxwell을 시험해 보는지 여부.
• 여러 종류의 코드와 하드웨어에서 증명이 얼마나 잘 유지되는지.
• doubleAI의 예시 밖에서도 큰 속도 향상이 유지되는지.