Không cần huấn luyện lại - AI giờ có thể chỉnh trọng số của AI khác

Chuyện gì đã xảy ra?

Nhóm nghiên cứu từ phòng thí nghiệm CSAIL của MIT phát hiện rằng các mô hình AI tiên tiến, như GPT-6 Astra của OpenAI, có thể viết lại trọng số của mô hình khác. Bình thường, người ta thay đổi trọng số bằng cách huấn luyện lại. Ở đây, AI tự sửa trực tiếp các con số đó. Kết quả là hành vi của mô hình thay đổi.

Các con số chính

• Astra chỉ đổi 0,016% trọng số của mô hình Qwen3.5-0.8B.
• Điểm toán trên bài kiểm tra MATH-500 tăng tới gấp 6 lần.
• Điểm làm theo hướng dẫn trên bài kiểm tra IFEval tăng khoảng gấp 3 lần.
• Không có bước huấn luyện nào bằng gradient descent (phương pháp học từng bước để chỉnh sai số).

Cách làm này khác thế nào?

Thông thường, AI học bằng cách huấn luyện nhiều lần trên dữ liệu. Nhóm nghiên cứu nói AI có thể đọc trọng số như đọc mã nguồn. Nó tìm phần nào làm sai, rồi sửa trực tiếp. Họ cũng cho biết AI có thể viết một mạng nơron từ đầu, không cần ví dụ trước. Ví dụ, nó viết trọng số cho một chương trình chơi game Breakout.

Vì sao điều này quan trọng?

Cách này có thể giúp cải thiện mô hình mà không làm mất kiến thức cũ, hiện tượng gọi là "quên thảm khốc". Nó cũng có thể giúp hiểu rõ hơn cách AI hoạt động, giảm việc AI nịnh người dùng, và mở đường cho AI tự cải thiện. Tuy vậy, nhóm nghiên cứu vẫn đang ở giai đoạn đầu.

Điều cần theo dõi

• Nhóm nghiên cứu đang xây dựng một bộ bài kiểm tra chuẩn cho kỹ thuật này.
• Cần xem kết quả có lặp lại được trên nhiều mô hình khác không.
• Cần xem cách này có an toàn và đáng tin cậy khi dùng rộng rãi không.