보관된 글 — US — techcrunch
Microsoft, AI 에이전트 행동 제어를 위한 개발자 도구 개선 발표
마이크로소프트가 에이전트 제어 명세(ACS)를 도입했습니다. 이는 AI 에이전트의 행동을 다양한 환경에서 관리하는 데 도움이 되는 오픈 소스 표준입니다. ACS를 사용하면 팀이 에이전트의 행동을 정의하는 정책을 설정할 수 있어서 해당 정책을 다양한 워크플로우 가로채기 지점에서 확인하여 규정을 준수하고 보안을 보장할 수 있습니다. 이를 통해 통치를 간소화하고 AI 애플리케이션의 신뢰성을 향상시킬 수 있습니다.
핵심 정리
- AI 에이전트들은 더 뛰어난 능력을 갖추고 있어 기업들이 다양한 환경에서 적절한 행동을 보장하려고 노력하고 있습니다.
- 마이크로소프트의 ACS는 개발자가 AI 에이전트 정책을 정의하는 표준화된 방법을 제공하여 통제를 강화합니다.
- 정책은 허용 가능한 행동, 필요한 인간 승인, 그리고 로깅 요구 사항 등을 명시할 수 있습니다.
- 현재의 AI 제어 방법은 분리되어 있고 관리하기 어려울 수 있습니다.
- ACS는 정책 설정에 준수하기 위해 에이전트의 작업 중 여러 지점에서 확인을 가능케 합니다.
- 개발자는 정책 파일을 에이전트와 함께 묶어 다른 시스템과 프레임워크에서의 구현을 더 쉽게 할 수 있습니다.
왜 중요한가
- AI 개발은 기업들이 AI 도구에 더 의존함에 따라 증가하는 AI 지배 및 준수 트렌드와 조합된다.
- 2025년까지 AI 윤리와 안전을 위한 표준 및 프레임워크 수립이 기술 개발에서 주요 관심사가 될 것으로 예상된다.
- 과거 AI의 실패는 종종 규제되지 않은 행동으로 인한 것이며, 이러한 이유로 ACS와 같은 견고한 통제 메커니즘이 필요함을 강조한다.
마이크로소프트의 ACS는 AI 에이전트 행동을 더 잘 관리하기 위한 중요한 단계로, 규정 준수와 보안에 대한 중요한 요구 사항을 해결하며 미래에 더 안전하고 신뢰할 수 있는 AI 애플리케이션을 위한 길을 열어줍니다.