토큰 효율의 시대: MAI가 그리는 새로운 프론티어 성능 곡선
‘토큰맥싱’의 시대가 지나고 토큰 효율이 다음 화두가 됐습니다. Microsoft AI는 모델·하네스·RL 환경을 함께 최적화해 GPU 비용을 50~90%까지 줄이면서 품질을 유지하는 사례를 공개했습니다. 코딩·이미지·음성·전사·보안 전반의 실제 수치를 정리했습니다.
‘토큰맥싱’의 시대가 지나고 토큰 효율이 다음 화두가 됐습니다. Microsoft AI는 모델·하네스·RL 환경을 함께 최적화해 GPU 비용을 50~90%까지 줄이면서 품질을 유지하는 사례를 공개했습니다. 코딩·이미지·음성·전사·보안 전반의 실제 수치를 정리했습니다.
선언형 에이전트(Declarative Agent)에 유연한 레이아웃과 리치 UX 컴포넌트가 도입됩니다. 텍스트 위주였던 에이전트 응답이 표현력 있는 화면으로 바뀌면서, 사용자 참여도와 확산에 직접적인 영향을 줄 것으로 보입니다.
지금까지 상용 클라우드 중심이던 커스텀 엔진 에이전트(Custom Engine Agents)가 GCC-M 환경 사용자에게도 제공됩니다. 규제 환경에서 AI 에이전트 활용 범위가 넓어진다는 신호입니다.
Copilot이 날씨·스포츠·금융·이미지·비디오·장소·뉴스 등 7개 주요 영역에서 모델 기반으로 동적 배치되는 리치 앤서 카드를 제공합니다. Entra 및 MSA 사용자 모두, 모든 표면에서 이용할 수 있게 됩니다.
Microsoft 365 Copilot의 웹 그라운딩에서 특정 도메인을 제외할 수 있는 Domain Exclusion이 공개되었습니다. 웹 검색을 통째로 끄지 않고도 조직 정책에 맞지 않는 외부 사이트만 골라낼 수 있으며, 최대 1,000개 도메인까지 PowerShell 스크립트로...