메일을 읽고, 자료를 정리하고, 다음 작업까지 이어가는 AI 에이전트가 기업 업무에 들어오고 있습니다. 일을 대신하는 단계로 갈수록 “얼마나 잘 답하나”뿐 아니라 “무엇에 접근하고, 어디까지 실행하며, 누가 멈출 수 있나”가 중요해집니다.

엔비디아와 메타가 9월 28일 각각 공개한 발표는 이 변화를 서로 다른 방향에서 보여줍니다.

엔비디아는 에이전트 실행 환경을 통제하는 Open Agent Safety Platform을 발표했습니다. 여기에는 OpenShell과 Sentry라는 두 요소가 포함됩니다. OpenShell은 에이전트가 파일이나 네트워크 등 시스템 자원에 접근할 때 정해진 정책을 적용하는 공개 소프트웨어 런타임입니다. 사용자가 부여한 권한의 경계를 실행 단계에서 다루도록 설계됐습니다.

엔비디아는 OpenShell을 공개 소프트웨어로 제공한다고 밝혔습니다.

Sentry는 별도의 감시 계층을 두려는 참조 설계입니다. 엔비디아 설명에 따르면 BlueField-4 DPU에서 에이전트 동작을 관찰하고, 정해진 경계를 벗어난 경우 격리하거나 중단할 수 있도록 구상했습니다.

다만 이는 엔비디아가 제시한 설계와 기능 설명입니다. 모든 에이전트나 시스템에서 즉시 쓸 수 있는 완제품, 또는 사고를 막는다고 독립 검증된 보안 보장으로 읽어서는 안 됩니다.

두 요소의 역할은 구분할 필요가 있습니다. OpenShell이 에이전트에 허용할 자원과 정책을 실행 환경에서 다룬다면, Sentry는 그 환경과 분리된 하드웨어 감시를 더하는 방향입니다. 에이전트가 잘못된 지시를 받거나 예상과 다른 행동을 할 때를 대비해 권한 제한과 감시를 여러 층으로 두려는 접근입니다. 이 구조는 모델이 늘 올바르게 판단한다고 기대하기보다 실행 환경이 가능한 행동을 먼저 제한한다는 생각에 가깝습니다. 실제 적용 범위와 운영 부담은 도입 환경에서 검증해야 합니다.

정책을 누가 정하고 예외 요청을 어떻게 승인할지도 기술만큼 중요합니다. 제한 규칙이 지나치게 넓으면 통제의 의미가 약해지고, 너무 좁으면 정상 업무가 중단될 수 있어 현장별 조정과 기록 점검이 필요합니다.

✦

메타는 기업용 사업군을 제시

메타는 같은 날 Meta Enterprise Platform을 새로운 사업 축으로 발표했습니다. 회사는 Muse Agent와 Meta Business Agent, Muse API, Muse Code 등을 기업과 개발자에게 연결하는 구상을 밝혔습니다. 소비자용 AI 경험에서 쌓은 기술을 업무 도구와 개발 생태계로 넓히겠다는 방향입니다. 발표는 여러 제품과 개발자 도구를 아우르는 사업 구상에 초점을 두며, 제품별 상세 기능과 출시 일정은 추가 확인이 필요합니다.

메타는 기업 플랫폼을 이끌 책임자로 CJ Desai를 영입해 Chief Enterprise Platform Officer로 선임한다고 발표했습니다. 다만 이번 발표만으로 각 제품의 정식 출시 여부, 가격, 한국 제공 일정, 고객사의 실제 도입 규모까지 확인되는 것은 아닙니다. 제품군을 만들고 사업을 전개하겠다는 회사의 발표와 이미 현장에서 검증된 서비스 상태를 구분해 볼 필요가 있습니다.

두 발표는 한 회사가 다른 회사를 직접 겨냥한 경쟁 선언이라기보다, 기업 AI가 갖춰야 할 서로 다른 층을 보여주는 사례입니다. 엔비디아는 에이전트가 작동하는 기반과 통제 장치에 초점을 맞췄고, 메타는 에이전트를 업무에 연결할 제품·API·개발 도구와 사업 체계를 내세웠습니다. 안전한 실행 환경과 실제 업무에 닿는 서비스가 함께 갖춰져야 기업의 도입 검토도 진전될 수 있습니다.

도입 전에는 권한부터 확인

기업이 에이전트를 시험할 때는 기능 목록보다 권한 표를 먼저 보는 편이 좋습니다. 어떤 파일·계정·서비스를 읽을 수 있는지, 수정이나 외부 전송은 어디까지 가능한지, 결제·인사·고객 정보처럼 민감한 작업에 사람의 승인이 필요한지 확인해야 합니다. 실행 기록을 누가 검토하는지, 문제 발생 시 권한을 회수하거나 작업을 멈추는 방법도 정해두어야 합니다.

엔비디아의 발표는 이런 통제를 기술 계층에서 구현하려는 시도이고, 메타의 발표는 에이전트를 업무 흐름에 넣으려는 제품 전략입니다. 각각의 실제 성능과 보안 효과는 독립적인 시험과 현장 운영을 거쳐 판단해야 합니다. 기업 입장에서는 “AI가 일을 해줄 수 있는가”와 함께 “실수했을 때 어디에서 막고 되돌릴 수 있는가”를 도입 조건으로 삼을 때입니다.