
[지디넷코리아] 마이크로소프트는 새로 출범한 AI 투명성 이니셔티브를 통해 액센츄어, 어도비, KPMG, 마스터카드, 볼보자동차 등 40곳이 넘는 조직과 함께 AI 모델과 제공업체 전반에 걸쳐 투명성, 보안, 거버넌스에 대한 공통된 접근 방식을 마련하고 있다. 또한 자사 제품과 서비스 전반에서 AI 모델과 에이전트가 기업 데이터와 어떻게 상호작용하는지 고객이 더 명확히 파악할 수 있도록 할 계획이다. 레드먼드, 워싱턴, 2026년 11월 19일 /PRNewswire/ -- 조직은 AI 모델을 둘러싼 활동의 상당 부분을 관찰할 수 있지만, 요청을 받은 시점부터 결과가 나오기까지 어떤 일이 있었는지 재구성하기 어려운 경우가 많아 모델의 동작을 독립적으로 검증하는 데 한계가 있다. 마이크로소프트(Microsoft)의 사티아 나델라(Satya Nadella) 회장 겸 최고경영자(CEO)는 17일(화) 마이크로소프트 이그나이트(Microsoft Ignite)에서 AI의 안전성을 높이기 위한 다음 단계로 고객 및 파트너와 함께 모델과 제공업체 전반에 적용할 수 있는 개방적인 보안 및 거버넌스 방식을 마련하는 것을 목표로 한 AI 투명성 이니셔티브를 발표했다. 이 이니셔티브는 AI의 자율성이 커질수록 더 높은 투명성이 필요하다는 원칙에 바탕을 두고 있다. 마이크로소프트 시큐리티(Microsoft Security)의 하예테 갈로트(Hayete Gallot) 총괄 수석부사장은 "보안 통제가 효과를 내려면 모든 조직이 모델 자체가 어떻게 작동하는지 더 투명하게 들여다볼 수 있어야 한다. 이 이니셔티브를 통해 모든 모델의 투명성을 높일 것이다. 이는 위협을 더 정교하고 효과적으로 억제하기 위한 중요한 단계이며, 어떤 행동이 있었는지 추적하고 그 책임 소재를 밝히는 데도 더 충실한 근거를 제공할 것이다"라고 말했다. 기업들은 AI 모델을 데이터, 도구, 인증 정보, 인프라와 연결해 에이전트가 단계마다 사람의 승인을 받지 않고도 작업을 수행할 수 있도록 하고 있다. 기존 통제 수단으로는 AI 모델을 둘러싼 활동의 상당 부분을 관찰할 수 있지만, 모델 내부에서 어떤 일이 일어나는지 확인하거나 모델이 자신의 행동에 관해 내놓은 설명을 독립적으로 검증할 수는 없다. 따라서 조직은 에이전트가 어떤 맥락에서 행동했는지 파악하는 데 한계가 있다. 이러한 증거 부족은 보안과 규정 준수, 감사, 책임 소재 규명에 위험을 초래한다. 에이전트의 역량이 향상될수록 내부자 위험도 커지는 만큼 보안팀에는 이에 대응할 새로운 신뢰 체계가 필요하다. 어도비(Adobe)의 안찰 굽타(Aanchal Gupta) 최고보안책임자는 "AI 에이전트가 기업 운영에 깊숙이 통합될수록 보안팀은 에이전트가 무엇에 접근하고 어떤 행동을 하는지, 그 행동을 어떻게 검증할 수 있는지 명확히 파악해야 한다. 신뢰를 높이고 조직이 보안과 책임성을 유지하면서 자신 있게 혁신을 추진하려면 업계가 AI 투명성을 확보할 공통된 접근법을 마련해야 한다"고 말했다. 원칙에서 실천으로 이 이니셔티브는 세 부분으로 구성된다. 첫째, 마이크로소프트는 미국 국립표준기술연구소(National Institute of Standards and Technology)의 SI 에이전트 표준 이니셔티브(SI Agent Standards Initiative)에 대한 참여를 확대하고, 연구소의 연구 성과를 바탕으로 AI 투명성, 보안, 거버넌스에 관한 업계 공통의 개방형 표준을 개발할 계획이다. 둘째, 마이크로소프트는 액센츄어(Accenture), 어도비, KPMG, 마스터카드(Mastercard), 볼보자동차(Volvo Cars) 등 40곳이 넘는 조직과 협력해 AI 시스템을 위한 개방형 표준 개발에 힘을 보태고 있다. 어떤 모델이나 제공업체를 선택하든 AI 시스템이 책임성을 갖추고 독립적인 검증이 가능하며 설계 단계부터 안전성을 확보하도록 하는 표준이다. 셋째, 마이크로소프트는 이번 협력의 성과를 Microsoft AI, Microsoft Foundry, Microsoft Copilot에 반영할 예정이다. 이를 통해 고객은 마이크로소프트와 타사 제품 중 어느 쪽을 사용하든 기존 보안 및 규정 준수 도구에서 AI 활동에 관한 증거를 활용할 수 있다. KPMG 인터내셔널(KPMG International)의 존 이스라엘(John Israel) 글로벌 최고정보보호책임자는 "고객들은 AI를 활용해 사업 추진에 속도를 내고 싶어 하며, 그 과정에서 혁신과 안전 중 하나를 선택해야 하는 상황에 놓여서는 안 된다. AI를 신뢰하려면 투명성과 설명 가능성, 책임 있는 감독이 필요하다. 마이크로소프트와 함께 AI 투명성 이니셔티브에 참여해 업계 공통의 개방형 표준 수립에 기여하게 되어 자랑스럽다. 이 표준은 조직이 AI를 책임 있게 대규모로 도입하는 데 필요한 가시성과 통제력을 제공할 것이다"라고 말했다. 명확한 책임 소재 데이터, 도구, 인증 정보에 접근할 수 있는 에이전트는 높은 접근 권한을 지닌 내부자와 유사한 위험을 수반하지만, 기계의 속도로 대규모 작업을 수행하는 만큼 독립적인 감독이 필수적이다. 책임은 조직에 있다. 중대한 사안이 발생하면 경영진은 고객, 직원, 이사회, 감사인, 규제 당국에 경위를 설명하고 책임을 져야 한다. AI에 책임을 돌리는 것으로는 답이 되지 않으며, '모델을 신뢰하라'는 말은 통제 수단이 될 수 없다. 이 이니셔티브는 폐쇄형 모델과 가중치 공개 모델을 비롯해 다양한 모델과 제공업체에 두루 적용할 수 있도록 설계됐다. 따라서 개발팀이 에이전트를 구동하는 모델을 교체하거나 업데이트하더라도 IT팀과 보안팀은 에이전트를 계속 안전하게 관리할 수 있고, 규정 준수팀 역시 에이전트의 행동을 감사할 수 있다. 액센츄어의 하르프리트 시두(Harpreet Sidhu) 글로벌 사이버보안 총괄은 "조직이 AI를 활용한 사업 혁신의 다음 단계로 나아가려면 신뢰와 확신이라는 탄탄한 기반이 필요하다. 업계 주도로 AI 투명성을 확보하기 위해 개방적인 접근법을 취하는 이러한 마이크로소프트의 이니셔티브는 AI 모델의 보안을 강화하고 모델에 통제 수단과 거버넌스 체계를 갖추는 데 도움이 될 수 있다. 액센츄어는 마이크로소프트를 비롯해 이 분야를 선도하는 기업들과 협력하게 되어 자랑스럽다"고 말했다. 확인, 검증, 통제 마이크로소프트는 모든 조직이 AI 시스템이 무엇에 접근하고 어떤 행동을 하는지 파악하고, 그 행동을 독립적으로 검증하며, AI에 허용할 행동의 범위를 통제할 수 있어야 한다고 본다. 확인: AI가 어떤 작업을 요청받았고 어디까지 권한을 부여받았는지, 어떤 모델과 실행 환경이 사용됐는지, 어떤 데이터와 도구에 접근했고 실제로 어떤 행동을 했는지 파악한다. 정해진 정책과 임계값을 기준으로 에이전트의 활동과 위험 신호를 지속적으로 모니터링한다. 검증: 에이전트가 무엇을 했는지 판단할 때 에이전트 자신의 설명만을 근거로 삼을 수는 없으며, 최첨단 AI 모델이 스스로를 통제할 것이라고 믿고 맡길 수도 없다. 에이전트의 신원, 위임받은 작업의 목적, 실제 행동에 관한 증거에는 출처가 표시돼야 한다. 출처가 모델 자체인지, 모델이 작동하는 실행 환경인지, 신원이나 정책을 관리하는 독립 시스템인지 알아야 모델이 보고한 신호를 별도로 관찰해 남긴 기록과 대조할 수 있다. 조직은 모델 제공업체의 설명에만 의존하지 않고 자체 보안 및 규정 준수 시스템을 통해 AI 활동을 독립적으로 검증할 수 있어야 한다. 통제: AI에 허용된 작업에 대한 통제권을 유지한다. 각 워크플로의 목적과 책임자, 사용하는 데이터, 위임된 권한에 관한 명확한 근거가 있으면 조직은 중대한 결과를 낳을 수 있는 행동이 실행되기 전에 정책을 적용할 수 있다. 또한 조사, 봉쇄, 복구, 감사 과정에서 어떤 일이 있었는지 재구성할 수 있다. 모델이나 제공업체를 바꾸더라도 이 증거는 조직이 계속 보유할 수 있어야 한다. 조직은 모델이나 제공업체에 관계없이 에이전트가 어떤 데이터에 접근할 수 있는지, 그 접근을 어떻게 관리할지에 대한 통제권을 유지해야 한다. 참여 안내 이니셔티브의 방향을 함께 정하거나 진행 상황을 받아보고자 하는 조직은 aka.ms/learnmoreAItransparency에서 자세한 내용을 확인하고 등록할 수 있다. 마이크로소프트와 업계 리더들이 조직이 확신을 갖고 AI 모델과 에이전트를 관리할 방안을 소개하는 마이크로소프트 이그나이트의 소식을 팔로우할 수 있다. 자세한 내용은 마이크로소프트 시큐리티 블로그에서 확인할 수 있다.
Continue to ZDNet Korea →You are being forwarded in 6s — stay on this page