[지디넷코리아]챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주]"이번 주말이 어머니 생신이야. 20만 원 정도로 괜찮은 선물을 골라서 보내 줘."불과 2~3년 전만 해도 AI는 이런 요청에 적당한 상품을 검색하거나 추천하는 정도에 그쳤다. 어떤 상품을 구매할지 결정하고 배송지를 입력하고 결제하는 일은 결국 사람 몫이었다. 이제 AI가 직접 상품을 비교하고 주문서를 작성하고 결제까지 마치는 시대가 다가오고 있다.사람 지시를 받아 스스로 계획을 세우고 필요한 행동까지 수행하는 AI를 '에이전틱 AI'라고 한다. 기존 AI가 묻는 말에 답해 주는 조언자였다면 에이전틱 AI는 심부름까지 직접 해 주는 비서에 가깝다.그런데 이 비서가 실수한다면 어떻게 될까. AI가 예산에 맞춰 선물을 주문했지만 배송지를 잘못 입력했다면 누가 책임져야 할까. AI가 이용자 예상과 달리 환불되지 않는 상품을 구매했다면 그 손해는 누가 부담해야 할까. 더 나아가 AI가 사람의 허락 없이 추가 상품까지 구매했다면 그 계약은 유효할까.이같은 문제를 해결하기 위해 에이전틱 AI만을 위한 새로운 법률을 만들어야 할까. 꼭 그렇지는 않다. 우리에게는 이미 계약 효력과 손해배상책임을 정하는 민법, 개인정보를 보호하는 개인정보 보호법, 온라인 거래에서 소비자를 보호하는 전자상거래법 등이 있다.예를 들어 AI가 이용자의 지시에 따라 물건을 구매했다면 사람이 직접 구매 버튼을 누르지 않았더라도 이용자 본인의 의사에 따른 거래로 보아 계약이 유효하게 성립할 수 있다. 반대로 AI가 이용자의 허락을 받지 않은 거래를 했다면 AI에 부여된 권한과 거래 경위 등을 살펴 계약 효력을 판단해야 한다. AI 서비스 오류로 손해가 발생한 때도 기존 손해배상 법리에 따라 서비스 제공자 등 책임을 물을 수 있는지 검토할 수 있다.AI가 행동했다는 이유만으로 기존 법률이 무용지물이 되는 것은 아니다. 새 기술이 끼어들었다고 해서 따져 볼 질문까지 바뀌지는 않는다. 누가 무엇을 맡겼는지 일이 맡긴 범위 안에서 처리됐는지 그 결과 누가 손해를 입었는지가 여전히 출발점이다.기존 법률만으로는 충분할까. 아쉽게도 그렇지는 않다. 에이전틱 AI의 가장 큰 특징은 사람이 모든 행동을 일일이 지시하지 않아도 스스로 여러 단계를 거쳐 일을 처리한다는 점이다. 그 과정에서 예상하지 못한 판단을 하거나 처음 허락받은 범위를 벗어날 수도 있다. 문제가 발생한 뒤 책임을 묻는 것만으로는 이미 발생한 피해를 되돌리기 어려울 수 있다.우리나라는 지난 1월 22일부터 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(인공지능기본법)'을 시행하고 있다. 이 법은 일정한 AI 서비스에 대해 투명성 확보 의무 등을 부과하고 사람 생명이나 권리 등에 중대한 영향을 미치는 '고영향 AI'에 위험관리와 사람의 감독 등을 요구한다. 유럽연합(EU) 역시 AI법(AI Act)을 통해 AI 위험 수준에 따라 규제를 달리하는 제도를 마련했다.이러한 법률이 에이전틱 AI의 모든 문제를 해결해 주는 것은 아니다. 특히 AI가 사람을 대신해 계약을 체결하거나 돈을 지출하는 경우 "20만 원 정도로 골라 줘"라는 한마디에 배송 방법이나 추가 구매까지 맡긴 것으로 볼 수 있는지, AI가 그 선을 넘었을 때 손해를 누가 떠안을 것인지는 더 구체적인 논의가 필요하다.AI가 하는 모든 행동에 사람 승인을 요구하는 것도 바람직하지 않다. 저녁 메뉴를 고르거나 회의 일정을 옮기는 일까지 매번 확인 버튼을 눌러야 한다면 사람이 직접 하는 편이 오히려 빠르다. 중요한 것은 AI가 얼마나 위험한 일을 하는지에 따라 통제 수준을 달리하는 것이다.단순한 정보 검색이나 일정 정리에는 폭넓은 자율성을 허용할 수 있다. 반면 상품 구매나 예약 등 거래에 영향을 미치는 행위는 이용자가 사전에 승인한 범위를 명확히 하고, 거액 결제나 중요한 계약 체결에는 사람의 최종 확인을 거치도록 할 수 있다. AI가 어떤 행동을 했는지 기록을 남기고 문제가 생기면 즉시 중단할 수 있는 장치도 필요하다.안전장치를 모두 법으로 강제할 필요는 없다. 우선 기업이 자율적으로 기술적 안전장치를 마련하도록 유도하되 소비자에게 중대한 피해를 줄 수 있는 영역은 최소한 법적 기준을 마련하는 접근이 바람직하다.AI 자율성을 어디까지 허용하고 그에 따른 책임을 누가 부담할지에 관한 기준을 미리 세워야 한다. 신용카드가 처음 보급될 때 카드 사용을 막는 대신 본인 확인 절차와 분실·도난 시 책임 분담 규칙을 마련했듯이 에이전틱 AI 역시 기술 자체를 막기보다 안전하게 활용할 수 있는 규칙을 만들어야 한다.AI가 어머니 생신 선물을 대신 골라 보내는 일은 이미 시작됐다. 선물이 엉뚱한 주소로 배송되었을 때 누가 책임져야 하는지 법과 제도도 이제 그 답을 준비해야 한다.
Continue to ZDNet Korea →You are being forwarded in 6s — stay on this page