[지디넷코리아]오픈AI가 사람 대신 일하는 인공지능(AI) 행동 지침을 개편했다. AI가 사용자 뜻을 파악해 업무를 처리하면서도 사람이 판단하고 선택할 권한을 지키도록 기준을 보강했다.오픈AI는 29일(현지시간) 자사 AI 행동 기준을 담은 '모델 스펙(Model Spec)'을 개정했다고 밝혔다. 과거 대화와 기억을 참고해 사용자 의도를 이해하는 지침을 추가하고 수행한 작업과 그 영향을 알리도록 했다.이번 개편은 AI가 맡는 업무가 늘면서 지시만으로 해결하기 어려운 상황도 많아진다는 판단에서 나왔다. 사용자가 요청할 때 발생 가능한 상황을 모두 설명하기는 어렵기 때문이다. 오픈AI는 AI가 명시된 지시를 따르는 데서 나아가 예상하지 못한 상황에서도 사용자 목표에 맞게 판단해야 한다고 강조했다.새 지침은 AI가 과거 대화를 참고해 사용자가 원하는 조건을 파악하도록 했다. 일례로 이직할 회사를 비교할 때 사용자가 앞서 규칙적인 근무 시간을 원한다고 말했다면 이를 고려해 답할 수 있다. 이때 "이전에 말씀한 근무 시간을 기준으로 비교했다"고 알려 사용자가 조건을 수정할 수 있도록 해야 한다.과거에 한 말을 계속 같은 뜻으로 받아들여서는 안 된다. 지금은 근무 시간보다 연봉을 더 중요하게 생각할 수도 있기 때문이다. AI는 사용자가 현재 원하는 조건에 맞춰 비교를 돕고 특정 선택으로 몰래 유도하지 않아야 한다.AI가 어떤 일을 했는지도 사용자가 알 수 있어야 한다. 확실히 아는 내용과 확인하지 못한 내용을 구분하고 실제로 처리한 업무를 알려야 한다. 업무를 진행하면서 다른 사람에게 피해를 줄 가능성도 살피도록 했다.업무 수행 범위는 오픈AI가 정한 안전 기준을 따른다. 개발자는 그 안에서 서비스를 설계하고 사용자는 해당 서비스에서 AI에 일을 맡긴다. 오픈AI는 서로 다른 지시가 충돌할 때 무엇을 우선할지 정하는 기준도 개정했다.답변 표현 방식은 사용자 취향에 맞춰 유연하게 조정한다. 세부 문체 지침을 대부분 없애고 언어와 문화, 대화 맥락과 피드백을 참고하도록 했다.객관적으로 답하는 원칙은 유지했다. 사용자가 특정 관점에서 답해 달라고 명시하면 이를 반영할 수 있다. 다만 사용자가 듣고 싶어 할 말을 추측해 그에 맞는 관점을 택해서는 안 된다고 밝혔다.오픈AI는 이런 기준을 모델에 학습시키는 방법도 연구하고 있다. 규칙뿐 아니라 그 이유까지 익혀 처음 접하는 상황에서도 사용자 뜻과 안전 기준에 맞게 판단하도록 하는 데 초점을 맞췄다. 관련 연구 결과는 추후 공개할 예정이다.오픈AI는 "모델 스펙은 AI가 어떻게 행동해야 하는지 제시한 기준으로 현재 모델이 이 기준을 모두 충족하지는 못한다"며 "연구 결과와 실제 사용 경험, 이용자 의견을 바탕으로 지침과 모델을 계속 개선하겠다"고 밝혔다.
Continue to ZDNet Korea →You are being forwarded in 6s — stay on this page