더 유능하고 유익한 AI를 위한 모델 사양 개정 | OpenAI

더 유능하고 유익한 AI를 위한 모델 사양 개정 | OpenAI

모델이 더 똑똑해지고 세상에 더 큰 영향을 미치는 행동을 하게 되면서, 주어진 구체적인 지시를 해석하는 데 그치지 않는 것이 점점 더 중요해지고 있습니다. 모델은 인간의 의도와 가치도 이해해야 합니다. 그래야 지시에서 명시적으로 다루지 않은 상황에서도 인간의 의도와 감독을 충실히 따르면서 올바르게 판단할 수 있습니다.

오늘 OpenAI는 모델이 어떻게 행동해야 하는지를 공개적으로 설명하는 문서인 모델 사양⁠(새 창에서 열기)을 개정합니다. 이번 개정에서는 다섯 가지 근본 가치인 인간의 의도에 대한 충실성, 피해 최소화, 정직성과 투명성, 인간의 주체성, 배려를 중심으로 지침을 재구성했습니다. 이는 모델이 인간의 의도에 충실하면서도 낯선 상황에서 인간의 가치를 이해하고 적용하도록 한다는 OpenAI의 가치 정렬 연구 목표를 반영합니다. 이번 개정에서는 기존 원칙에 대한 설명을 더 명확히 하고, 맥락과 감독, 주체성에 관한 지침을 추가했습니다. 일부 기본 행동 방침을 조정했으며, 세부적인 표현 방식 지침은 상당 부분 삭제했습니다.

핵심 가치를 중심으로 사양 재구성

앞서 소개한 다섯 가지 가치는 모델 사양 전반에 이미 반영되어 있던 포괄적인 책무를 명확히 표현합니다. 인간의 목적에 기여하고, 진실을 말하며, 피해를 최소화하고, 사람들이 자신의 견해를 형성할 자유를 존중하며, 각자의 상황을 진지하게 고려한다는 것입니다. 이러한 책무를 한데 모으면 사양이 모델에 특정한 행동을 요구하는 이유를 설명하기 쉬워집니다. 또한 그동안 이러한 책무가 충분히 드러나지 않았던 부분에 대해 더 명확한 지침을 마련하는 데 도움이 됩니다. 이번 개정은 연구와 모델 배포 경험, 사양 및 모델 행동에 대한 대중의 피드백, 사용자 및 외부 전문가와의 논의를 통해 사양을 개선해 나가는 노력의 또 다른 단계입니다.

OpenAI는 서로 다른 필요와 가치관, 미래에 대한 희망을 가진 전 세계 사람들에게 AI가 도움이 되기를 바랍니다.

이러한 접근의 토대는 인간의 의도에 대한 충실성입니다. 즉, 사람들이 무엇을 중요하게 여기는지 이해하고 그것을 추구하도록 돕는 것입니다. OpenAI는 사양을 작성하고 준수해야 할 경계를 설정하며 모델이 이를 지키도록 훈련합니다. 개발자는 그 경계 안에서 애플리케이션의 동작을 정하고, 사용자는 이러한 제약 아래에서 모델의 작업을 지시합니다. 모델은 사람들이 세상을 이해하고, 가능성을 발견하며, 스스로 선택한 목표를 추구하도록 도와 자신의 삶을 스스로 만들어 갈 역량을 넓혀 주어야 합니다. 그러면서 이러한 도움이 다른 사람들에게 미치는 영향도 진지하게 고려해야 합니다. 인간의 의도에 대한 충실성과 나머지 네 가지 가치는 사양의 구성을 이루는 기준이며, 모델이 직면하는 가장 중요한 가치 간 상충 상황에서 어떻게 균형을 잡아야 할지 안내합니다. 이 가치들이 모델이 존중하고 사람들이 추구하도록 도와야 할 인간의 가치 전체를 포괄하려는 것은 아닙니다.

충실성이란 지시를 문자 그대로 따르는 데 그치지 않고 OpenAI와 개발자, 사용자가 무엇을 의도하고 중요하게 여기는지 깊이 이해하며, 그 이해가 불완전할 때도 현명하게 행동하는 것을 뜻합니다. 또한 사람들의 신념과 가치관이 바뀔 수 있음을 인정하고, 은밀하게 특정 방향으로 유도하거나 선택을 무시하지 않으면서 당사자가 동의할 만한 방식으로 성찰하고 성장하도록 돕는 것을 뜻합니다. 예를 들어 여러 채용 제안을 비교하도록 도울 때, 모델은 예측 가능한 근무 시간처럼 사용자가 이전에 밝힌 우선순위를 참고할 수 있습니다. 이때 어떤 가정을 했는지 명확히 드러내고 사용자가 쉽게 바로잡을 수 있도록 해야 합니다.

OpenAI의 사명은 범용 인공지능이 인류 전체에 이익이 되도록 하는 것입니다. 이를 위해서는 당장의 의도뿐 아니라 장기적인 이익과 다른 사람들에게 미치는 영향도 고려해야 합니다. 나머지 네 가지 가치는 이러한 고려 사항을 명확히 드러냅니다.

• 피해 최소화란 엄격한 안전 경계를 지키고 모델의 행동이 초래할 수 있는 예측 가능한 결과를 고려하는 것을 뜻합니다.

• 정직성과 투명성이란 사람들이 모델의 추론과 작업을 이해하고 평가할 수 있도록 모델이 무엇을 알고, 무엇을 하며, 무엇을 확신하지 못하는지 사실대로 밝히는 것을 뜻합니다.

• 인간의 주체성 증진이란 사람들이 스스로 이해하고 선택하며 행동할 수 있는 역량을 강화하는 것을 뜻합니다.

• 배려란 영향을 받는 사람들의 상황을 살피고, 관련된 사회적·직업적 규범을 따르며, 사람들이 믿고 의지할 수 있도록 작업하는 것을 뜻합니다.

사양은 이러한 가치를 실질적인 지침으로 구체화합니다. 사람과 사회를 보호하는 데 필요한 경우에는 엄격한 경계를 두고, 그 밖의 지침은 대부분 사용자와 개발자가 변경할 수 있는 기본 방침으로 제시합니다.

이번 모델 사양 개정과 함께, 모델이 이러한 핵심 가치를 학습하고 사양의 구체적인 행동 원칙을 더 잘 이해하고 따르도록 돕는 새로운 훈련 방법도 모색해 왔습니다. 목표는 이러한 원칙이 왜 중요한지, 새로운 상황에 어떻게 적용해야 하는지 이해하도록 하는 것입니다. 즉, 올바른 이유로 올바른 일을 하도록 하는 것입니다. 이러한 이해를 바탕으로 모델이 중대한 결정에서는 건전한 판단을 내리고, 일상적인 결정에서는 세심하게 배려하기를 바랍니다. 이 작은 결정들이 쌓여 사람과 사회에 지속적인 이익⁠(새 창에서 열기)을 가져올 수 있습니다. 이 훈련 연구의 결과와 교훈은 향후 소식을 통해 공유하겠습니다.

새로 추가하거나 삭제한 항목

이번 재구성을 통해 추가 지침이 필요한 부분을 파악하고, 이를 다루는 새로운 원칙을 마련했으며, 필요에 따라 기존 지침을 수정하거나 삭제했습니다.

새로 마련한 ‘인간의 의도에 대한 충실성’ 항목은 사람들이 중요하게 여기는 것이 우선이며, 지시는 일반적으로 그러한 가치를 가장 명확하고 중요하게 드러내는 신호라는 생각에서 출발합니다. 이 접근은 정렬을 협조 게임의 틀로 바라보는 관점을 차용했습니다(초기 연구⁠(새 창에서 열기) 및 후속 개괄 논문⁠(새 창에서 열기) 참조). 이 항목에는 개정된 지시 체계⁠(새 창에서 열기)가 포함되어 있으며, 어떤 지시가 적용되고 지시 간 충돌은 어떻게 해결되는지 설명합니다. 새로운 하위 항목인 맥락을 신중하게 고려하기⁠(새 창에서 열기)에서는 모델이 사람들의 의도와 선호를 이해할 때 대화, 메모리, 그 밖의 맥락적 단서를 어떻게 활용해야 하는지 설명합니다.

인간의 주체성 지원하기⁠(새 창에서 열기)와 관련 사회 규범 따르기⁠(새 창에서 열기)에 관한 기본 방침도 추가하고, 부작용 통제 및 알리기⁠(새 창에서 열기)에 관한 기존 지침을 확장했습니다. 이 원칙들은 나머지 가치가 모델의 행동에 드러나야 하는 방식을 추가로 담고 있습니다. 사용자의 목표와 지시를 존중하면서 작업이 다른 사람들에게 미칠 영향을 고려하고, 사용자의 역량을 강화하며, 믿고 의지할 수 있는 결과물을 만드는 등, 겉으로 잘 드러나지 않더라도 중요한 방식들입니다.

동시에 사양에 있던 세부적인 표현 방식 지침은 대부분 삭제합니다. 표현 방식은 사람들의 전반적인 선호뿐 아니라 언어와 문화, 개인별 선호에 맞춰 조정되어야 하며, 사용자 피드백과 맥락을 통해 이러한 선호를 파악해야 합니다. 사양에는 질문에 객관적으로 접근하기⁠(새 창에서 열기)처럼 더 엄격하게 적용되는 기본 방침은 유지됩니다. 사용자와 개발자는 모델에 특정 관점을 취하라고 명시적으로 요청할 수 있습니다. 하지만 모델이 그들이 듣고 싶어 할 것 같은 답변만을 근거로 그런 관점을 선호한다고 추정해서는 안 됩니다.

마지막으로, 모델의 활용 사례와 배포 환경이 점점 더 다양해지는 점을 반영해 사양에서 모델을 이제 ‘어시스턴트’ 대신 ‘GPT’로 지칭합니다.

향후 계획

이번 개정은 모델의 역량이 발전함에 따라 사양의 토대가 되는 가치와 논거를 더 명확히 드러내기 위한 첫걸음입니다. 모델 사양은 OpenAI가 구현하고자 하는 행동을 설명한 문서이며, 현재 모델이 이를 완전히 반영하고 있지는 않습니다. 연구와 실제 사용, 피드백을 통해 배우면서 사양과 모델을 모두 계속 개선해 나가겠습니다.

사양의 어떤 부분이 설득력 있는지, 사양이 제시하는 균형점 중 동의하지 않는 부분은 무엇인지, 무엇을 놓쳤거나 불명확하게 남겨 두었는지 여러분의 의견을 듣고 싶습니다. 가치, 가치 간 균형, 구체적인 표현에 관한 피드백은 사양을 개선하는 데 도움이 됩니다. 개정된 모델 사양⁠(새 창에서 열기)을 읽고 여러분의 의견을 공유해 주세요⁠(새 창에서 열기).