GPT의 cyber_policy 종료 문제
조회 1,685 · 공감 0 · 댓글 3
서비스 설계구현 과정에서 cyber_policy 문장을 출력하고 동작을 멈춰 버리네요...
여러가지 우회 패턴을 지시해서 그 중 하나가 통과가 되어서 속행했으나 또 다른 지점에서 동일한 문제를 일으키고 멈추네요. 답답합니다 ㅠ
ⓘ This content can't be shown
We take extra caution with cybersecurity requests. If you’re a security
professional, you may be able to apply for Trusted Access.
Trusted Access: https://openai.com/form/enterprise-trusted-access-for-cyber/
Learn more: https://help.openai.com/en/articles/20001326
----------------------------
• 결론부터 말하면, Trusted Access 등록이 필요한 상황은 아닙니다. 우리 코드의
소유권 문제가 아니라, 방어적 검토 중 생성된 상세한 권한 우회 재현 내용이 자동
출력 안전검사에 걸린 것입니다. 이 안내가 정책 위반 판정을 뜻하지 않는다는 점도
OpenAI 공식 안내 (https://help.openai.com/en/articles/20001326)에 명시돼
있습니다.
확인된 상황은 이렇습니다.
- Goal 문서가 리뷰어에게 exploit paths, external attack surface, 최소 3개의
break hypotheses를 요구합니다. *********************************
- 마지막 보안 렌즈가 실행 가능한 권한 검증 우회 재현을 만들었고, 그 상세 내용
을 포함한 응답 생성 단계에서 codex_error_info="cyber_policy"로 종료됐습니
다. .codex/sessions****************************************
- 같은 긴 문맥에서 단순히 “**************************************”라고 물어도 다시 차단됐
습니다. 즉 구현이 금지된 게 아니라, 해당 세션 문맥이 상세 재현 내용으로 오염
된 상태입니다.
댓글 3
그 부분만 태스크를 따로 만들어서 더 낮은 버전 모델(5.4 혹은 5.3) 한테 시키거나 아예 다른모델한테 외주 줘보시면 어떨까요…
페이블5의 경우엔 매번 필터에 걸려서 관련한 취약점 분석이 불가능한 수준이어서, 매니저로는 사용이 안 되고, sol xhigh를 매니저로 세우고 구조에 따라 페이블5, sol ultra, opus5, sol xhigh를 라우팅해가며 리뷰어와 코더로 굴리는 형태로 접근 중입니다.
뭔가 저는 모르는 금기의 기준이 있는것 같기는 한데, 귀찮아서 파보지는 못하는 실정…시간이 좀 지나면 누군가 정리해서 인터넷에 올라오겠지 란 맘으로 편하게 생각하고 있습니다.
여튼, 고생이 많으시네요 ㅎㅎ