* The Verge 기사 - OpenAI can’t tell if something was written by AI after all
https://www.theverge.com/2023/7/25/23807487/openai-ai-generated-low-accuracy
OpenAI가 사람의 글쓰기와 AI 생성 텍스트를 구별하는 것을 목표로 한 도구의 정확도가 낮아서 종료하기로 결정했습니다. 업데이트된 블로그 글 내용*에서, OpenAI는 7월 20일을 기준으로 이 AI 판별기(classifier)를 중단하기로 했다고 밝혔습니다. "우리는 피드백을 반영해 현재 더 효과적인 텍스트 출처 기술에 대해 연구 중입니다."라고 회사 측은 말했습니다.
* https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text
As of July 20, 2023, the AI classifier is no longer available due to its low rate of accuracy. We are working to incorporate feedback and are currently researching more effective provenance techniques for text, and have made a commitment to develop and deploy mechanisms that enable users to understand if audio or visual content is AI-generated.
AI 생성 글을 탐지하는 도구를 종료하는 동시에, OpenAI는 "오디오 또는 시각 콘텐츠가 AI 생성인지를 사용자가 이해할 수 있는 메커니즘을 개발하고 배포할 계획"이라고 밝혔습니다. 그러나 아직 해당 메커니즘에 대해 구체적인 설명은 없습니다.
OpenAI는 판별기가 AI 생성 텍스트를 잡는 데에는 별로 효과적이지 못했으며, 오진으로 인해 사람이 작성한 글도 AI 생성으로 잘못 분류될 수 있음을 솔직히 인정했습니다. OpenAI는 도구를 중단하기 전 더 많은 데이터로 판별기를 개선할 수 있을 것이라고 언급했습니다. [후략]
* ChatGPT (GPT-3.5) 번역.
판별기가 미국 헌법과 성경 구절까지 AI가 쓴 걸로 판별했다는 기사입니다. AI가 쓴 글도 단어, 문법 좀 바꾸면 잡힐 확률이 극히 낮아지는 상황에서 신뢰성 있게 AI로 쓴 건지 판별하기는 힘들어보이네요