gpt에 시켰더니 다른자료가 튀어나오네요

Everlasting_ · 2026-08-18 15:07:43

조회 1,832 · 공감 0 · 댓글 9

요약하기 귀찮아서

요약겸 인포그래픽 작성해달라고했더니

전혀 다른 사업내용이 도출되어 나왔는데... 검색해보니 실제 추진중인 사업이더군요..

문제는 2~3다리 건너면 누가하는지 어느정도인지 확인이 가능한 자료인데

이렇게 오류로 다른자료가 튀어나와버리면... 내가 쓰고 있던 자료들도 다른사람들에게 공개된다는건데...

보안이 필요한 자료들도 있어서 뭐 시키기가 갑자기 겁나네요

절대수훈 · 2026-08-18 15:11:56 · 공감 1

모든 오픈형 AI의 장점이자 단점입니다.
그시절그때 · 2026-08-18 15:18:42

@절대수훈님 아..그래서 회사이름이 openAI 이군요 ㄷㄷㄷ
Everlasting_ · 2026-08-18 15:41:43

@절대수훈님
이정도로 자세하게 나올줄 몰랐어요..
이제 개인정보는 커녕 업무용으로 쓰기 좀 무섭네요
Youtube · 2026-08-18 15:14:35

초기에 이메일 내용 써달라면 남에 개인정보를 술술 불어 써줄때도 있었죠.
Everlasting_ · 2026-08-18 15:42:05

@님
ㅎㄷㄷ 하군요...
원근법 · 2026-08-18 15:23:24

Stealing Reasoning Traces from Proprietary LLM APIs 논문 발표 전 agent 서비스업체들은 8월 기준 patch는 적용되었는데 연구 논문에서 암호화된 reasoning block 이 다른 세션/사용자/모델에서도 재사용될 수 있다는 취약점이 있었다고 합니다.

https://news.hada.io/topic?id=32413
Everlasting_ · 2026-08-18 15:43:00

@원근법님
AI를 활용한 개인정보 탈취? 가 되려나요..
결론적으로 · 2026-08-18 16:06:17

실제로 검색도 되고 있어서 이미 문제가 되었죠...
Everlasting_ · 2026-08-18 16:12:38

@결론적으로님
얘기들었을땐 전혀 상관없는게 튀어나오는줄 알았는데
한번 당해(?)보니 관련업종이라 놀랬습니다...

모두의공원 최근 글