(후략)
출처 리멤버(https://community.rememberapp.co.kr/post/208348)
근데 저는 일견 이해는 가네요. 저도 나름 한 분야에서 종사하는 사람으로서 일반인보다는 그 분야에 대해 잘 알고 제안, 컨설팅을 하는데
요즘 몇몇 고객은 chatGPT는 이렇다는데요, GPT는 이게 더 낫다는데요.. 이럽니다.
사실 ChatGPT는 엄청 보수적으로 추천하는 경향이 있어서 제 입장에서는 오버스펙이라도 그렇게 설치해 주면 유통 마진도 많이 남고 좋긴 합니다. 그래서 "아 그러세요?" 하고 해드릴 때도 많죠. 굳이 그걸 또 설명하고 왜 그렇게 되는지 이해를 시키는 건 제가 아니아 선생님이나 교수가 학생에게 돈 받고 해주는 일이니까요.
저 같은 사람도 그런데, 하물며 의사는 하루에도 GPT 보고 오는 환자들 때문에 얼마나 스트레스 받을까요.
GPT만 믿고 아무약이나 섭취하는 사람들이 정말 많겠네요.
대표적으로 한국에선 맘대로 살수있는 파스(메틸살리실산계열) 나 회충약 같은거 미국에선 처방전 없으면 못삽니다. 몇년전 시끄러웠던 회충약 말기암에 좋다고 이상한 소리하던거도 미국에선 처방전 없어서 맘대로 못먹었어요.
CVS나 월그린 같은데 매장크다고 별 약 다있을거같지만 처방전 없이 살수있는 약은 소염진통제 같은게 용량, 캡슐수, 메이커 다양화 해서 엄청나게 깔려있을 뿐입니다.
의사가 한 얘기에 "ChatGPT 는 다르게 얘기하던데요?" 라고 반박한다 -> 의사로서는 미치겠죠.
전자라면 좋은거 아니에요?
그리고 드믈게 그게 멎는 사례가 있거든요. ㅠ
결국 가게 만들어줘서 좋은것 같아요 ㅋㅋ
와이프는 유료 chatGPT에게 특정 eBook을 찾아달라도 했더니 출판사 ebook 페이지만 나오고 페이팔로만 결제가 된다고 저에게 대신 결제를 해달라고 하더군요. 아마존 킨들에 없을 수가 없다 고 다시 시켜보라고 했더니, 킨들, 아마존에서 찾아달라고 명령을 해도 한국 아마존에는 없습니다 이런 답변을 했습니다. 한국 아마존 쇼핑이나 이북은 없는데요. 한국어 번역을 재공할 뿐이지요.
결국 아마존 홈페이지에서 검색하니까 바로 나오더군요. 아마도 챗gpt의 크롤링을 막아놔서 그런 것 같습니다. 명백한 할루시네이션이죠. 자기는 아마존은 검색할 수가 없습니다 로 답을 해야지 아마존에 없습니다 라고 답을 한건 틀린 답이니까요
안드로이드 개발도, 16, 17에 맞게 답하라도 하지 않으면 안드로이드 10 개발문서를 가져다 답을 하더군요. 제미나이가요. 11에서 컨셉이 바뀐건데 말이죠.
이런건 ai만 믿으면 바보되기 딱 좋은 예입니다
환자 기대대로 '오~ 말씀하신 것처럼 심장/폐 문제일 수도 있으니 엑스레이 찍고, CT찍고, 심장 초음파 검사하고 블라블라~~." 한 후 검사할 것 다 하고 "이상 없으니 다른 문제 확인해보세요. 여기서는 다른 문제는 모르겠네요." 식으로 진행되는 루틴이 의사가 판단 전혀 안하고 진행된다면 필요없는 검사를 아주 많이 하게 될 수 있죠.
외래에서도 몇달전부터 6.5를 넘어서 약 복용하자고 말씀드렸는데 안먹겠다고 하시던 분입니다.
고전적으로 Metformin 을 시작했습니다.
약을 먹고 숨이 막히는 것 같고 답답하고 잠을 못잤다. GPT에 물어보니 119를 불러서 병원에 즉시 가서 응급진료를 받아야 하고, 약품 부작용으로 신고해야 한다고 했다. 나는 그약 못먹겠다.
입원중이라 119는 못불렀다.
............. ㅎ
Cr 1.4 근처로 외래오신 70대 환자분
제미니가 신장기능 안좋다고 이러다 곧 투석한다고 했다고 오셨습니다.......
ㅎ.......
만능은 아니고 사용자의 입력 내용에 따라 response가 달라질 수 있는데
비판적인 사고가 없고 정확한 정보 검색이 힘든 상황에서
본인의 bias가 context에 들어간 내용들을 신뢰하시면서 오시면 너무 힘듭니다.
심지어 xxx가 그랬다!!! 라고 네가틀렸다고 계속말씀하시면 힘들어요...
전문직이 책임져야할 전문성을 사람들이 AI한테 의탁하고 있는 셈이니까요.
근데 AI 결과는 법적으로 아무도 책임 안지거든요.
AI만 맹신하고 온 환자를 처럼보는 의사 사람이 신뢰를 줄 수 없다면 더 나은 AI가 설득하는 수밖엔 없어보이네요.
인터넷에서 봤는데요, 유튜브에서는 이렇다던데요 하는 환자들도 예전부터 많았을 테고요.
그때는 잘못된 정보라고 설명하고 넘어갈 수 있었겠지만,
지금은 AI가 실제로 전문직 영역까지 들어오고 있으니 의사들도 예전보다 민감하게 반응할 수밖에 없는 것 같네요.
이런 경향이 제법 있지요.
실제 인터넷에 의사는 발견 못한 질병을 gpt가 찾아줘서 살았다 하는 경험글들이 많이 올라와서 긁어댓던것도 많았고....
워낙에 많은 일이 현장에서 있습니다.
특히 1차 진료쪽은 저런식으로 gpt 말만 듣고 내병이 뭐니 뭐를 처방하라고 진단 처방 다 내리고 오시는 분들도 많아서 PTSD 처럼 반응했을 가능성도 있습니다.
그리고 다른 분야도 그렇겠지만 모든걸 명명백백하게 다 밝혀내겠다치면 비용,절차가 필요하죠 그런 것도 다 무시하면 월드컵 진출 경우의수 읊어봐라 하는거랑 다를게 없어지는거죠
그리고 사람들은 의사 말도 안 따르지만 gpt말에도 '절대적'으로 따르지 않습니다 gpt가 검사해야한다고 이야기해도 안 하고 약 먹어야한다 해도 안 먹죠
원인불명의 증상으로 진료받으러 갔는데
어려 보이시던 의사선생님이 저와 상담하면서 컴퓨터로 네이버검색을 하시더군요.
차트 타이핑하는 줄 알았더니 선생님 등뒤 유리창에 모니터가 반사되서 다보였어요.^^
무슨 냉각레이저에 충격파 뭐뭐에 7만원씩 열몇번을 해야 한다길래 다신 안갔습니다. 아니 돈이 없어 못갔습니다.^^
그런데
저희 업계도 난리입니다. 방구석 전문가들 + AI 맹신도들 때문에.
어디 "컴덕후 싸구려 현장업자들 스터디방"에 속아 이상한거만 잔뜩 배워서 사고쳐놓고 와선
끝까지 이게 맞네 저게 맞네 훈수질 하는 통에 곤란했던 적이 가끔 있습니다.
어리석은 사람들은 해당분야의 경력자,전문가가 아니면
AI에게 의도에 맞게 정확하게 질문하고 AI의 결과물을 정확하게 알아들을수가 없다는 걸 모릅니다.
결국 각분야의 전문가들이 일반인들에게 AI의 결과물을 통역해 주는 일까지 떠안게 된 셈이지요.