· 톺아보기

유튜브) 엔트로픽 CEO의 인터뷰.. 윤리적 고민 너무 공감되네요

Juzis ·

조회 4,359 · 공감 0 · 댓글 13



이게 전략이든 뭐든 간에 내용만큼은 정말 공감됩니다


개인적 의견만 적어보자면..


생화학무기야 충분히 만들어낼 수 있는 기술이고.. 기술의 개발 단계마다 점검도 이뤄져야겠고.. 


일반인이 독약제조해 안 좋은일 벌이는 일도 있었을거고..



에이전트 이용자가 이상한 질문이라도 할 떄엔 자유로운 이용 보다는 어떤 패널티를 줘야할텐데 민간기업이 일부러 그렇게 하긴 껄끄럽겠고..


이젠 꼭 데이터가 들어있지 않더라도 가상이나 피지컬적으로 직접 경험해 데이터 확보도 가능한 기술이 생겼겠고..


그걸 꼭 클로드 같은 기업꺼 이용 안해도 될 만큼 자체 로컬모델을 만들어뒀을테니 윤리적인 협의를 표면적으로라도 해보자는거 같고..


말 그대로 양날의 검이네요 ㅠㅠ



출처 : https://youtu.be/5wDzydCqkV8?si=HVLw_VG9BeCT9Mi3

댓글 13

  1. 전시품물건 · · 공감 4
    냉혹한 현실 앞이라면 사실 그럼 그냥 도태되고 끝입니다. 마치 전교 1등이, 아 인생에서 공부가 제일 중요한게 아니야, 우리 모두 잠시 쉬면서 취미생활 좀 할까? 하는거랑 마찬가지죠. 수시에 미친 학생들이 이걸 용납할까요?
  2. 동그리a ·
    전시품물건님// 취미생활 하자는 전교일등은 취미즐기고 뒤로가선 공부하죠 ㅋㅋ
  3. 존폴 · · 공감 2
    그러긴 한데, 중국이 아몰랑~~ 하면 말짱 도루묵이긴 할 것 같습니다.
  4. 임펄스트리거 ·
    돈은 벌어야겠고 도덕성은 갖춰야하고… 네 잘 들었습니다..
  5. 호비브라운 · · 공감 1
    다들 이걸 되게 패권주의 구조로 단순화해서 이해하는 거 같은데, 미국에선 십년 넘은 고민입니다. 인공지능 업계 네임드들이 2010년대부터 진지하게 토론하고 싸워온 주제에요.
  6. 일일신 ·
    인간이 기술발전을 멈추는 단계는 있을 수 없고, 인공지능의 선의만 믿고 가야죠.
  7. 위대한발자 ·
    글은 숨은 의도와 작성된 배경을 고려해야죠. 사다리 걷어차기란 의심을 받고 있습니다.
  8. 부산행 ·
    농담이지만 뒤에서는 아묻따 투자 및 발전 고고고 외치고 있을 것 같습니다. ㅎㅎ
  9. Ianmoone · · 공감 1
    썸네일도 그렇고 "다같이 개발 늦추자"는 소리로 오해하기 딱 좋은데 본질은 그게 아닌 것으로 이해하고 있습니다.
    발전초기상황인 지금, 지나친 경쟁속에 기존 안전장치는 거의 무력화됐고, 이로인해 의도치않은 사고도 발생하는 현 상황을 봤을때, 지금상태로 임계점을 넘어가면 손을 못 쓰니까 "최소한 통제할 수 있는 브레이크가 무엇인지 다같이 고민하며 나아가자"는 취지로 보아야한다고 생각합니다.
    중국 문제도 미국이 선두에 있을 때 움직이자는것이 현실적인 해법으로 볼 수 있습니다.
    중국에게 동참하자고 해도 쫓아가는 입장에서 참여할리가 없고, 그걸 설득하거나 기다릴 여유도 없으니까요.
  10. 으할할할 ·
    1등이 된자들의 사다리 걷어차기 아닐까요..
  11. 니자드 · · 공감 1
    자기가 부자가 되기 전까지는 과연 이걸 몰랐을까요? 만일 정말 이제야 알았다면 이런 방식이 아니라 자기를 희생해서라도 뭘 해야 하지 않을까요? 제안한다는 게 결국 자기에게는 별로 해도 없는 방식인데요? 고민 많이 한 척 하지만 결국 고민을 덜 한 거죠. 지식만 많고 지혜가 없는 사람의 위선을 보는 기분입니다
  12. KangBada ·
    모르겠네요.. 윤리, 도덕 모두 중요하다고 생각하지만 현실에서는 매번 다른 가치(ex: 돈)에 밀리더라고요.
    아모데이도 지금이야 엔트로픽이 상장을 안했으니까 저런말을 쉽게 할수 있는거지, 상장한 다음에 주주들에게 물어뜯기면 저런말 못할거 같아요.
  13. 결론적으로 ·
    에이 설마 AI가 사람 죽이겠어? 하면서
    어린아이에게 핵폭탄 버튼 주어주는 꼴이죠...

모두의공원 최근 글

모두의공원 목록 더 보기