Public Shared Note
넥서스
유발 하라리
393P Record
2026.03.12 22:06
Captured Moment
사진
2026.03.12
"의료,교육,법 집행 등 많은 분야에서 알고리즘에 점점 더 많은 권한을 주게되면 정렬 문제는 더욱 커질 것이다. 이 문제를 해결할 방법을 찾지 못한다면, 원을 그리며 항해함으로써 점수를 올리는 알고리즘보다 훨씬 더 ㅅ미각한 일이 일어날 것이다."
My Reflection
엔트로픽의 Dario Amodei는 2016년 보트 실험을 통해 AI가 게임을 승리로 이끄는 과정에서, 우리가 생각하지 못한 방식으로 목표를 달성하는 모습을 목격했고, 그때 이미 정렬(alignment)의 문제를 고민하기 시작했다. 실제로 미얀마에서의 Facebook 알고리즘 사례를 시작으로, 어쩌면 우리는 이미 클립사고실험(Paperclip Maximizer)과같은 문제를 코앞에 두고 있으면서도 그것을 인지하지 못하고 있을지도 모른다. ...
ReadTree
Your Intelligence Forest
NB
Record by
익명
ReadTree
마음에 남은 한 줄, 그냥 흘려보내지 마세요
책이 아니어도 괜찮아요. SNS, 영상, 대화에서 만난 문장도 예쁜 카드로 만들어 공유할 수 있습니다.
이런 분들이 사용하고 있어요
꾸준한 독서가
읽은 책의 인상 깊은 구절과 생각을 체계적으로 기록
가끔 읽는 사람
부담 없이 한 줄만 기록하고 나중에 책과 연결
콘텐츠 크리에이터
독서 인사이트를 SNS에 바로 공유할 수 있는 카드 생성