개요
해당 포스팅 시리즈는 “Unerstanding Deep Learning” 책을 학습하는 과정을 기록하는 스터디 노트이다.
이번에는 21장, Deep learning and ethics에 대해 다룬다.
AI가 윤리적 문제를 가지고 있음을 알고는 있었지만 막연히 알고 있었을 뿐이었다. 해당 챕터에서는 윤리적인 문제 전반을 체계적으로 나누고 분석하는 내용을 다루었는데 분석된 결과를 보니 어떤 문제가 있는지 한 눈에 알 수 있어 시각이 넓어진 것 같다.
특히 이 Figure 21.1을 보고 이렇게도 볼 수 있겠구나 싶어 인상깊었다. 사람과 AI가 있을 때 두 주체 사이에 mismatch가 생기면 목적이 맞추어지지 않은 것이고 그 권한과 대신 수행하는 행동 사이에는 정보적 비동기가 생기는 것이다. LLM을 자주 사용하면서 내가 원하는 결과가 나오지 않는 답답함을 많이 느꼈는데 이런 이유로 mismatch가 생긴 것이었다.
그 밖에 편견, 의도적인 잘못된 사용, 환경 문제 등 각 분야를 세분화 시켜서 문제를 분석한 것도 이런 문제가 있구나를 한 눈에 알 수 있었다.
Reference
[1] Prince, S. J. D. (2023). Understanding Deep Learning. The MIT Press. Retrieved from http://udlbook.com