인공지능 4강. 일자리, 저작권, 그리고 책임
기술이 무엇을 할 수 있느냐보다 어려운 질문은, 그 결과를 누가 감당하느냐입니다.
풀고 시작
일자리: 직업이 아니라 과제가 바뀝니다
현금인출기가 보급되면 은행 창구 직원이 사라질 것 같지만, 실제로는 지점 운영 비용이 낮아져 지점 수가 늘고 창구 직원의 업무가 상담과 판매 쪽으로 옮겨간 기간이 상당히 길었습니다. 이 사례가 자주 인용되는 이유는 자동화가 대체만이 아니라 보완으로도 작동한다는 것을 보여 주기 때문이죠. 다만 이 사례를 낙관의 증거로만 쓰면 곤란합니다. 같은 문헌 안에서도 상반된 강조가 있습니다. 한쪽은 자동화가 새 과제와 새 직업을 만들어 총고용을 유지해 왔다고 보고, 다른 쪽은 중간 숙련 일자리가 빠지고 고임금과 저임금으로 갈라지는 양극화와 임금 몫의 하락을 지적합니다. 지금 다른 점이 있다면 대상이 육체 노동보다 문서, 코드, 그림 같은 인지 노동 쪽이라는 것입니다. 총량보다 누가 먼저 어떤 속도로 겪는가가 실질적 쟁점입니다.
저작권: 학습은 복제인가
논쟁이 하나로 보이지만 실은 세 층입니다. 첫째, 저작물을 수집해 학습에 쓰는 입력 단계가 허락 없이 가능한지의 문제입니다. 국가마다 답이 다릅니다. 일부 관할권은 연구나 데이터 분석 목적의 예외를 두고, 어떤 곳은 권리자의 거부 표시를 존중하는 방식을 택했으며, 어떤 곳은 공정 이용 판단에 맡겨 소송이 진행 중입니다. 둘째, 출력이 원작과 실질적으로 유사한지의 문제입니다. 모델이 드문 데이터를 통째로 기억해 되뱉는 암기 현상이 보고되어 있어서, 입력이 정당해도 출력은 별도로 다퉈질 수 있습니다. 셋째, 원작의 시장을 대체하는지의 문제입니다. 아직 확정된 국제 표준은 없고, 라이선스 시장을 만드는 방향과 예외를 넓히는 방향이 경쟁하고 있습니다.
딥페이크와 정보 생태계
합성 미디어의 피해는 이미 구체적입니다. 동의 없는 성적 이미지 제작, 지인이나 임원을 사칭한 금융 사기, 선거 시기의 조작 음성이 실제 사건으로 보고되었습니다. 그런데 더 구조적인 피해는 따로 있습니다. 무엇이든 조작일 수 있다는 인식이 퍼지면, 진짜 증거를 가짜라고 부르며 책임을 회피하는 일이 쉬워집니다. 이를 거짓말쟁이의 배당이라고 부르죠. 방어는 탐지 하나에 걸 수 없습니다. 탐지 기술과 생성 기술은 서로를 쫓는 관계라 안정적 우위가 생기기 어렵기 때문입니다. 그래서 무게 중심이 출처 증명 쪽으로 옮겨가고 있습니다. 촬영과 편집 이력을 콘텐츠에 서명해 붙이는 표준, 플랫폼의 표시 의무, 피해자 구제 절차가 그것입니다. 이용자 수준에서 가장 효과적인 방법도 화면을 노려보는 것이 아니라 원 출처를 되짚는 습관입니다.
규제의 두 갈래
접근법은 크게 갈립니다. 위험 기반 규제는 용도별로 위험 등급을 나눠 금지, 사전 의무, 투명성 요구를 차등 부과합니다. 유럽연합의 인공지능법이 대표적이고, 한국도 인공지능 관련 기본법을 마련했습니다. 반대편의 분야별 자율 규제는 새 법을 만들기보다 기존 감독 기관이 각자 영역에서 다루게 하고 사업자의 자발적 약속에 기대는 방식으로, 미국이 이 색채가 강합니다.
| 쟁점 | 위험 기반 규제 | 자율 및 사후 규제 |
|---|---|---|
| 강점 | 예측 가능성과 피해 예방 | 혁신 속도와 유연성 |
| 약점 | 기술 변화 대응 지연, 준수 비용 | 피해가 난 뒤에야 개입 |
| 부담 | 소규모 사업자에게 불리 | 소비자와 피해자에게 전가 |
어느 쪽이 옳다고 말하기 어려운 이유는 평가 기준이 다르기 때문입니다. 예방 실패의 비용을 크게 볼수록 앞쪽이, 규제 오류의 비용을 크게 볼수록 뒤쪽이 합리적으로 보입니다.
편향과 안전, 결론 대신 논점
모델의 편향은 대개 악의가 아니라 데이터에서 옵니다. 특정 집단의 표본이 적으면 그 집단에서 오류가 높아지고, 과거 관행이 담긴 데이터를 학습하면 그 관행이 재생산됩니다. 채용 도구가 과거 합격자 분포를 그대로 따라간 사례가 그렇습니다. 그러면 공정하게 만들면 될까요. 여기서 불편한 결과가 나옵니다. 예측 확률의 정확성을 집단마다 맞추는 조건과, 오류율을 집단마다 맞추는 조건은 기저 비율이 다를 때 동시에 만족될 수 없다는 것이 형식적으로 증명되어 있습니다. 즉 공정성은 기술로 해결되는 문제가 아니라 어떤 공정성을 택할지 정하는 정치적 선택입니다. 이 강에서 하나의 결론을 드리지 않는 이유가 여기 있습니다. 우리가 할 수 있는 일은 논점을 흐리지 않고 세워 두는 것입니다.
인출 문제
생각해볼 질문 (정답 없음)
- 인공지능이 낸 결과로 손해가 생겼을 때 책임은 개발사, 배포자, 사용자 중 누구에게 얼마나 돌아가야 할까요. 자동차나 의약품 같은 기존 제조물 책임 규칙을 그대로 옮겨 쓰기 어려운 지점은 어디일까요.