자료검색

지금은 알고리즘의 막강한 권력을 깨부술 차례다!

아무것도 예측할 수 없는 인공지능 독점 시대에 알고리즘의 권력은 점점 거대해져 경제, 의료, 보안, 예술 분야까지 파고들어 부와 권력을 지배하고 있다. 비즈니스, 정부, 경찰, 마케팅과 연관해 수학 모델을 이용해 연구해온 저자 해나 프라이는 인간이 지나치게 많은 것을 객관화하고 자동화하려는 욕망 때문에 오히려 개인정보 노출과 같은 문제를 얻었다고 지적한다. 저자는 인공지능으로 인해 인간성이 어떻게 변했는지 그 핵심을 파악하고 다양한 분야의 리포트를 종합해 개인정보, 편향, 오류, 책임 소재 등의 문제에 대한 경각심과 함께 보다 현명하게 기술을 활용하는 법을 제시한다.
경계가 사라진 현시대에는 그에 걸맞은 냉철한 질문을 던지는 지혜가 필요하다. 이 책은 과학 기술을 어떻게 받아들일지에 대한 통찰과 함께 우리 자신을 지키는 것을 넘어 더 나은 미래를 만들기 위한 새로운 아이디어를 선사할 것이다.

새로운 기술의 정면에 던지는
날카로운 질문과 생존을 위한 전략
사람들은 넷플릭스가 취향별로 추 천하는 영화를 자연스레 선택하고, 핸드폰에서 검색한 키워드는 원하든 원치 않든 웹사이트의 배너 광고로 마주하게 된다. 이런 기술의 뒷면을 보면 언제나 알고리즘이 숨어 있다. 기계 시대를 움직이는 보이지 않는 부품인 알고리즘은 오늘날 소셜 미디어부터 검색엔진, 의료, 법원, 마케팅 등의 분야에서 막대한 영향력을 미치고 있다.
런던대학교에서 도시 수학을 가르치는 해나 프라이는 ≪안녕, 인간≫에서 다양한 알고리즘과 인공지능이 사회를 어떻게 통제하는지와 인간으로서 살아남는 방법을 이야기한다. 저자는 오만하고 독재적인 알고리즘은 깨부수고, 기계를 객관적인 만능 해결사로 우러러보지 않는 미래를 만들어야 한다고 말한다. 그러기 위해 “기계의 오류와 결함은 물론, 인간의 결점과 약점까지 이해”해야 한다며, 우리가 알고리즘을 어떻게 잘못 이해하고 있는지와 어떤 관점에서 미래를 바라볼 것인지에 대해 다양한 사례를 통해 접근해간다.

‘공짜 옵션’에 장님인 사람들 덕분에,
이 시대 최고의 황금이 된 ‘개인 데이터’
이 책에서 저자는 알고리즘으로 인해 개인 데이터의 유출이 얼마나 심각한 문제인지 역설한다. 우리가 SNS에 올린 글과 ‘좋아요’를 누른 게시물, 은밀한 검색 기록뿐만 아니라 정치 성향, 복용하는 약, 임신 중절 여부까지도 무심코 ‘동의’하는 순간 모두 데이터 브로커에 팔린다. 데이터 브로커는 이 데이터를 이용해 우리의 호불호에 따라 최대한 관심사와 맞는 광고를 띄운다. 여기까지는 그럭저럭 괜찮다고 생각하는가? 그러나 이러한 데이터는 인간을 조종하는 데까지 널리 쓰인다. 대선 동안 조작된 가짜 뉴스를 퍼뜨려 유권자를 조종하고, 중국 정부는 각종 은밀하고도 사적인 데이터들을 점수로 집약한 즈마신용점수를 통해 개인의 신용도를 평가한다. 저자는 데이터가 이 시대의 새로운 황금이라면, 우리는 현재 거친 미국 서부 개척 시대를 사는 셈이라며 무료 알고리즘에 의문을 품을 것을 경고한다.

개인의 이익과 공공의 이익이 충돌할 때
어떤 선택을 할 것인가
알고리즘이 적용되는 대부분의 산업에서는 개인의 이익과 공공의 이익이 충돌하는 팽팽한 갈등 상황이 자주 발생한다. 결론 내리기 쉽지 않은 이 논쟁이야말로 알고리즘이 믿을 만한지 파악하는 데 그치지 않고 인간의 한계와 가치를 결정할 것이다.
저자는 의료 파트에서 개인정보 보호와 공익 사이의 갈등을 다룬다. 개인뿐만 아니라 인류 전체의 건강 증진을 위해서는 수많은 사람의 데이터가 필요하다. 예컨대 암을 치료하는 데 쓰이는 의료 기계를 만들 때 개인과 인류 중 누구를 위해 작동해야 할지 ‘선택’해야 하는 상황이 오게 마련이다.
“인류 전체의 이익을 위해 작동하는 기계는 누가 장기이식을 받아야 할지 결정할 때 핵심 목표에 맞추어 ‘되도록 많은 생명을 살리는’ 데 우선순위를 둘 것이다. 당연히 치료법도 오로지 환자 개개인의 이익만을 염두에 두는 기계와는 다르게 제시할 것이다. NHS나 보험사의 목적에 맞추어 작동하는 기계는 되도록 비용을 적게 들이려고 할 테고, 제약회사에 도움이 되도록 설계한 기계는 특정 약품을 다른 약품보다 많이 쓰도록 촉진하는 데 초점을 맞출 것이다.” 따라서 당신의 선택이 누군가의 이익을 가져올 것인지 경계해야 한다고 힘주어 이야기한다.
이어서 자율주행 차량을 설계할 때 충돌 시 어느 쪽의 목숨을 우선해야 하는지 선택하기 어려운 딜레마도 다룬다. 저자는 충돌을 피할 수 없는 상황에서 콘크리트 벽을 들이받아 보행자들을 살릴 것인지, 계속 달려 탑승자만은 살릴 것인지와 같은 선택을 피할 수 없는 상황을 가정하며 자율주행에 책임 소재와 윤리적 문제가 자리한다고 지적한다. 이는 “무인자동차에서 무엇이 중요한지 인식하게 하고, 나와 남의 목숨이 지닌 가치를 저울질하는 알고리즘을 우리가 어떻게 느끼는지 시험”하는 중요한 질문이기도 하다.
이처럼 서로의 목표와 동기가 충돌할 때 알고리즘의 위험은 은폐되고 이익은 부풀려진다. 신기술의 중심에는 힘과 기대치, 통제, 책임의 위임과 관련한 난제들이 자리하기 때문이다. 저자는 개인정보가 악용될 위험과 책임 문제 등을 무릅쓰고 알고리즘을 신뢰할 수 있을지 현실을 짚으며 최선의 해법을 제안한다.

기존의 가치를 뒤집는 탁월한 통찰력을 위해
이 책은 알고리즘이 나쁘다고 주장하는 것이 아니다. 다만 알고리즘으로 얻는 이익이 해로움보다 큰지 질문을 던져야 한다고 말한다. 그리하여 “자신의 판단보다 기계를 더 신뢰해야 할 때가 언제인지, 기계에 통제권을 맡기고 싶은 유혹을 떨쳐야 할 때가 언제인지를 알아본다.” 또한 우리가 얻을 이익과 해악을 구분하여 어떤 미래를 만들지 전망과 과제를 냉철하게 파헤친다.
기계와 인간의 완벽한 공생을 통한 미래의 가능성을 제시하는 이 책은 각종 위기와 쏟아지는 정보에 휘둘리지 않고 헤쳐나갈 수 있도록 중요한 이정표가 되어줄 것이다.

들어가기에 앞서
프롤로그

1장 인간과 기계의 힘겨루기
알고리즘이란 무엇인가
알고리즘의 분류 방법
알고리즘은 얼마나 믿을 수 있나
인간 본연의 어리석음을 만나다
알고리즘의 판단을 거부해야 할 때
팽팽한 힘겨루기

2장 전지전능한 데이터
티끌 모아 태산
목표 고객을 찾아라
데이터의 서부 개척 시대
인간을 조종하라-케임브리지 애널리티카
미세한 인간 조종의 힘
‘나를 평가하세요’

3장 알고리즘이 인간을 재판한다면
행운의 벌금형
사법 방정식
집단지성의 알고리즘
판사 대 기계의 판단
다스베이더를 찾아라
알고리즘의 ‘편견’
인간의 판단을 흐리는 요인들
믹스 앤드 매치

4장 알고리즘은 내 몸을 알고 있다
데이터와 패턴
딥러닝 알고리즘의 탄생
인간과 AI의 ‘동맹’
작은 데이터의 위력
질병 예측의 힘
디지털 의료 진단
‘왓슨’의 가능성과 과제
데이터 확보의 어려움
개인정보 보호 문제
유전자와 개인정보 유출
나의 이익과 공공의 이익 사이에서

5장 자율주행 자동차는 완벽한가
자율주행의 난제들
‘베이즈 정리’를 숭배하라
누구를 살릴 것인가
환상 속의 완벽한 자율주행
에어프랑스 참사
자동화의 역설
오류를 피할 길은 없다

6장 알고리즘 경찰관
스프링클러를 닮은 알고리즘
범죄 예측 지도
지진과 범죄의 연관성
범죄 정보원 프레드폴
범죄 예측 알고리즘의 장단점
범죄자와 닮은 얼굴
얼굴 인식을 둘러싼 쟁점
도플갱어를 찾아라
얼굴 인식 알고리즘의 두 얼굴
난감한 딜레마

7장 기계도 예술가가 될 수 있을까
‘평행우주’ 실험
흥행작을 맞혀라
작곡은 식은 죽 먹기
아름답지만 깊이는 없는 작품

에필로그
주
찾아보기