친구와 a화장품에 대한 이야기를 했더니 인스타그램 피드에 a화장품의 광고가 뜨기 시작한다. 온라인 서점에서 책을 구매했더니 고객님을 위한 추천 상품 목록이 뜬다. 얼마 전에 내가 구매한 책 목록과 비슷하다 대부분의 사람들은 sns나 구글이 자신의 마음을 읽었다는 느낌을 받은 적이 있다.
누가 나 도청하나 다 기록하고 있는 거 아니야?
가끔 소름 돋고 무서운 기분이 들기도 한다. 한 연구에서는 페이스북이 인간의 모든 감정을 추적하고 소비 인간관계 등을 조작할 수 있다고 밝혔다.
일부 과학자들은 20년 안에 인간과 유사한 지능을 가진 컴퓨터가 등장해 인간을 불필요한 존재로 만들 것이라고 예상했다.
세계적인 수학자 데이비드 선프터는 이런 주장에 반박한다. sns와 인공지능을 향한 공포심이 과장되었다고 말하며 알고리즘에 관한 우려를 하나씩 검증했다.
팩트 체크 1. 알고리즘이 우리의 삶을 통제한다.
페이스북의 데이터 과학자와 코넬대학 연구자는 사용자의 뉴스피드에서 긍정적 게시물을 제거하는 조작이 향후 어떤 영향을 미치는지 실험했다.
연구자들은 약 11만 5천 명의 뉴스피드에서 긍정적 게시물들을 90%까지 제거하고 부정적 게시물들을 평소보다 더 많이 배치했다.
결과는 예상과 전혀 달랐다. 많은 사람들의 우려와 달리 뉴스피드 조작은 사용자의 감정에 거의 영향을 미치지 않았다.
조작된 게시물을 본 사용자들과 조작되지 않은 게시물을 본 사용자들이 실험 이후 사용한 긍정적 단어의 비율은 0.1% 차이에 불과했다.
사람들은 sns가 가짜 뉴스로 사람들을 선동해 선거에서 투표 참가자의 수를 늘린다거나 우울한 게시물을 보여줌으로써 감정에 영향을 준다고 생각한다. 그러나 이것들은 통계학적으로 보면 아주 미미한 효과다.
sns가 우리의 삶에 끼치는 영향은 실제 삶에서 인간관계가 끼치는 영향과 비교하면 매우 약하다.
팩트 체크 2. 알고리즘은 스스로 학습한다. 검색한 콘텐츠가 주르륵 뜨고 말했던 제품이 갑자기 광고에 뜨는 이유는 알고리즘이 스스로 학습했기 때문이 아니다.
정확하게 말하자면 사람이 컴퓨터가 수집한 데이터를 활용해 표적 광고를 하기 때문이다.
이러한 인간 관리자를 데이터 연금술사라고 한다. 예를 들어 누군가 스페인 여행을 검색한 다음 그 사실을 그냥 잊어버렸다고 해보자 웹 브라우저는 그 사실을 기억하여 여행사에 알려준다. 그러면 데이터 연금술사는 상세 타겟팅을 해 사람들이 휴가 계획을 세우는 시점에 맞춰 스페인의 호텔을 예약하라고 제안하는 광고를 띄운다.
우리는 오랫동안 스마트폰이나 컴퓨터를 들여다보면서 가장 가까운 친구들만 알 만큼 상세한 수준으로 sns에 자신에 관한 정보를 제공한다. 좋아요 버튼이 표적 광고에서 발휘하는 힘은 무시무시하다. 당신이 누른 좋아요는 당신에 대해서 많은 것을 알려주고 때로는 광고하는 기업의 매출을 열 배나 증가시킨다.
로봇과 인공지능에 관한 윤리와 문화를 가르치는 드 몽포르 대학교 캐슬린 교수는 이렇게 말한다. 지난 10년 동안 실제로 일어난 일은 대기업들이 소비자들에 관한 데이터를 수집하여 그들에게 상품을 파는 일을 더 잘하게 된 것 뿐입니다.
팩트체크 3. 알고리즘은 인간을 뛰어넘을 것이다.
딥마인드의 최고 경영자 데미스 허사비스는 언젠가 자신의 팀이 인공지능을 제1 저자로 등재한 양질의 과학 논문을 생산하게 될 것이라고 말한다. 궁극의 목표는 기술자 의사 과학자가 수행하는 고난도의 지적 업무들 중 많은 부분을 지적인 기계들이 대체하는 것이다.
그러나 선프터는 그들이 개발하고 있는 알고리즘이 인간과 비슷한 지능 수준으로 발전하고 있다는 단서를 거의 발견하지 못했다.
로봇 축구 월드컵을 보면 두 대의 로봇이 충돌하는 동안 공은 50센티미터 떨어진 곳에 멈춰 있다.
로봇 골키퍼는 천천히 굴러가는 공도 막아내지 못한다. 최고의 언어 알고리즘조차 잇이 문장을 가리키는지 컴퓨터를 가리키는지 혹은 어떤 다른 관념을 가리키는지 알아내지 못한다.
인공지능이 동물들과 경쟁할 수 있을까? 개나 벌 등 각종 생물과 인지 능력을 비교한 결과 인공지능의 인지 능력은 박테리아 수준에 불과했다.
인공지능이 조만간 인간을 대체할 것이다.
그렇다면 왜 일부 과학자나 일론 머스크는 인공지능이 엄청나게 중요한 문제라고 선언한 것일까?
가장 큰 이유는 상업적 요인이라고 할 수 있다.
일론 머스크는 자율주행차를 비롯한 초야심적 프로젝트들을 밀어붙이기 위해 지속적으로 인공지능을 과장 홍보한 것으로 보인다.
인공지능의 발전 현황을 냉철하게 분석한 끝에 서프터가 내린 결론은 이렇다.
현재 알고리즘은 생각보다 평범할 뿐더러 훨씬 더 단순하다 알고리즘이 인간을 지배한다는 통념을 받아들일 것인가 미래의 시나리오들을 냉정하고 차분히 바라볼 수 있는 시각을 갈고 닦을 것인가 그 선택은 오롯이 우리에게 달렸다.
댓글