사유와 성찰 | 홍성욱 교수의 인문학 강연 인간과 인공지능(AI), 그들 사이의 이타성

인간과 인공지능(AI), 그들 사이의 이타성

 

 

인간은 이타성을 갖고 있습니다.
하지만 이제는 AI에 대해서도 이타성이 고려돼야 합니다. 더 이상 사람과 사람의 관계에서만이 아니라 비인간 인격체와 인간 사이의 관계에서도 이타성과 호혜성이 문제가 될 수 있다는 것입니다.

인공지능(AI)과 인간의 가치, 그 일치의 문제

지난 2017년 캘리포니아 해안에 있는 작은 공원인 아실로마(Asilomar)에서는 세계의 저명한 과 학자와 AI 관련 종사자들이 모여 ‘아실로마 AI 원칙(Asilomar AI Principles)’을 정립하고 발표했다. 인공지능 연구에 박차를 가하고 있는 이때, 인간에게 호혜적인 인공지능이란 무엇인지, 그 원 칙을 정하기 위해 열린 회의였던 것이다. 이들은 ‘AI 윤리’ 혹은 ‘유익한 AI’라는 주제에 대해 토 론하고 23가지 원칙에 대해 합의했다.

홍성욱 서울대 교수는 “이번 강연은 이러한 아실로마의 AI 원칙이 얼마나 타당하고 또 현실 적인지 분석하면서 호혜적 AI의 의미가 무엇인지, 이것이 어떻게 가능한지에 대해 이야기할 예정”이라며 강연의 문을 열었다.

앞서 언급한 대로 아실로마 AI 원칙을 통해 도출된 사안은 총 23가지다. 홍 교수는 이 중에서도 가장 핵심적인 것은 ‘가치의 정렬’, ‘인류에게 유익한 AI’, ‘초지능’ 에 대한 것이라며 이 세 가지를 중점적으로 이야기했다.

먼저 ‘가치의 정렬’ 문제란 고도로 자율적인 AI 시스템이 작동하는 동안, 그것의 목표와 행동 이 인간의 가치와 반드시 일치하도록 설계돼야 한다는 내용이다. 하지만 이것은 결코 간단한 문제가 아니다. 무엇보다 가장 우선되는 가치가 어떤 것인지, 이를 프로그래밍하는 것부터 여 러 벽에 부딪히기 때문이다.

설명에 앞서 홍 교수는 무인 자동차에 적용된 트롤리 실험을 예로 들었다. ‘트롤리 딜레마’는 세계적으로 유명한 윤리적 사고 실험으로, 여기서는 과거 트롤리, 즉 전차에 적용됐던 문제를 무인 자동차에 대입해 대중에게 설문을 진행했다.

“사람들이 판단을 내리는 가치의 근거는 공리주의입니다. 많은 사람들이 최대의 행복을 누 리는 쪽으로 판단을 내리게 되죠. 그뿐만 아니라 희생자 수가 적은 쪽으로, 혹여 희생자 수가 같다면 보행자를 살리는 쪽으로 답변이 나왔습니다. 하지만 눈여겨볼 것은 많은 사람들이 ‘이 럴 바에는 무인 자동차를 사지 않겠다’고 답했다는 것입니다. 2017년 조사에서는 미국인의 78%가 그렇게 응답했어요. 이처럼 사회적 가치를 도출하는 건 결코 쉬운 일이 아닙니다. 단지 다수의 의견을 따라가는 것도 아니고 복잡한 정치적 상황 속에서 고려되기 때문입니다.”

실제로 독일 정부는 이 문제에 대해 심도 있게 논의했고 2017년 보고서를 공개하기도 했다. 해당 보고서의 핵심은 두 가지다. 첫째, ‘자율 주행 자동차는 익명을 보호하는 쪽으로 프로그래 밍돼야 한다’는 것과 둘째 ‘자율 주행 자동차는 인종을 차별해서는 안 된다’는 것이다. 즉 인종 을 구별해 사고를 내서는 안 된다는 의미다, 이는 더 나아가 ‘장애인 차별 금지’, ‘종 차별 금지’, ‘성차별 금지’ 등의 내용으로 연계된다.

AI,많은사람들에게이익을줄수있을까

눈에 보이지 않는 가치는 수학 공식 등의 알고리즘으로 구성할 수 없기에 프로그래밍이 쉽지 않음을 알 수 있다. 그 점에서 ‘가치의 정렬’ 문제는 결과가 쉽게 도출될 수 없다. 그렇다면 ‘이 익의 문제’는 어떨까. 홍성욱 교수는 ‘아실로마 AI 원칙’에서 두 번째로 중요한 내용은 ‘많은 사 람에게 이익을 줄 수 있는가’에 대한 논의라고 언급했다.

“미국 『프로퍼블리카(ProPublica)』에 게재된 한 기사가 주목을 받은 적이 있습니다. 기사 제목 은 ‘The Tiger Mom Tax’입니다. 미국에 거주하는 아시아권 이민자 부모에 대해 ‘tiger mom’이라고 부르곤 하죠. 한데 이들이 자녀들을 위해 구매하는 온라인 튜터 비용이 비아시안보다 두 배 정도 더 비싸다는 것이 밝혀졌습니다. 해당 회사에서 만든 자동 알고리즘 때문이었다는 거죠. 기사가 게재된 후 해당 회사는 그런 일이 없다고 반박했습니다. 하지만 대중에게는 여전 히 석연치 않은 구석이 있습니다. 이를 통해 우리는 AI 알고리즘에 취약한 계층이 존재한다는 것을 알 수 있습니다. 여기서의 취약 계층은 유색인종, 빈민, 그리고 여성 등입니다.”

우리가 살고 있는 세계, 그 안의 AI 알고리즘은 이미 불평등하다. 그런데 우리는 그것을 인 지하지 못하고 살아간다. 홍 교수는 캐시 오닐의 『대량살상 수학무기』라는 책을 언급하며 “캐 시 오닐은 알고리즘을 객관적 수학이 아닌 일종의 모델로 정의하고 있다. 그 모델에는 많은 가 정이 포함돼 있다는 게 그의 주장이다. 즉 편견이 포함될 수 있다는 것이다. 사회적 편견이 알 고리즘을 통해 더욱 증폭되고, 이것이 결국 성차별과 인종차별, 부익부 빈익빈을 더 악화시킨 다고 이야기한다”고 전했다.

알고리즘은 이미 우리 사회 곳곳에 적용되고 사용되고 있다. ‘프레드폴(PREDPOL)’이라는 회사 는 알고리즘을 이용해 경찰에게 지역의 범죄 발생 확률을 알려주고 있다. 실제로 이 알고리즘이 적용된 후 검거율이 높아졌다고 이야기하지만, 사실은 그렇지 않다는 게 홍 교수의 설명이다.

“예를 들어 누군가 대마초를 피운다고 합시다. 그런데 중산층 백인의 경우 보통 집 안에서 이 행위를 하기 때문에 잡히지 않습니다. 반면 빈민가에서는 집 밖에서 이 행위를 하기 때문에 상대적으로 검거율이 높아지게 됩니다. 그렇게 되면 해당 지역은 경범죄 우발 지역이 되겠죠. 이것이 중요한 문제인 이유는 경범죄가 자주 일어나는 곳에서 중범죄도 많이 일어난다는 통계 가 있기 때문입니다. 즉 악순환이 반복되는 거죠.”

그렇다면 알고리즘의 오용을 방지하기 위해 필요한 것은 무엇일까. 홍 교수는 정보과학과 대안 미디어, 정부 및 규제 기관의 역할이 서로 받쳐줌으로써 불투명한 알고리즘 문제를 폭로 할 수 있다고 언급했다.

초지능, 얼마나 남았고 어디까지 가능할까

마지막으로 ‘초지능’의 문제를 고민할 필요가 있다. 홍성욱 교수에 따르면 현재의 AI는 6세 아 이의 지능 정도다. 그렇다면 6세의 AI 지능이 세계 모든 천재들을 합친 초지능의 상태로 가는 데 시간은 얼마나 걸릴까.

“옥스퍼드 대학교 닉 보스트롬 철학과 교수는 자신의 책 『슈퍼 인텔리전스』를 통해 두 가지 흥미로운 주장을 펼치고 있습니다. 하나는 ‘지능 폭발’의 문제이며 다른 하나는 ‘가속의 문제’ 입니다. ‘지능 폭발’이란 말 그래도 AI의 지능이 폭발적으로 높아지는 거예요. 만약 우리가 사 람의 지능을 능가하는 AI를 만들었다고 합시다. 그럼 이 AI는 자신보다 뛰어난 AI를 만들 수 있겠죠. 이 과정이 반복되다 보면 순식간에 지능이 폭발적으로 높은 AI가 탄생하게 됩니다. 사 람의 아이큐가 160이면 천재라고 하는데, 2만짜리 존재가 태어나는 거예요. 세상의 모든 천재 보다 뛰어난 천재죠.”

더욱 주목할 것은 이러한 존재가 만들어지는 시간이 ‘가속의 법칙’에 따른다는 것이다. 현재 6세 지능의 AI에서 20세 평범한 청년의 두뇌를 가진 AI가 만들어진다고 가정해보자. 6세 지능 에서 20세 지능까지 30~90년이 걸린다고 볼 때, 아이큐 6,000의 AI가 탄생하는 시간은 훨씬 단축될 수 있다. 홍 교수는 “몇 년이 아니라 심지어 몇 분(minute)이 걸릴 수도 있다”며 “이것은 우리가 준비할 시간이 없음을 의미한다. 시간적 여유가 없다는 것”이라고 이야기했다.

“초지능 AI는 인간이 발전시켰지만 인간과는 다른 가치를 지니고 있습니다. 자기 보존과 효율 극대화를 우선에 두고 있죠. 초지능 AI는 삶의 즐거움을 몰라요. 음식, 공기, 온도, 신체적 손상, 질병, 포식, 섹스 및 자손에 무관심하고 음악과 유머, 로맨스, 자연, 전통, 춤, 대화, 철학과 문학 모험, 영성에 흥미가 없어요. 그뿐만 아니라 자비와 겸손, 희생 등 인간이 진화를 통해 발전시킨 가치를 공유하지 않습니다. 인간은 이타성을 갖고 있습니다. 하지만 이제는 AI에 대해서도 이타 성이 고려돼야 합니다. 더 이상 사람과 사람의 관계에서만이 아니라 비인간 인격체와 인간 사이 의 관계에서도 이타성과 호혜성이 문제가 될 수 있다는 것입니다. 이 강의가 여러분에게 미래를 대비하고 고찰하는 시간이 됐기를 바랍니다.”

댓글 남기기

이메일은 공개되지 않습니다. 필수 입력창은 * 로 표시되어 있습니다

fifteen + nineteen =

Font Resize