일론 머스크 'AI개발을 중지하자고 한 이유'

사진: Unsplash 의 Mahdis Mousavi

AI에 대한 신중함

얼마 전 일론 머스크가 AI 개발을 6개월 동안 중지하자고 했습니다. 정확하게 이야기하면 업계 전문가 상당수와 함께 챗GPT 4세대 이상의 개발을 중단하자고 했습니다. 정말 아이러니하죠. 챗GPT 개발에 가장 앞장선 사람들이 이걸 멈추자고 하는 게 이해가 가지 않았습니다. 최근 많은 영상에서 챗GPT의 장점에 대해서 설명해 주고 있습니다. 그럼에도 불구하고, 우리는 마음속 어딘가 조금의 불안감을 갖고 있지요. 이에 대해서 전문가들도 크게 다르지 않은 것 같습니다.

 

앞으로 더 진보된 기술이 나온다는 데도 우리가 두려움을 갖는 그 이유는 무엇일까요? AI의 역사와 우리가 두려워하는 이유에 대해서 준비해 봤습니다.

 

기술을 개발한다는 건 인간을 이롭게 하기 위함이 첫 번째입니다. 농업혁명은 정착 생활을 가능하게 만들었고 산업혁명은 단순 반복 업무를 대신했죠. 인공지능은 인간 인간의 지능이 필요한 업무를 대신하도록 하는 게 목적입니다. 그래서 이 기술의 가장 중요한 요점은 인간처럼 생각할 줄 알아야 하고 인간처럼 말할 줄 알아야 한다는 것입니다.

 

1950년대 미국의 '다트머스 회의'에서 처음으로 인공지능이라는 용어를 사용하면서 AI의 역사가 시작됩니다. 그렇지만 이때는 단순한 업무만 가능했고 철학적인 의미에서만 대두되는 수준이었다고 합니다. 그리고 이후에는 약간의 암흑기가 있었고 다시 인터넷 세상이 열리면서 AI가 비약적으로 성장하기 시작합니다. 인터넷 속도가 빨라지고 정보가 넘치기 때문에 AI를 학습시키기 너무 좋은 환경이었죠.

 

그렇게 딥러닝을 지나 머신러닝이라는 기술을 탑재하게 됩니다. 쉽게 말해 자체 학습 기능입니다. 이제 인간이 '직접 A 는 B다.'라고 알려주지 않아도 스스로 텍스트를 분석하고 파악할 줄 알게 됩니다. 그리고 오픈 AI가 챗GPT를 공개하면서 본격적인 AI 시대가 시작됩니다. 그러니까 챗GPT가 여기까지 온 건 오픈 AI만 엄청 뛰어난 기술을 갖고 있어서는 아니라는 거죠. 모든 산업이 동시다발적으로 성장했기 때문입니다. 4G, 5G로 인한 데이터 처리 속도 향상과 클라우딩 서비스로 인한 다양한 연계 기능 그리고 대중들의 적극적인 정보활동, 그것을 학습할 수 있는 머신러닝 이런 게 모이고 모여서 여기까지 올 수 있었던 거죠.

사진: Unsplash 의 Joshua Sortino

물론 챗GPT는 '언어를 기반으로 한 AI라서 계산에 좀 취약하다' 등등 이런저런 단점이 보이긴 하지만 이번에 4세대에서 플러그인 형식으로 다른 툴과 연결해서 이 문제를 해결하고 있죠. 이제는 간단 엑셀이나 표를 만드는 것도 가능하고요. 텍스트가 아닌 사진도 인식이 가능하다고 합니다.

 

기존의 컴퓨터와 AI의 가장 큰 차이는 스스로 판단을 할 수 있느냐 없느냐 차이입니다. AI는 첫 번째로, 생각할 줄 알아야 되고 두 번째로, 말을 할 줄 알아야 된다고 했죠. 우리가 대화를 하려면 말을 듣고 판단을 할 줄 알아야 합니다. 그러니까 AI 기술이 발전하면 AI 스스로 판단할 수 있는 판단력을 가진다는 거예요. 그리고 이걸 사람들이 두려워하는 거죠. 만약 AI 기술이 정점을 찍었을 때 그들이 생각하는 윤리와 인간이 생각하는 윤리가 달라져 버린다면, 그리고 우리가 AI를 많이 믿기 시작했다면, 그땐 어떻게 할까요?

 

실제로 한 AI 테스트에서 범죄 전과자 이미지를 보여주고 재법률을 예측하는 실험을 했는데요. 이 AI가 내린 결론은 '흑인이 백인보다 재법률이 높을 것이다.'였습니다. 물론 이 테스트가 보편적인 상황을 반영 건 아니지만, 데이터 기반의 추론이 얼마나 위험한지를 보여주는 사례겠죠. 다수의 경우 이렇게 행동하니 이게 정답이라고 하는 건 소수의 의견이 묵살되기 딱 좋은 케이스라 보입니다.

 

728x90

인간은 효율도 추구하지만 정의도 추구합니다. 그리고 정의롭다는 개념은 인간에게 이롭게 인간이 만들어내는 거예요. AI 가 만약 데이터를 기반으로 지구의 역사를 확인하고 인간이 생태계를 많이 파괴했다고 생각되어 '인간이 좀 없어져도 돼.'라고 판단하면 큰일 나는 거죠. 자 이런 이야기는 잠깐 넘어가고 당장 현실로 돌아볼까요? 골드만삭스에서 생성형 AI로 세계 경제가 연 7%대 성장이 가능하다고 발표했습니다.

 

기업과 국가가 바보가 아닌데 이런 기회를 마다하는 데는 다 이유가 있다는 거예요. 연평균 7% 성장하는 대신 여러분들 업무가 AI 보조 업무로 바뀌고 AI보다 경쟁력이 떨어지는 여러분들의 월급이 반으로 줄어버리면 그게 좋은 일이라고 할 수 있을까요? 그런 이익을 소수가 독점한다면, 정의롭다고 할 수 있을까요? 물론 이것은 엄청 어려운 문제고 특정 기술이 보편화될 때 항상 대두되는 문제 이긴 했습니다.

 

하지만 지금까지와는 다른 것이 일자리, 지적 재산, 인류애 등 사회의 여러분야에서 새로운 문제가 예견되면 이런 문제들을 방어할 수 있는 시간이 필요한데 그에 비해서 현재 AI 성장 속도가 너무 빠른 것이죠. 이미 2021년에 네이버랑 카카오도 AI 윤리에 대해서 교육을 강화했다고 합니다. 다양성을 존중하고 사람을 위한 AI를 개발하겠다. 인간 중심의 가치를 최우선으로 하는 내용이 담겨 있습니다. 그리고 이전에 구글에서도 미 국방부의 인공지능 기술을 지원한다고 해서 많은 직원들이 반대하고 결국 철회된 그런 경우도 있었습니다.

 

사진: Unsplash 의 Aideal Hwa

마지막으로, 인공지능 문제는 철학적인 문제도 있습니다. 저는 인공지능이 인간이 인간을 만드는 과정이라고 생각하는데요. 우리가 다른 동물과 차별점을 두는 것이 스스로 생각을 할 수 있다는 것이고 그 능력을 기반으로 인간은 문명을 이루고 여기까지 왔죠. 결국 AI가 그걸 할 수 있다면 인간과 다를 게 뭘까요? 그걸 인간이라고 인정해야 할까요? 말아야 할까요? 그들은 감정이 있는 걸까요? 없는 걸까요? 없다고 생각한다면, 인간의 감정은 어디서부터 오는 걸까요?

 

이런 철학적인 물음에 답할 수 없다면 우리는 AI를 쉽게 받아들일 수 없을 겁니다. 기능적인 부분에서 챗GPT를 찬양하는 것도 좋지만 가끔 문과적인 감성으로 '이것이 진짜 우리에게 이로운가?, 어떤 의미를 갖고 있는가?' 이런 생각도 해볼 수 있다면 AI와 차별되는 인간만의 특수성을 가질 수 있지 않을까 하고 생각해 봅니다.