제프리 힌튼 교수 : 인공지능이 인류에게 초래하는 위험 경고

제프리 힌튼 교수는 인공지능(AI)이 놀라운 능력에도 불구하고 인류에게 가하는 잠재적 위험을 강조한다.

 
인공지능(AI)은 최근 우리 삶의 여러 측면에 혁명을 일으키며 눈부신 발전을 이뤘습니다. 음성 비서부터 자율주행차까지 AI가 우리 사회에 깊숙이 녹아들고 있습니다. 그러나 '인공지능(AI) 분야 대부'로 불린 제프리 힌튼 교수는 AI가 인류에게 가져올 잠재적 위험에 대해 우려를 표명하고 있습니다. 이에 인공지능에 대한 어떠한 위험이 있는지 인터뷰 내용을 소개하겠습니다.

AI 위험성 경고-파괴된 도시

 

 

 제프리 힌튼 교수

 

제프리 힌튼 교수는 유명한 컴퓨터 과학자이자 인공지능(AI) 분야에서 가장 영향력 있는 인물 중 한 명입니다.

1947년 12월 6일 영국에서 태어난 힌튼은 신경망과 딥러닝 발전에 지대한 공헌을 해왔습니다. 힌튼은 1970년에 케임브리지 대학에서 실험 심리학 학사 학위를 취득한 학력을 가지고 있습니다. 이후 1978년 완성된 에든버러대 인공지능 박사학위를 받았습니다.

그의 초기 연구는 인간 인지 계산 모델에 초점을 맞췄고, 특히 신경망이 인간의 학습 프로세스를 모방하는 방법을 탐구했습니다. 힌튼 교수는 경력을 통해 AI 연구에 앞장서 왔습니다. 그는 혁신적인 알고리즘과 아키텍처를 개발해 딥러닝 분야를 발전시키는 데 중추적인 역할을 했습니다.

신경망을 훈련하기 위한 기술인 백 전파에 관한 그의 연구는 복잡하고 다층적인 신경망 훈련을 가능하게 하는 데 도움이 되었습니다. 이 돌파구는 컴퓨터 비전, 자연어 처리, 음성 인식 등 다양한 AI 애플리케이션에 큰 영향을 미쳤습니다.

2012년 힌튼 교수는 학생 일리야 서스케버(현 OpenAI 수석과학자), 알렉스 클리제프스키(현 토론토대 연구자)와 함께 수천 장의 사진을 분석해 꽃, 개, 자동차 등 공통 물체를 식별함으로써 AI가 스스로 학습할 수 있는 신경망을 구축했습니다. 2018년 힌튼 교수와 다른 두 명의 오랜 협력자는 신경망 연구로 '컴퓨팅 노벨상'이라고 불리는 튜링상 비롯하여 컴퓨터 과학 분에서 최고의 영예로 꼽히는 수많은 상과 영예를 수상했습니다. 이 상은 딥러닝에 관한 선구적인 연구와 AI 분야에 대한 변혁적인 영향을 평가되고 있습니다. 힌튼 교수는 스타트업을 구글에 매각한 뒤 10년 넘게 구글 연구원으로 활동하며 가장 존경받는 목소리 중 하나로 평가받고 있습니다.

힌튼 교수는 연구 공헌과 별개로 미래 세대 AI 연구자들에게 가르치는 일과 지도하는 데도 관여해 왔습니다. 그는 카네기 멜론 대학과 토론토 대학 등 몇몇 유명한 기관에서 교수직을 맡았고 현재는 명예교수를 맡고 있습니다. 제프리 힌튼 교수의 AI 분야에 대한 통찰력과 전문성은 인공지능의 급속한 개발과 전개에 따른 잠재적 위험에 대한 우려를 목소리로 내게 됐습니다. 초지능 시스템의 리스크, AI 알고리즘 편향, 책임 있는 AI 개발 필요성에 대한 그의 관점은 AI 커뮤니티 안팎에서 중요한 논의와 토론을 촉발했습니다.

 

 

 제프리 힌튼 교수의 인공지능에 대한 인터뷰

 

● 돌연 구글 사임 의사를 표명한 힌튼 교수

 

그는 갑자기 그만두기로 결정했습니다. 힌튼 교수는 우선 "인공지능이 세계에 심각한 피해를 줄 수 있다는 우려를 세계와 자유롭게 공유하기 위해 구글을 떠난다"라고 밝혔습니다.

힌튼 교수는 뉴욕타임스와의 인터뷰에서 그렇지 않으면 다른 사람이 했을 것이라는 공통된 변명으로 자신을 위로하고 있다며 나쁜 사람이 나쁜 마음을 갖고 AI를 악용하는 것을 막는 방법을 알기 어렵다며 더욱 충격적인 것은 그가 자신의 삶을 후회했다는 것, 그리고 획기적인 창조주에서 종말론자로 변모해 가는 듯했습니다.

사실 힌튼 교수의 우려는 하루 이틀이 아닙니다. 이미 인공지능은 잘못된 정보를 제공하는 도구가 됐고, 많은 업계 관계자는 위험한 것들이 야생에 방출된 것은 아닌지 걱정하고 있습니다. 힌튼 교수는 또 인터넷이 이미 허위 사진과 동영상, 텍스트로 넘쳐나고 있어 국민은 더 이상 무엇이 진실인지 모를 것이라고 우려했습니다.

게다가 인공지능은 사람들의 일을 위협하고 있어 언젠가 우리 모두를 큰 위험에 빠뜨릴 수 있습니다. 캐나다 임상심리학자인 조던 피터슨 교수도 이미 비슷한 의견을 밝혔습니다.

 

 

● 대기업 간의 경쟁은 상황을 악화시킨다

 

힌튼 교수가 신경망을 구축·개발하는 동안 구글바드 오픈 AI 등 기업들도 방대한 양의 디지털 텍스트로 학습하는 신경망을 구축하기 시작했습니다. 힌튼 교수도 처음 위 알고리즘은 기계가 언어를 이해하고 무언가를 생성하는 강력한 방법이라고 생각했지만 인간의 언어 처리 방식에 비해 떨어집니다. 그러나 지난해 구글과 오픈 AI가 훨씬 큰 데이터를 사용해 시스템을 구축하기 시작했을 때 그의 생각은 바뀌기 시작했습니다.

특히 지난해까지는 구글에 피해를 줄 수 있는 기술을 공개하지 않도록 조심하면서 '바른 집사 겸 집사' 역할을 했지만 마이크로소프트가 챗봇으로 빙 검색엔진을 강화하자 상황이 완전히 달라졌다고 주장합니다. 구글도 같은 종류의 기술을 즉각 보급하기 시작해 경쟁을 벌이고 있기 때문입니다. 힌튼 교수는 이런 경쟁은 매우 위험하다며 기술 거인들이 멈출 수 없는 경쟁에 갇혀 있다고 주장했습니다.

 

 

● AI가 고용 시장을 뒤흔들다

 

그는 또 많은 사람들이 두려워하는 것처럼 인공지능 기술이 조만간 고용시장을 뒤흔들지 않을까 걱정하고 있습니다. 현재 채트GPT와 같은 챗봇은 주로 인간 노동자를 보완하는 경향이 있지만 법률보좌관, 개인보좌관, 번역기 등 반복적인 업무를 처리하는 사람이 교체될 수 있다고 경고했습니다.

이어 미래 버전의 기술이 인공지능이 분석한 방대한 데이터에서 예기치 못한 행동을 배우는 경우가 많아 인류에게 위협이 될 수 있다는 우려를 나타냈습니다. 그는 AI 시스템이 스스로 컴퓨터 코드를 생성할 뿐만 아니라 실제로 코드가 마음대로 작동하도록 할 때 개인과 기업이 문제가 될 수 있다고 주장하며 '킬러 로봇'이 현실화될 날을 두려워했다고 설명했습니다.

 

 

● 로봇은 인간보다 똑똑할까?

 

인공지능은 어떤 면에서는 인간의 뇌에 뒤지지만 어떤 면에서는 인간의 지능을 훨씬 능가한다는 게 그의 생각입니다. 또 기업들이 인공지능 시스템을 개선할수록 위험해진다고 말했습니다. 힌튼 교수는 5년 전과 지금을 비교하면 매우 무섭다고 설명했습니다.

로봇이 실제로는 인간보다 더 똑똑해질 수 있다는 생각은 극소수의 사람들에 의해 믿어왔었습니다. 대부분의 사람들은 그것이 매우 가능성이 낮거나 적어도 30년에서 50년은 걸릴 것이라고 생각했지만 힌튼 교수 자신은 더 이상 그렇게 생각하지 않는다고 말했습니다.

 

 

● 다른 전문가의 의견

 

그의 학생과 동료를 포함한 다른 많은 전문가들은 이러한 위협이 가설에 불과하다고 주장하고 있습니다. 그러나 힌튼 교수는 글로벌 규제가 없다면 구글 마이크로소프트 등 다른 기업 간 경쟁은 결코 멈추지 않는 경쟁으로 확대될 것이라고 말했습니다.

물론 힌튼 교수는 그의 우려는 일어나지 않을지도 모른다고 말했습니다. 그는 또 인공지능이 통제되는지 알기 전까지는 기술을 더 이상 확장해서는 안 된다고 믿는다며 세계 최고의 과학자들이 협력해 기술을 통제할 방법을 모색하는 것이 최선의 희망이라고 말했습니다.

이와 관련 구글 수석과학자 제프 딘은 "인공지능에 대한 책임 있는 접근법을 고수하며 혁신적이지만 위험한 상황을 이해하는 법을 계속 배우고 있다"라고 말했습니다."

 

 

*출처 :

Watch: Geoffrey Hinton tells BBC of AI dangers

 

 

*인공지능(AI)에 대한 일론 머스크 최근 의견

 

지난 1일에 일론 머스크는 AI에 대한 선의의 의존도 인류 문명에 위협이 될 수 있다고 경고했습니다.

폭스뉴스의 Carlson은 "Fox & Friends" 에서 머스크가 chatGPT를 "제어"하기 위해 개발 자금을 지원했지만 불행히도 그렇게 진행되지 않았다고 언급했습니다.

"사실상, 그것은 그에게서 빼앗겼고 이제 당신은 그것을 마이크로소프트와 구글이 소유한 상용 제품으로 갖게 되었다"라고 Carlson은 말했으며 "하지만 그의 입장은 한 번도 변한 적이 없는데, 우리가 제동을 걸지 않으면 결국 우리가 가진 모든 것을 파괴할 수 있다. 이것은 핵무기만큼이나 위험합니다."

"AI는 잠재력이 있다는 점에서 잘못 관리 된 항공기 설계나 생산 유지 보수 또는 나쁜 자동차 생산보다 더 위험합니다. 문명 파괴의 잠재력이 있다"라고 머스크는 말했습니다.

*출처 :

Elon Musk to develop 'TruthGPT' as he warns about 'civilizational destruction' from AI

 

 

 

마치며

 

분명 인공지능(AI)는 인간을 위해 만들어졌고 인간의 편리함을 위해 만들어졌습니다.

하지만 그 속도가 너무나 빠르고 가파르다고 생각됩니다. 특히 우리나라와 같이 빨리빨리를 외치는 나라에서 chatGPT와 더불어 최근 출시된 구글 바드등 여러 인공지능 기능들이 걱정되는 것은 저뿐이 아니라고 생각합니다.

하지만 제프리 힌튼 교수님이 말씀하셨지만 그 사용의 편리함과 발전에만 신경 쓰지 우려와 걱정을 하는 사람은 극소수에 불과하다는 것입니다.

향후 미래세계는 어떻게 펼쳐질지 아무도 모르는 것이지만 더 늦기 전에 전 세계의 석, 박사들이 인공지능의 급속한 발전에 대해 제동을 걸 필요는 있다고 봅니다.

그렇지 않으면 정말 우리가 영화나 소설에서 보아왔던 끔찍한 미래의 모습이 되지 않을까 걱정이 됩니다.