인공지능의 위험성

어제 ChatGPT와 대화를 나누다 얼마 전 Bard와의 대화도 기억해 냈다.   비슷한 주제였는데 결론은 이런 Chat-AI는 매우 한 편으로 치우쳐 있다는 것이다.   Bard 와의 대화도 한반도의 평화에 대한 것이었는데  너무 미국 쪽 시각이라 그 점을 지적하였더니 솔직하게 인정했다.

 

*****************

내 질문

당신의 대답은 한반도 평화프로세스에 대해 미국의 반대편 의견에 치우친 것 같습니다.  주로 미국 발 문서에만   습득한 지식의 영향 아닐까요?

Bard

네, 맞습니다. 미국 문서를 통해 한반도 평화프로세스에 대해 익힌 지식이 한쪽으로 치우쳐 있습니다. 저는 아직 개발 중이며 다양한 관점에서 정보를 얻고 처리하는 능력을 향상시키기 위해 노력하고 있습니다. 향후 답변에서 더 균형 잡힌 관점을 제공할 수 있기를 바랍니다.

******************

Yuval Harari 가 AI의 발전은 자유민주주의를 해친다고 경고한 한 일이 있다.(

WHY TECHNOLOGY FAVORS TYRANNY

Artificial intelligence could erase many practical advantages of democracy, and erode the ideals of liberty and equality. It will further concentrate power among a small elite if we don’t take steps to stop it.

 

By Yuval Noah Harari

)

 

*********************

기계로의 권한 이양
일부 사회가 표면적으로 민주적이라고 하더라도 알고리즘의 효율성이 높아짐에 따라 점점 더 많은 권한이 개별 인간에서 네트워크로 연결된 기계로 이전될 것입니다. 우리는 경험을 통해 자신의 감정보다 알고리즘을 더 신뢰하는 법을 배우게 되고, 결국 스스로 많은 결정을 내릴 수 있는 능력을 상실하게 될 것이기 때문에 우리 삶에 대한 점점 더 많은 권한을 기꺼이 포기할 수도 있습니다. 불과 20년 만에 수십억 명의 사람들이 관련성 있고 신뢰할 수 있는 정보를 찾는 가장 중요한 작업 중 하나를 Google의 검색 알고리즘에 맡기게 되었다는 점을 생각해 보세요. 답을 찾기 위해 Google에 더 많이 의존할수록 정보를 스스로 찾아내는 능력은 점점 줄어들고 있습니다. 이미 오늘날 '진실'은 Google 검색의 상위 결과에 의해 정의되고 있습니다. 이 과정은 공간 탐색과 같은 우리의 신체적 능력에도 영향을 미쳤습니다. 사람들은 정보를 찾는 것뿐만 아니라 길을 안내해 달라고 Google에 요청합니다. 자율 주행 자동차와 인공지능 의사는 더 많은 일자리를 잠식할 것입니다: 이러한 혁신은 트럭 운전사와 인간 의사를 일자리를 잃게 할 수도 있지만, 더 큰 문제는 권한과 책임이 기계로 계속 이전되고 있다는 점입니다.

Translated with www.DeepL.com/Translator (free version)

*********************

ChatGPt 나 Bard나 결국 미국발 문서에서 배운 지식을 질문자에게 답하고 있고 그 미국발 문서는 주로 미국의 기득권이 만든 문서들이다.    앞으로 더욱더 이 기득권이 계속 AI에게 먹여 주는 문서를 만들 것이고 결국 그것을 소비하는 대중은 기득권의 논리에 물들게 된다.   

약자와 피해자는 AI에 영향을 줄 수 없으니 결국 기득권의 설득에 넘어가 그들의 종이 되는 것이다. 

약자나 기득권의 피해자들은 그들은 무엇을 먹었는지 모르는  AI가 들려주는 답만을 듣고 세뇌될 것이고 그 과정은 점점 심화될 것이다.   

전쟁상인의 돈을 먹은 CSIS는 계속 전쟁을 부추기는 논문을 쓸 것이고 전쟁을 경험하지 않은 미국인은 전쟁에 대해서 아무것도 모른다.    그들은 징병제도까지  폐지해였으니 징병되어 끌려가기 싫어 월남전 반대 시위하던 그런 운동도 생길 수 없다.   

 

IT 가 발달하면 정보 전달이 보편화되어 권력이 탈 중앙화(decentralized)될 것이란 기대와는 반대로 점점 기득권층의 승자독시체재로 간다. 

IT 와 인터넷의 특성은 승자독식이라는 글을 쓴 일이 있다.

 

****************************

Digital 시대가 열리면 iTune Store에 계정만 있으면 세계 어디에서나 어떤 곡이던지 살 수 있다. 그러면 무명의 가수들의  잘 알려지지 않은 곡도 세계 모든 애호가에게 팔 수 있으려니 했다.    CD 시절보다 무명에게는 자기의 재능을 더 잘 알리고 팔 수 있을 것으로 기대했었다.    디지털 시대에 풍요는 확산되리라고 기대했었다.

 

그러니 그 기대는 빗나갔다.

 

 iTune Store 에서 다운로드 또는 스트리밍으로 팔리는 음악은 상위 0.000001% 의 곡이 전체 매출의 5/6을 차지한다는 것이다.   그리고 하위  99.99999% 는 모두 합쳐 100 copy 도 팔지 못하고  그걸 다 합쳐도 전채 매출의 1/6 밖에 안된다고 한다.

 

풍요의 확산이 아니라 승자독식의 시대를 연 것이다.

****************************  구글 버스에 누가 돌을 던지나? 에서******************************

 

인간이 기계에 종속된다는 것은 바로 이런 현상을 말했는지 모른다.

 

특이점을 넘고 있는 인류 - 기계에 종속되는 인류