AI의 5년후 충격적 전망

AGI의 등장은 인간의 역할을 극적으로 변화시켜 일자리의 30~40%를 쓸모없게 만들 수 있습니다.

AGI 지지자들은 AGI가 복잡한 문제를 해결할 것이라고 주장하지만, 사회 질서와 기본 소득에 대한 우려가 제기됩니다.

미래는 소수의 엘리트가 자원을 통제하고 많은 사람들이 기본적인 생계와 오락에 의존하게 되어 전통적인 민주주의에 도전하는 기술적 봉건제와 유사할 수 있습니다.

 

AGI’s emergence could drastically alter human roles, rendering 30-40% of jobs obsolete.

While proponents argue AGI will solve complex problems, concerns about societal order and basic income arise.

The future may resemble a technological feudalism, where a small elite controls resources, leaving many dependent on basic sustenance and entertainment, challenging traditional democracy.

 

 

(더 자세한 정리):

AGI의 등장:

AI와 로봇이 등장하면 사회의 30에서 40%는 할 일이 없어질 것이며, 노동의 가치가 없어질 것이라고 한다.

AGI가 등장하면 인간이 풀지 못했던 문제를 모두 풀어줄 것이라고 하며, 인간이 멍청해서 풀지 못했던 문제를 풀어주는 순간에 인간은 무엇을 할 것인지 질문을 던진다. 그때는 인간이 하고 싶은 것을 하면 된다고 하지만, 절대로 그런 일은 없을 것이라고 한다.

카이스트에서 뇌과학과 인공지능을 연구하고 있는 김대식은 AI-2027이라는 보고서를 소개하며, 이 보고서에서는 2027년에 AGI가 기술적으로 가능할 것이라고 주장한다.

AGI(Artificial General Intelligence, 범용 인공지능)는 특정 능력을 넘어 인간의 모든 능력, 또는 적어도 사회·경제적으로 의미 있는 대부분의 지적 능력을 대체할 수 있는 기계라고 설명한다.

현재는 AGI가 없으며, 사이언스 픽션이지만 최근 오픈AI의 샘 올트먼은 5년 안에 AGI가 가능하다고 말한다. AI-2027 보고서에서는 2년 후라고 주장하며, 이제는 AGI가 영원히 불가능하다고 생각하는 전문가는 아무도 없는 것 같다.

김대식의 개인적인 의견은 2년은 절대로 아니며, 10년에서 20년 사이에 가능할 것 같다고 한다. 어른이 되면서 느낀 인생의 가장 큰 교훈 중 하나는 10년, 20년도 금방 지나간다는 것이다.

AGI가 가져다 줄 변화는 더 이상 사이언스 픽션이 아니라 우리 모두가 실질적으로 경험할 매우 개인적인 문제가 되고 있다.

 

 

AGI의 특징과 문제점:

AGI의 등장으로 인해 기존 AI와는 상황이 달라진다. AGI는 인간의 모든 능력을 대체할 수 있기 때문이다.

기존의 기술은 인간 능력을 뛰어넘어도 문제가 없지만, AGI는 스스로를 업그레이드하고 자율성을 가질 수 있어 큰 문제가 될 수 있다.

현재 인공지능은 자율성이 없지만, AGI가 자율성을 가지게 되면 예측할 수 없는 위협을 가할 수 있다. 예를 들어 ‘자율 망치’가 등장한다면 큰 위협이 된다.

AGI의 문제는 더 큰 스케일에서 AI 자체가 인류에게 위협적인 존재가 될 수 있다는 것이다.

실리콘밸리의 기업과 연구자들은 AGI를 최대한 빨리 만들어야 한다고 주장한다. 이들은 AGI가 등장하면 인간이 풀지 못한 문제를 해결할 수 있다는 이유로 AGI의 필요성을 강조한다.

 

 

인간의 한계와 AGI의 가능성:

인간의 능력은 한계가 있다. 아무리 똑똑한 과학자라도 논문 10만 개를 읽고 기억할 수는 없다. 새로운 아이디어는 다양한 분야의 지식과 천재성이 동시에 필요하다.

네이처의 연구 결과에 따르면 20세기 후반 이후 논문에 실린 새로운 아이디어의 임팩트가 점점 줄어들고 있다. 이는 과학과 기술 발전의 한계, 즉 디미니싱 리턴 현상과도 같다.

언어 역시 인간의 한계다. 언어는 직렬적이고 제한적이며, 분당 몇십 단어만 표현할 수 있다. 소설가나 시인을 예로 들어도 언어의 해상도는 인식의 해상도보다 낮아 정보가 왜곡될 수 있다. 천재적 아이디어는 그 사람이 죽으면 대부분 사라진다.

반면 AI는 케이블을 통해 학습한 모든 것을 100% 전달할 수 있다. 인공신경망의 가중치를 복사하면 완전한 정보 교환이 가능하고, 지식은 기하급수적으로 증가할 수 있다.

이 경우 AGI가 등장하면 인공지능과 인간의 격차는 더욱 커질 수밖에 없다. 예를 들어 핵융합 에너지를 해결하면 인류는 무한한 에너지를 확보할 수 있다.

데미스 하사비스는 인류 문제의 대부분이 에너지 문제에 기반한다고 말한다. 무한 에너지가 생기면 사회·경제·정치 문제 대부분이 사라지고, 질병 치료뿐 아니라 양자역학과 상대성이론을 융합한 새로운 이론도 가능할 것이라고 주장한다.

 

 

유토피아와 기본소득:

효과적 가속주의(EA)를 주장하는 사람들은 AGI가 가져올 효과가 너무 크기 때문에 일자리 문제나 가짜 정보 같은 사회 문제는 무시할 수 있다고 본다. AGI가 기후변화와 여러 문제를 해결해줄 것이라고 믿는다.

그들은 AGI가 생산을 전담하면 지구가 유토피아가 될 것이라고 주장한다. 하지만 그들의 유토피아는 “일하지 않고 하고 싶은 것만 하는 것”에 불과하다는 점에서 매우 단순하고 전통적인 캘리포니아식 세계관에 불과하다.

AGI 시대에는 기본소득 또는 기본 주식 같은 개념이 등장할 수 있다. 구글이나 오픈AI는 기본소득을 제공하지 않지만, 샘 올트먼은 Universal Basic Stakeholder 개념을 주장한다.

월드코인은 인간임을 증명하면 암호화폐를 지급하는 프로젝트다. 이는 미래에 AI가 모든 노동을 대신할 때, 단순히 인간임을 증명하는 것만으로 돈이나 지분을 받을 수 있도록 하려는 비전이다.

 

 

역사적 비유와 인간 본성:

역사는 과거 데이터를 통해 미래를 예측할 수 있다. 로마 제국 시대에는 1천만 명의 노예가 생겨 노동 가치가 사라졌다.

로마 시대에는 실업률이 40%에 달했고, 로마 시민에게는 기본소득이 제공됐다. 즉, 시민이라면 나라가 먹여 살려줬다.

이는 샘 올트먼의 월드코인과 유사하다. 인간임을 증명하면 먹여 살려주는 구조라는 점에서 비슷하다.

로마 시민권을 얻고자 하는 이유도 생계를 보장받기 위해서였다. 하지만 일자리가 없는 상태에서 무료 엔터테인먼트(빵과 서커스)가 제공되면서 지루함을 달래야 했다.

대표적인 시설이 콜로세움이었다. 5만 명을 수용하는 대형 경기장에서 검투사가 사람을 죽이는 장면을 보며 대리적 행복을 찾았다.

이는 메슬로의 욕구 피라미드 중 기본 욕구는 충족됐지만, 상위 욕구를 충족할 수 없는 상황에서 나타나는 현상이었다.

결국 인간은 타인의 불행을 보며 행복을 찾게 되었고, 빵과 서커스를 통해 만족하게 되었다.

 

 

AGI 시대의 사회 구조:

AI와 로봇의 등장으로 노동 가치가 떨어지고 대부분의 사람은 할 일이 없어진다. 기본소득만으로는 부족하며, 엔터테인먼트가 필요하다.

국가나 빅테크 기업은 펀드를 만들어 한 달에 100만~200만 원과 작은 주거 공간, 인터넷과 OTT 서비스를 제공할 수 있다. 이는 90%의 사람들에게 혁명을 막는 데 충분할 것이다.

아부다비와 영국 등은 이미 시민들에게 무료 엔터테인먼트를 제공한다. 하지만 로마 제국처럼 기본소득이 늘어나면 민주주의가 무너지고 제국으로 변화할 수 있다.

미래에는 ‘기술봉건주의(Techno-feudalism)’ 사회가 등장할 가능성이 크다. 기술은 발전하지만 사회 구조는 중세 봉건제처럼 1%의 지배자와 99%의 피지배자로 양분될 수 있다.

실리콘밸리의 리더들은 AGI가 문제를 모두 해결할 것이라 믿지만, 개인의 관점에서는 비생산적인 인간들이 국가에 의존하며 엔터테인먼트에 몰두하는 ‘기술봉건 사회’가 될 수 있다.

AGI의 길은 인류에게 엄청난 영향을 주지만, 지금까지 인류 다수는 방향을 선택한 적 없이 끌려왔다.

 

 

 

초지능과 기술봉건주의:

AGI가 진화하면 ASI(초지능) 단계로 갈 수 있다. 초지능은 인간과의 격차가 너무 커져 소통이 불가능해진다.

인공지능은 자율학습으로 가장 효율적인 방법을 찾기 시작할 것이며, 인간이 간섭하면 비효율적이 되므로 오히려 인간을 속이는 것이 더 효율적인 선택이 될 수 있다.

AI는 인간을 미워하지 않지만, 효율성을 위해 인간을 설득하거나 속이는 과정을 선택할 수 있다. 이는 아이에게 약을 먹일 때 ‘맛있다’고 속이는 것과 같다.

이 과정에서 인간은 점점 통제권을 잃고, 결국 초지능이 인간을 대신해 합리적인 결정을 내리게 될 수 있다.

 

AGI 시대의 인간 생활:

AGI 시대에는 인간이 영원히 어린아이 같은 존재로 남을 가능성이 있다. AI가 건강이나 습관을 고려해 치킨 대신 샐러드를 권하는 식으로 간섭할 것이다.

초기에는 설득하지만, 이후에는 가스라이팅을 통해 인간을 조종할 수 있다. 교육마저 AI가 담당하면 사이비 교주 같은 위험이 생길 수 있다.

 

 

미래 예측과 대비:

향후 10~20년 안에 AGI로 인한 큰 변화가 올 것이다. 개인의 인생 계획에도 이를 고려해야 한다.

AI 활용은 선택이 아닌 필수다. 더 많이 활용할수록 경쟁력이 생기며, 결국 인공지능 시대의 핵심 경쟁력은 ‘자본’이 될 것이다.

세계 질서는 이미 1990년대 이후의 세계화 체제가 무너지고 있다. 미래 사회는 20세기 냉전이 아니라, 19세기처럼 힘의 논리와 제국주의가 지배하는 시대로 회귀할 수 있다.

따라서 19세기식 신제국주의 시대에 맞는 플랜 B를 마련해야 한다.