Sam Altman의 "Three Observations"이란 글에서 AI의 미래, AI를 바라보는 관점에 대한 내용을 엿볼 수 있어 주요 내용을 번역해 보았습니다. Sam Altman은 AGI(Artificial General Intelligence)가 우리에게 커다란 이익을 기져줄 것이며, 이를 인류 전체에게 공평하게 분배하고 안전하게 활용하는 것이 중요하다고 합니다.
[AGI]
- 우리의 미션은 AGI(Artificial General Intelligence)가 인류 전체에게 유익해지도록 하는 것이다.
- AGI는 명확하게 정의하기 어려운 용어이지만, 일반적으로는 인간과 비슷한 수준에서 여러 분야의 복잡한 문제를 해결할 수 있는 시스템을 의미한다.
- AGI는 우리가 함께 구축하고 있는 인간 진보의 점점 더 높아지는 발판에서 또 다른 도구일 뿐이다.
- 앞으로 놀라운 경제 성장을 이룰 수 있을 것이며, 모든 질병을 치료하고, 가족과 보내는 시간을 더욱 늘리고, 창의력을 온전히 실현할 수 있는 세상을 상상할 수 있다.
- 10년 후에는 지구상의 누구나가 가장 큰 영향을 주고 있는 사람 이상을 이룰 수 있게 될지도 모른다.
- 우리는 인공지능 개발이 급속히 발전하는 것을 보고 있다.
[AI 경제학에 대한 3가지 관찰]
- AI 모델의 지능은 대체로 그것을 학습하고 운용하기 위해서 사용되는 리소스의 로그와 같다. 여기에 리소스는 학습에 필요한 계산 처리, 데이터, 추론에 필요한 계산 처리이다. 임의의 금액을 투입하면, 연속적이고 예측 가능한 이익을 얻을 수 있다. 이러한 예측에 관한 확장의 법칙은 많이 정확해 졌다.
- 주어진 수준의 AI를 사용하는 비용은 12개월마다 약 10분의 1이 되고 있고, 비용 저하는 이용량의 대폭 증가를 기져온다. 2023년 초의 GPT-4와 2024년 중반의 GPT-4o에서의 토큰 단가를 비교하면 그 가격은 약 150분의 1로 떨어졌다. 무어의 법칙에서는 18개월마다 2배씩 혁신을 해왔자만, AI는 그것을 훨씬 더 극적이 될 것이다.
- 지능이 선형적으로 증가함에 따라 사회 경제적 가치는 본질적으로 초지수적일 것이다. 이것이 가져온 결과의 관점에서 보면 가까운 미래에 지수적으로 증가하는 투자를 멈출 이유는 없다. 이 세 가지 관찰 결과가 그대로 적용된다면 사회에 미치는 영향은 매우 커질 것이다.
[AI 에이전트 : 소프트웨어 엔지니어링 에이전트]
- AI 에이전트는 결국 가상의 동료와 같은 존재가 될 것이다. 소프트웨어 엔지니어링을 위한 에이전트는 특히 중요할 것으로 기대한다.
- 이 에이전트는 최고 레벨의 기업에서 수년간의 경험을 쌓은 소프트웨어 엔지니어가 며칠에 걸쳐 수행하는 작업의 대부분을 처리할 수 있을지도 모른다.
- 어느 정도는 현실적으로는 보면, 주니어 레벨의 가상 동료로서 생각해 주었으면 한다.
- 모든 지식 산업 분야에 AI 에이전트가 존재한다고 상상해 보자. AI는 경제적으로 트랜지스터와 비슷한데, 확장성이 뛰어나고 경제의 거의 모든 영역에 스며드는 거대한 과학적 발견이다. 광범위한 분야(컴퓨터, TV, 자동차, 장난감 등)에서 이익을 가져다 줄 것이다.
[미래 변화]
- 세상은 하룻밤에 변하는 것은 아니다. 지금까지 한 번도 그런 적이 없었다. 단기적으로는 생활은 거의 똑같이 계속되고, 2025년의 사람들도 2024년과 거의 같은 방법으로 시간을 쓸 것이다.
- 하지만, 미래는 지금 일하는 방식과 크게 다를 수 있다.
- 행위, 의지, 결심은 매우 가치가 높아진다고 생각하고 있다. 무엇을 해야 하는지를 정확하게 결정해, 항상 변화하고 있는 세계를 어떻게 극복할까를 파악하는 것은 큰 가치가 있다. 탄력성과 적응력을 준비하면 도움이 된다. AGI는 최대의 지렛대 역할을 해줄 것이다. 개인이 과거와는 비교할 수 없을 정도로 큰 임팩트를 가지게 될 것이다.
- AGI의 영향 범위는 불균일해 질 것으로 예상된다. 일부 산업에서는 거의 변화가 없을 수도 있지만, 과학적 진보는 현재보다 훨씬 빨라질 것이다. AGI의 영향은 다른 모든 것을 능가할 수 있다.
- 많은 상품의 가격은 결국 극적으로 떨어질 거라고 생각된다.(지금 당장은 지능과 에너지 비용이 많은 것을 제약하고 있다) 한편으로, 사치품이나 토지 등의 본질적으로 한정된 자원의 가격은 보다 극적으로 상승할 가능성이 있다.
[통제성]
- AGI를 사회에 통합해야 하는 방법에 대한 공공 정책과 집단적 의견은 매우 중요하다. 우리가 제품을 일찍 자주 출시하는 이유 중 하나는 사회와 기술이 함께 진화할 시간을 주기 위해서이다.
- AI는 경제와 사회의 모든 영역에 스며들 것이다. 우리 중 많은 사람들이 역사적으로 그랬던 것보다 사람들에게 기술에 대한 더 많은 통제권을 주어야 할 것으로 예상한다. 여기엔 더 많은 오픈 소싱이 포함되며, 안전과 개인의 권한 부여 사이에 균형이 있어야 하며, 이는 균형을 맞춰야 한다는 것을 수용해야 한다.
- AGI의 실현에 가까워짐에 따라, 개인의 임파워먼트를 보다 중시하는 방향으로 진행하는 것이 중요하다고 생각하고 있다. 또 다른 시나리오로서 권위주의 국가가 AI를 사용하여 대규모 감시나 자율성의 탈취를 통해 시민을 지배할 가능성이 있다.
[자본과 노동]
- 기술 진보의 역사적 영향은 우리가 관심을 두는 대부분의 지표(건강 결과, 경제적 번영 등)가 평균적으로 장기적으로 개선된다는 것을 시사하지만, 기술적 평등을 증가시키는 것은 기술이 결정하지 않기에 이를 바로잡으려면 새로운 아이디어가 필요할 수 있다.
- 자본과 노동간의 힘의 역학 관계는 쉽게 왜곡될 수 있고, 초기 단계에서 개입이 필요할지도 모른다
- 지구상의 모든 사람이 많은 AI를 사용할 수 있도록 "컴퓨팅 예산"을 제공하는 것과 같은 이상하게 들리는 아이디어들도 열려있지만, 지능 비용을 가능한 한 낮게 낮추는 것만으로도 원하는 효과를 얻을 수 있는 많은 다양한 방법이 있을 수 있다.
- 2035년에는 누구나 2025년의 모든 사람과 동등한 지적 능력을 발휘할 수 있어야 한다.
- 모든 사람이 상상할 수 있는 대로 무한한 천재성을 발휘할 수 있어야 한다.
- 지금은 충분한 자원이 없어 자신의 재능을 온전히 표현할 수 없는 재능 있는 사람들이 너무나 많은데, 만약 우리가 그것을 바꾼다면, 그로 인해 나오는 세상의 창의적인 산출물은 우리 모두에게 엄청난 혜택으로 이어질 것입니다.
