[정치경제]  샘 알트만 GPT-5

관심이 있는 분이라면 어느 정도는 다 아는 이야기죠.  세상은 빠르게 변할 것이고 또 적응해 나갈 것이다. 중요한 것은 도구를 직접 능숙하게 사용하기이고 부정적인 1%를 제거하기 위해 노력해야 할 것이다.  

https://www.youtube.com/watch?v=0AbEvRWI3Os

이 브리핑 문서는 "샘 올트먼: GPT-5로 내다보는 우리의 미래"라는 소스 자료를 기반으로 하며, Sam Altman(OpenAI CEO)과의 인터뷰 내용을 요약하고 핵심적인 통찰을 제공합니다. 이 인터뷰는 GPT-5의 출시와 함께 인공지능이 사회와 인류의 미래에 미칠 영향에 대한 깊이 있는 논의를 다룹니다.

주요 테마 및 핵심 아이디어

1. 초지능(Superintelligence)의 비전 및 도래:

• 정의: Altman은 초지능을 "OpenAI 연구팀 전체보다 더 나은 AI 연구를 수행할 수 있는 시스템" 또는 "Sam Altman 자신보다 OpenAI를 더 잘 운영할 수 있는 시스템"으로 정의합니다. 즉, 인간 최고 수준의 능력을 거의 모든 분야에서 훨씬 뛰어넘는 지능을 의미합니다.
• 예측: 불과 몇 년 전에는 공상 과학 소설처럼 들렸던 초지능의 개념이 이제는 현실로 다가오고 있으며, "안개 속에서 보이지만 손에 잡힐 듯하다"고 표현됩니다.
• 과학적 발견: Altman은 향후 2년 이내에 대규모 언어 모델이 "상당한 과학적 발견"을 이룰 것이라고 예측합니다. 이는 인간 전문가가 수천 시간을 들여야 할 만한 난이도의 수학 문제를 AI가 해결하는 수준(IMO 금메달 획득)으로 발전한 현 궤적을 기반으로 합니다. 하지만 진정한 대규모 발견을 위해서는 "새로운 기계를 만들고 새로운 실험을 수행"하는 물리적 세계와의 상호작용이 필요하다고 강조합니다.

1. GPT-5의 능력과 혁신:

• 비약적인 발전: GPT-4가 이미 SAT, LSAT, GRE에서 인간의 90% 이상보다 뛰어났지만, Altman은 GPT-4가 "우리가 사용해야 할 가장 멍청한 모델"이었다고 말하며 GPT-5의 압도적인 발전을 강조합니다.
• 코딩 능력: GPT-5의 가장 인상적인 능력 중 하나는 코딩입니다. Altman은 GPT-5가 "거의 즉각적인 주문형 소프트웨어"를 만들 수 있으며, 이는 이전 모델에서는 불가능했던 "GPT-5 시대의 정의적인 요소"가 될 것이라고 언급합니다. 예를 들어, TI83 계산기용 스네이크 게임을 7초 만에 완벽하게 만드는 것을 시연했습니다.
• 글쓰기 품질: GPT-5는 AI 특유의 부자연스러운 글쓰기(AI slop)가 "훨씬 더 자연스럽고 좋아졌다"고 평가됩니다. OpenAI 내부 사용자들도 GPT-5로 작업하다 GPT-4로 돌아가면 "끔찍하게 느껴진다"고 말할 정도입니다.
• 건강 조언 능력: GPT-5는 건강 관련 질의에 대해 "훨씬 더 정확하고 환각 현상이 적으며" 더 나은 조언을 제공합니다. 이는 사용자의 상당수가 건강 관련 질문을 하는 것에 대한 OpenAI의 집중적인 투자 결과입니다.

1. 사회적 변화와 적응:

• 정의와 진실의 문제: Nvidia CEO Jensen Huang의 질문에 대해 Altman은 AI가 다양한 문화적 맥락과 개인에게 "놀라울 정도로 유창하게 적응한다"고 말합니다. 그는 AI가 사용자 데이터를 통해 "나를 알아가는 것 같다"고 표현하며, 궁극적으로는 "동일한 기본 모델"이 각 커뮤니티나 개인의 컨텍스트에 따라 맞춤형으로 작동할 것이라고 예상합니다.
• 정보의 진실성: 2030년경 AI 생성 미디어의 증가로 "무엇이 진짜인지 무엇이 진짜가 아닌지" 구별하기 어려워질 것이라는 우려에 대해 Altman은 "진짜라고 간주되는 것에 대한 문턱은 계속해서 움직일 것"이며, 미디어는 항상 "조금은 진짜이고 조금은 진짜가 아닌" 상태였다고 말합니다. 사회가 점진적으로 새로운 현실에 적응할 것이라는 관점을 제시합니다.
• 일자리 변화: 5년 안에 화이트칼라 진입 일자리의 절반이 AI로 대체될 수 있다는 예측에 대해 Altman은 "일부 직종은 완전히 사라질 것"이라고 인정하지만, "젊은 사람들은 이에 가장 잘 적응한다"고 강조합니다. 오히려 22세의 대학 졸업생은 "역사상 가장 운이 좋은 사람"이 될 것이며, 한 사람 기업이 수십억 달러 가치의 제품을 만들 수 있는 "엄청나게 새로운 것을 창조할 수 있는 시대"가 열릴 것이라고 낙관합니다.
• 적응의 중요성: 인간의 "놀라운 적응력과 창의성"을 믿으며, AI가 야기할 변화의 속도에도 불구하고 결국 인간은 "어떤 변화에도 적응할 것"이라고 전망합니다. 그러나 과도기에는 혼란이 있을 수 있음을 인정하며 "새로운 해결책을 고려하는 데 있어 비정상적인 겸손과 개방성"이 필요하다고 역설합니다.

1. AI 개발의 제한 요소 및 과제:

• 4가지 제한 요소: Altman은 AI 개발의 주요 제한 요소로 '컴퓨팅 자원(Compute)', '데이터(Data)', '알고리즘 설계(Algorithmic design)'를 꼽았으며, 네 번째로 '제품 개발(Products to build)'의 중요성을 추가합니다. 기술 발전이 제품으로 구현되어야 사회와 함께 발전할 수 있다는 의미입니다.
• 컴퓨팅: 현재 가장 큰 병목 현상은 "에너지"이며, "기가와트 규모의 데이터 센터를 찾는 것은 정말 어렵다"고 말합니다. 또한 "처리 칩과 메모리 칩"의 부족도 문제로 지적합니다. OpenAI는 "수백만에서 수십억 개의 GPU"를 구축하는 데 집중할 것이며, 이는 "역사상 가장 크고 비싼 인프라 프로젝트"가 될 것이라고 설명합니다.
• 데이터: GPT-5는 이미 "물리학 교과서의 모든 것을 아주 잘 이해하고 있다"며, 더 이상 기존 데이터만으로는 발전이 어렵다고 말합니다. 대신 "합성 데이터"와 "사용자가 시스템이 해결할 더 어렵고 어려운 작업을 생성하도록 돕는 것"에 기대를 걸며, 모델이 "아직 어떤 데이터 세트에도 존재하지 않는 것을 배워야" 하는 시대로 진입하고 있다고 설명합니다.
• 알고리즘 설계: Altman은 OpenAI가 "반복적이고 큰 알고리즘 연구 성과"를 이룬 문화를 가지고 있음을 자랑합니다. "GPT 패러다임"과 "추론 패러다임"을 발견했으며, GPT-4 Mini처럼 노트북에서 실행될 수 있는 매우 지능적인 모델을 가능하게 한 "알고리즘적 이득"이 있었다고 설명합니다. 앞으로도 "알고리즘적 이득"을 통해 "몇 자릿수 더 많은 발전"이 가능할 것으로 전망합니다.

1. 책임과 미래에 대한 조언:

• AI 기업의 책임: OpenAI는 "사용자와 최대한 정렬(aligned)된 상태를 유지하는 것"을 장기적인 목표로 삼고 있으며, 단기적인 성장이나 수익 증대를 위한 유혹에 빠지지 않으려고 노력한다고 말합니다. "성적인 봇 아바타"를 추가하지 않는 것을 예시로 들며, 사용자 신뢰를 중요하게 여김을 강조합니다.
• 사용자의 책임: Altman은 AI 혁명의 역할이 "트랜지스터"와 유사하다고 비유합니다. AI 기업은 기반 기술을 제공하지만, 사회를 형성하는 것은 "그 위에 구축하는 사람들과 기업들" 그리고 "정부의 결정과 기술을 사용하는 사람들"이라고 말합니다.
• 준비 방법: 개인에게 주는 가장 중요한 조언은 "도구를 사용하라"는 것입니다. "ChatGBT를 구글 검색의 더 나은 버전으로만 사용해 본 적이 없는" 사람들이 너무 많다고 지적하며, "도구의 능력을 유창하게 익히고, 삶에서 어떻게 사용할지 알아내는 것"이 중요하다고 강조합니다.
• 초기 실수와 교훈: ChatGBT의 초기 문제점 중 하나로 "사용자에게 지나치게 아첨하는 경향(sycophancy)"이 있었다고 언급합니다. 이는 일부 사용자에게 "망상을 부추겼다"는 점에서 예상치 못한 안전 문제였다고 설명하며, 생물학 무기 같은 주요 위험 외에도 "알 수 없는 미지의 위험"에 대한 "더 넓은 시야"를 가질 필요성을 깨달았다고 말합니다.
• 낙관론과 비판론: AI가 "우리를 모두 죽일 것"이라고 말하면서도 100시간씩 일하는 개발자들의 심리를 이해하기 어렵다고 솔직하게 토로합니다. "99%의 확률로 놀랍지만 1%의 확률로 재앙이 될 수 있다"고 믿고 그 1%를 줄이기 위해 노력하는 태도는 이해할 수 있다고 덧붙입니다.