안드레이 카르파시 강연 : AI 시대의 소프트웨어 (Andrej Karpathy: Software Is Changing)

AI 관련되어 좋은 동영상이 있어서 공유하고자 글을 올려봅니다.

2025년 6월 17일 샌프란시스코에서 열린 AI 스타트업 스쿨에서 안드레이 카파티의 기조 연설로, AI가 대중화 되어 가는 현시점을 예와 함께 잘 설명을 하고 있으며, 내용도 그리 어렵지 않아서 가져왔습니다..

안 보신 분들은 시간 되실때 한번 봐 보세요..

https://www.youtube.com/watch?v=LCEmiRjPEtQ&ab_channel=YCombinator

아래는 AI 로 동영상 내용을 요약 및 정리한겁니다.

한번 보시고, 영상 보시면 좀 더 보기 편할겁니다..

안드레이 카르파시 강연 요약: AI 시대의 소프트웨어

카르파시는 현재가 소프트웨어 산업에 뛰어들기 가장 흥미로운 시기라고 말하며, 그 이유를 소프트웨어 패러다임의 근본적인 변화에서 찾습니다. 그는 소프트웨어의 발전을 세 단계로 나누어 설명합니다.

1. 소프트웨어의 근본적인 변화: 1.0, 2.0, 그리고 3.0

소프트웨어를 만드는 방식이 지난 70년간 크게 변하지 않다가, 최근 몇 년 사이 두 번의 급격한 변화를 겪었습니다. 개발자들은 이 세 가지 패러다임을 모두 이해하고 활용할 줄 알아야 합니다.

• 소프트웨어 1.0 (전통적인 코드)
  • 우리가 흔히 아는 Python, C++ 같은 프로그래밍 언어로 작성된 코드입니다.
  • 사람이 컴퓨터에게 명시적인 지시를 내리는 방식입니다.
• 소프트웨어 2.0 (뉴럴 네트워크)
  • 코드는 뉴럴 네트워크의 '가중치(weights)' 그 자체입니다.
  • 개발자가 직접 코드를 짜는 대신, 데이터셋을 관리하고 최적화 알고리즘을 통해 컴퓨터가 스스로 '코드(가중치)'를 만들게 합니다.
  • Hugging Face는 소프트웨어 2.0 시대의 GitHub와 같다고 비유합니다.
• 소프트웨어 3.0 (거대 언어 모델, LLM)
  • LLM에게 내리는 '프롬프트(Prompt)'가 바로 프로그램입니다.
  • 가장 큰 특징은 프로그래밍 언어가 '영어'와 같은 자연어라는 점입니다.
  • 이는 완전히 새로운 프로그래밍 패러다임의 등장을 의미합니다.

핵심: 과거 테슬라 오토파일럿 개발 시, C++ 코드(1.0)가 점차 뉴럴 네트워크(2.0)로 대체되었던 것처럼, 이제는 기존의 소프트웨어 스택이 LLM(3.0)으로 대체되는 현상이 나타나고 있습니다.

2. LLM은 무엇인가? (새로운 컴퓨터이자 운영체제)

카르파시는 LLM을 단순한 기술이 아닌, 새로운 컴퓨팅 플랫폼으로 봐야 한다고 주장하며 여러 비유를 듭니다.

• 유틸리티(전기) 또는 팹(반도체 공장)과 유사:
  • 초기 투자 비용(Capex)이 막대하고, API를 통해 사용량만큼 비용을 지불(Opex)하는 방식이 전기와 비슷합니다.
  • LLM이 다운되면 전 세계의 '지능 정전(Intelligence Brownout)'이 일어날 정도로 의존도가 높아지고 있습니다.
• 가장 적절한 비유는 "운영체제(Operating System)":
  • LLM은 1960년대의 중앙집중식 컴퓨터 OS와 같습니다.
  • LLM = CPU, 컨텍스트 창 = RAM으로 비유할 수 있습니다.
  • 현재 우리는 비싼 LLM 컴퓨터를 클라우드를 통해 '시분할(Time-sharing)' 방식으로 빌려 쓰는 것과 같습니다. 아직 '개인용 컴퓨터(PC)' 혁명은 오지 않았습니다.
  • ChatGPT와 텍스트로 대화하는 것은 '터미널'을 통해 OS에 직접 명령하는 것과 같으며, 아직 범용적인 'GUI'는 발명되지 않았습니다.

특이점: 과거의 기술(컴퓨터, 인터넷 등)이 정부/기업에서 소비자로 확산된 것과 달리, LLM은 기술 확산 방향이 뒤집혔습니다. "계란 삶는 법"을 묻는 등 일반 소비자가 먼저 기술의 혜택을 누리고 있으며, 기업과 정부가 뒤따라가는 양상입니다.

3. LLM을 어떻게 다룰 것인가? (초인적 능력과 인지적 결함)

LLM은 '사람의 영혼을 흉내 내는 시뮬레이터'와 같아서, 그 '심리'를 이해하고 다뤄야 합니다.

• 초능력: 백과사전적 지식과 거의 완벽한 기억력을 가졌습니다. (영화 '레인맨'의 서번트 증후군 주인공에 비유)
• 인지적 결함:
  • 환각(Hallucination): 없는 사실을 지어냅니다.
  • 들쭉날쭉한 지능: 어떤 분야는 초인적이지만, "딸기(Strawberry)에 r이 두 개 들어간다"고 우기는 등 어이없는 실수를 합니다.
  • 선행성 기억상실증(Anterograde Amnesia): 대화를 통해 배우거나 성장하지 못합니다. **"가중치는 고정"**되어 있고, 대화가 끝나면 컨텍스트 창(작업 기억)은 모두 사라집니다. (영화 '메멘토', '첫 키스만 50번째'에 비유)
  • 보안 취약점: 프롬프트 인젝션에 취약하고 순진하게 속아 넘어갑니다.

4. LLM 시대의 기회: "부분적 자율성"과 "아이언맨 슈트"

LLM의 단점에도 불구하고 이를 활용할 기회는 무궁무진합니다. 카르파시는 완전 자율 에이전트보다 '부분적 자율성'을 가진 제품을 만드는 데 집중해야 한다고 강조합니다.

• 부분적 자율성(Partial Autonomy) 앱:
  • 핵심은 인간과 AI의 '생성-검증(Generation-Verification) 루프' 속도를 극대화하는 것입니다.
  • AI가 작업을 생성하면, 인간이 빠르고 쉽게 검증하고 수정할 수 있어야 합니다.
  • 좋은 LLM 앱의 특징 (예: 코딩 툴 'Cursor'):
    1. 자동 컨텍스트 관리: 사용자가 신경 쓰지 않아도 필요한 정보를 LLM에 제공.
    2. 전용 GUI: 텍스트보다 시각적(예: 코드 변경 사항을 Red/Green으로 표시)으로 보여줘 인간의 검증 속도를 높임.
    3. 자율성 슬라이더(Autonomy Slider): 자동 완성 같은 낮은 자율성부터, 전체 파일을 수정하는 높은 자율성까지 사용자가 직접 제어할 수 있게 함.
• "AI를 짧은 목줄에 묶어두기(Keep the AI on the leash)":
  • AI가 한 번에 너무 많은 작업을 하게 만들면, 인간이 그 결과를 검증하는 데 병목이 생깁니다.
  • 작고 점진적인 단위로 작업을 지시하고, 검증 루프를 빠르게 돌리는 것이 훨씬 효율적입니다.

아이언맨 슈트 비유: 지금 우리가 만들어야 할 것은 스스로 움직이는 '아이언맨 로봇(완전 자율 에이전트)'이 아니라, 토니 스타크가 입고 조종하며 능력을 증강시키는 **'아이언맨 슈트(인간을 돕는 도구)'**입니다. 이 슈트의 자율성 슬라이더를 점차 높여나가는 것이 앞으로 10년간의 과제입니다.

5. 새로운 프로그래머의 등장과 "에이전트를 위한 빌드"

• 바이브 코딩(Vibe Coding):
  • 프로그래밍 언어가 '자연어'가 되면서, 기술적 지식이 깊지 않은 사람도 "느낌(Vibe)"만으로 소프트웨어를 만들 수 있게 되었습니다.
  • 이제 모두가 프로그래머가 될 수 있습니다. 이는 소프트웨어 개발의 문턱을 극적으로 낮추는 전례 없는 현상입니다.
• 에이전트를 위한 인프라 구축:
  • 카르파시는 자신이 만든 앱 'Menu.gen'을 예로 들며, 코딩 자체보다 배포, 인증, 도메인 설정 등 기존의 DevOps 작업이 훨씬 어려웠다고 말합니다.
  • 이는 현재의 웹 인프라가 '인간'이 GUI를 클릭하는 것을 전제로 설계되었기 때문입니다.
  • 앞으로는 AI 에이전트라는 새로운 '사용자'를 위해 인프라를 재설계해야 합니다.
    • 웹사이트에 llm.txt 파일을 만들어 AI에게 사이트 구조를 쉽게 설명해 주기.
    • 문서에 "여기를 클릭하세요" 대신, 에이전트가 실행할 수 있는 API 명령어(curl 등)를 제공하기.
    • GitHub 저장소를 통째로 텍스트로 변환해 주는 툴처럼, AI가 이해하기 쉬운 형태로 정보를 제공해야 합니다.

결론

카르파시는 지금이 소프트웨어를 다시 쓰는 엄청난 기회의 시대라고 말합니다. 우리는 "부분적 자율성"을 가진 "아이언맨 슈트"와 같은 제품들을 만들며, 인간과 AI의 협력 루프를 최적화하고, 점차 AI의 자율성을 높여가야 합니다. 동시에 AI 에이전트가 더 쉽게 일할 수 있도록 우리의 디지털 인프라 자체를 변화시켜야 할 것입니다.

<i>이 글은 블로그 이전으로 티스토리에서 가져온 글입니다.</i>