안드레이 카파시 "소프트웨어는 (다시) 변화하고 있다" 강연 노트

인공지능의 세계는 어지러울 정도로 빠르게 움직이고 있습니다. 매주 새로운 모델, 새로운 기능, 또는 인류의 미래에 대한 새로운 논쟁이 등장하는 것 같습니다. 이러한 소음 속에서 길을 찾으려면 깊은 기술적 이해와 큰 그림에 대한 명확한 비전을 모두 갖춘 목소리가 필요합니다. 테슬라와 OpenAI에서 핵심적인 경험을 쌓은 선구적인 인물인 Andrej Karpathy가 바로 그런 목소리 중 하나입니다.

Y Combinator에서의 최근 강연에서 Karpathy는 "소프트웨어가 다시 변화하고 있다(Software Is Changing (Again))"라는 제목으로 현재 우리가 겪고 있는 지각 변동을 이해하기 위한 단순한 업데이트가 아닌 완전한 프레임워크를 제공합니다. 그는 우리가 단순히 새로운 도구의 탄생을 목격하는 것이 아니라, 새로운 컴퓨팅 패러다임의 시작을 보고 있다고 주장합니다. 이것이 바로 소프트웨어 3.0입니다.

이 게시물은 그의 강연에서 얻은 메모와 성찰에 대한 심층 분석으로, 핵심 개념을 파헤치고 그 심오한 함의를 탐구합니다. 우리는 그의 소프트웨어 분류를 따라가며, 왜 그가 대규모 언어 모델(LLM)을 새로운 종류의 운영 체제라고 부르는지 이해하고, 오늘날 AI 제품을 구축하는 실용적인 "아이언맨 슈트" 접근 방식을 탐구하며, AI 에이전트를 위해 구축될 미래를 내다볼 것입니다.

소프트웨어의 세 시대: 새로운 분류법

우리가 어디로 가고 있는지 이해하려면 먼저 우리가 어디에 있었는지 이해해야 합니다. Karpathy는 소프트웨어의 역사를 세 가지 시대로 우아하게 분류하며, 이는 현재 혁명의 본질을 명확히 합니다.

소프트웨어 1.0: 논리의 시대

이것은 우리 모두가 알고 있는 소프트웨어, 디지털 세계의 기반입니다. 소프트웨어 1.0은 인간 프로그래머가 명시적으로 작성하여 결정론적 명령을 실행하는 전통적인 코드입니다. 웹 브라우저부터 은행 거래 데이터베이스까지 모든 것을 구동하는 C++, Java, Python입니다. 강연에서 Karpathy는 테슬라 오토파일럿 시스템의 기초 C++ 코드를 대표적인 예로 지적합니다 [00:04:49].

이 패러다임은 정밀성과 제어로 정의됩니다. 인간이 단계별로 논리를 지시합니다. 강점은 예측 가능성입니다. 그러나 약점은 경직성입니다. 소프트웨어 1.0은 모호성과 비정형 데이터에 어려움을 겪습니다. 사진에서 고양이를 안정적으로 식별하거나 문장의 감정을 포착하기 위해 if/else 문을 쉽게 작성할 수 없습니다. 이를 위해서는 새로운 접근 방식이 필요했습니다.

소프트웨어 2.0: 학습의 시대

소프트웨어 2.0은 딥러닝과 신경망의 부상과 함께 등장했습니다. 여기서는 패러다임이 코드를 작성하는 것에서 데이터를 큐레이팅하는 것으로 극적으로 바뀝니다. 개발자는 명시적인 지침을 제공하는 대신 방대한 데이터셋을 수집하고 이를 사용하여 신경망을 "훈련"합니다. 이 패러다임의 "코드"는 인간이 읽을 수 있는 논리가 아닙니다. 옵티마이저에 의해 조정된 네트워크 내의 수백만 또는 수십억 개의 가중치와 편향입니다. 프로그래머는 모델에 데이터를 공급하고 학습 과정을 형성하는 교사 또는 정원사에 더 가깝습니다.

이 접근 방식은 컴퓨터 비전과 같은 인식과 관련된 많은 영역에서 소프트웨어 1.0 스택을 문자 그대로 "먹어치웠습니다" [00:05:26]. 손으로 코딩하기에는 불가능할 정도로 복잡했던 작업이 가능해졌습니다. 실제로 작동하는 이미지 인식기, 음성-텍스트 시스템, 기계 번역의 시대였습니다. 이는 기념비적인 도약이었지만, 다음 단계는 프로그래밍 자체의 본질을 바꿀 것입니다.

소프트웨어 3.0: 대화의 시대

이것이 오늘날 우리에게 이르게 합니다. 소프트웨어 3.0은 대규모 언어 모델의 세계입니다. GPT-4 또는 Gemini와 같은 이러한 모델은 인터넷의 상당 부분을 학습한 거대한 신경망입니다. 일반적으로 고정된 사전 훈련된 아티팩트입니다. 혁명적인 부분은 우리가 이들과 상호 작용하는 방식입니다. Karpathy가 말했듯이, 우리는 새로운 프로그래밍 언어인 영어를 가지고 있습니다 [00:04:09].

소프트웨어 3.0에서의 프로그래밍은 자연어 프롬프트를 통해 이루어집니다. 우리는 단순히 모델과 대화함으로써 모델의 동작을 지시하고, 쿼리하고, 조종합니다. 이는 컴퓨팅 역사상 가장 중요한 접근성 도약입니다. 이는 생각을 명확하게 표현할 수 있는 모든 사람을 잠재적인 프로그래머로 변화시킵니다. Karpathy는 나중에 이를 "바이브 코딩"이라고 명명합니다.

새로운 컴퓨팅 플랫폼으로서의 LLM

Karpathy는 LLM이 단순히 영리한 프로그램이 아니라, 고유한 특성을 가진 새로운 유형의 컴퓨터, 새로운 플랫폼이라고 설득력 있게 주장합니다 [00:06:10]. 그는 자신의 주장을 뒷받침하기 위해 몇 가지 강력한 비유를 사용합니다.

첫째, 그는 LLM이 유틸리티와 반도체 팹의 속성을 모두 가지고 있다고 봅니다. 유틸리티 비유 [00:06:35]는 OpenAI 및 Google과 같은 연구소에서 이러한 모델을 훈련하는 데 필요한 막대한 자본 지출(capex)과 미터링된 API를 통해 서비스를 제공하는 운영 지출(opex)을 의미합니다. 전력망과 마찬가지로 막대한 투자가 필요하며 낮은 지연 시간, 높은 가동 시간 및 일관된 품질로 제공되어야 합니다 [00:07:02]. 팹 비유 [00:08:04]는 이러한 기반 모델을 구축하는 데 들어가는 깊고 중앙 집중식이며 종종 비밀스러운 R&D를 지적하며, 소수의 주요 업체가 지배하는 환경을 만듭니다.

둘째, 그리고 아마도 가장 중요하게, 그는 LLM을 새로운 운영 체제로 제시합니다 [00:09:07]. 이것은 심오한 통찰입니다. LLM은 사용자의 프롬프트에 의해 지정된 작업을 실행하기 위해 내부 자원—방대한 지식, 추론 능력, 컨텍스트 창(RAM의 한 형태)—을 조율하는 일종의 생물학적, 외계 OS 역할을 합니다 [00:10:09]. 이는 1960년대 시분할 시스템을 연상시키는 새로운 컴퓨팅 모델을 탄생시켰습니다 [00:11:02]. 우리 대부분은 이러한 거대한 모델을 로컬에서 실행하지 않습니다. 우리는 네트워크를 통해 클라우드의 강력하고 중앙 집중식 "메인프레임"에 연결하는 클라이언트입니다.

이는 또한 기술 확산의 방향을 바꾸어 놓았습니다. 역사적으로 강력한 기술은 정부와 대기업에서 소비자에게로 흘러내려갔습니다. LLM은 놀랍게도 그 반대로, 직관적인 채팅 인터페이스를 통해 거의 하룻밤 사이에 수십억 명의 소비자에게 도달했으며 [00:12:42], 기업들이 따라잡기 위해 서두르게 만들었습니다.

"아이언맨 슈트": 과장 시대의 실용주의

LLM은 초인적인 능력을 가지고 있지만, 깊은 결함도 가지고 있습니다. Karpathy는 그들의 "심리"에 대해 냉철하게 바라보며, 그들을 "사람들의 확률적 시뮬레이션"이라고 설명합니다 [00:14:49]. 그들의 지능은 "들쭉날쭉합니다" [00:16:20].

한편으로는 백과사전적인 지식과 거의 완벽한 기억력을 가지고 있습니다 [00:15:30]. 다른 한편으로는 자신감 있는 환각에 빠지기 쉽고, 진정한 자기 지식 모델이 부족하며 [00:16:07], "전향적 기억상실"(상호 작용에서 본질적으로 학습하지 않음)에 시달리고 [00:16:43], 프롬프트 인젝션과 같은 보안 위험에 위험할 정도로 속기 쉽습니다 [00:17:38].

따라서 핵심 엔지니어링 과제는 이러한 결함을 우회하면서 강점을 활용하는 시스템을 설계하는 것입니다 [00:18:03]. 이는 아마도 강연에서 가장 실용적이고 가치 있는 통찰로 이어집니다: "아이언맨 슈트" 비유 [00:28:22].

감독 없이 작동하는 완전히 자율적인 "아이언맨 로봇"을 목표로 하는 대신—이는 아직 멀고 위험한 목표입니다—우리는 "아이언맨 슈트"를 구축하는 데 집중해야 합니다. 이는 인간이 확실히 개입하여 인간의 능력을 증강하는 애플리케이션입니다. 이상적인 워크플로는 빠르고 긴밀한 생성-검증 주기입니다 [00:22:13]. AI가 초안을 생성합니다—코드, 이메일 또는 디자인이든—그리고 인간은 뛰어난 판단력과 맥락을 가지고 빠르게 검증하고, 편집하고, 승인합니다. 이 루프가 빠를수록 증강 효과는 더 강력해집니다 [00:22:19].

오늘날 성공적인 LLM 앱, 예를 들어 코딩을 위한 Cursor 또는 검색을 위한 Perplexity는 이것의 훌륭한 예입니다. 이들은 정교한 컨텍스트 관리 [00:19:24], 여러 LLM 호출의 스마트한 조율 [00:19:32], 그리고 결정적으로 쉬운 감사에 맞춰 설계된 사용자 인터페이스 [00:19:44]를 특징으로 합니다. 이들은 종종 "자율성 슬라이더" [00:20:21]를 제공하여 사용자가 작업의 복잡성과 시스템에 대한 신뢰도에 따라 AI의 기여도를 조절할 수 있게 합니다. 핵심은 AI를 통제하여 압도적이거나 관리 불가능한 출력을 생성하는 것을 방지하거나 [00:22:53] "숲에서 길을 잃는" 것을 막는 것입니다 [00:24:41].

모두가 프로그래머: "바이브 코딩"의 부상

소프트웨어 3.0의 가장 혁신적인 결과는 창작의 급진적인 민주화입니다. Karpathy는 자연어를 통해 프로그래밍하는 행위를 설명하기 위해 유쾌한 용어인 "바이브 코딩" [00:31:07]을 만듭니다. 만들고 싶은 iOS 앱의 "바이브"를 설명하기 위해 Swift를 알 필요가 없습니다. 그냥 설명하면 LLM이 구문을 처리합니다.

이는 도메인 전문가—의사, 변호사, 과학자, 예술가—가 전통적인 소프트웨어 엔지니어링 배경 없이도 필요한 도구를 구축할 수 있는 세상의 문을 엽니다. 그러나 Karpathy는 "마지막 마일" 문제를 예리하게 지적합니다. 핵심 논리는 "바이브 코딩"을 통해 생성될 수 있지만, 실제 애플리케이션을 구현하려면 지저분한 "데브옵스" 작업이 필요합니다: 인증 설정, 결제 통합, 서버 배포, 그리고 수많은 웹 UI 클릭 [00:32:30]. 이 수동적이고 브라우저 기반의 작업이 현재의 병목 현상이며, 이는 다음 개척지인 에이전트로 직접 연결됩니다.

에이전트를 위한 길 닦기: LLM 네이티브 웹 구축

LLM이 유용한 조력자에서 이러한 "마지막 마일" 작업을 수행할 수 있는 유능한 에이전트로 진화하려면 디지털 인프라가 적응해야 합니다. 우리는 새로운 종류의 사용자, 즉 AI 에이전트를 위해 구축하기 시작해야 합니다 [00:33:55]. 이는 웹사이트와 서비스를 기계가 더 잘 읽을 수 있도록 만드는 것을 의미합니다.

Karpathy는 몇 가지 구체적이고 실행 가능한 아이디어를 제안합니다:

1. llm.txt: robots.txt가 웹 크롤러에게 지침을 제공하는 것처럼, 제안된 llm.txt 파일은 방문하는 LLM을 위해 웹사이트 또는 도메인에 대한 직접적이고 구조화된 자연어 요약을 제공할 것입니다 [00:34:12]. 이는 AI를 위한 사용 설명서입니다.
2. LLM 친화적인 문서: 문서는 스크린샷과 인간 중심적인 레이아웃에서 벗어나 LLM이 쉽게 구문 분석하고 이해할 수 있는 깨끗하고 단순한 Markdown으로 이동해야 합니다 [00:34:51].
3. 실행 가능한 문서: 지침이 진화해야 합니다. 인간에게 "'만들기' 버튼을 클릭하세요"라고 말하는 대신, 문서는 에이전트가 동일한 결과를 얻기 위해 직접 실행할 수 있는 curl 명령 또는 API 호출을 제공해야 합니다 [00:35:59].

또한 이 시대를 위해 설계된 새로운 도구도 필요합니다. 그가 언급한 get.ingest 도구와 같이 복잡한 GitHub 저장소를 LLM이 쉽게 수집하고 분석할 수 있는 단일하고 깨끗한 텍스트 파일로 평탄화할 수 있는 도구입니다 [00:36:33].

결론: 변화를 받아들이기

Andrej Karpathy의 강연은 소프트웨어의 현재와 미래에 대한 명확하고 구조화된 고무적인 비전을 제공합니다. 우리는 소프트웨어의 본질 자체가 재정의되는 중요한 순간, "독특한 시간"에 있습니다 [00:38:16]. 소프트웨어 3.0으로의 전환은 단순한 기술적 변화가 아닙니다. 새로운 세대의 창작자에게 힘을 실어주고 디지털 세계와 상호 작용하는 방식을 근본적으로 바꿀 패러다임 전환입니다. 앞으로의 여정은 모든 패러다임에 능숙하고, 인간-AI 협업의 "아이언맨 슈트" 모델을 받아들이며, 내일의 AI 에이전트를 가능하게 할 인프라 구축을 시작해야 할 것입니다.

지금은 빌더에게 독특하고 흥미롭고 도전적인 시간입니다. 소프트웨어의 정의 자체가 확장되고 있으며, 그와 함께 누가 프로그래머가 될 수 있는지에 대한 정의도 확장되고 있습니다. 변화는 여기에 있으며, 지금 일어나고 있습니다.