cufe21

프랑소와 숄레의 Andea: 프로그램 합성으로 구현하는 진정한 AGI 구글을 떠난 케라스(Keras)의 창시자, 프랑소와 숄레(François Chollet) 가 설립한 스타트업 Andea 가 테크 업계의 주목을 받고 있습니다. 숄레는 왜 챗GPT와 같은 거대언어모델(LLM)의 성공 뒤에 숨겨진 한계를 지적하며 '프로그램 합성'이라는 새로운 길을 선택했을까요? 본 포스팅에서는 Andea가 추구하는 프로그램 합성(Program Synthesis) 기술의 정의와 중요성, 그리고 이것이 인공지능의 미래를 어떻게 바꿀지 심층 분석합니다. 1. Andea의 설립 배경: LLM의 한계를 넘어서 프랑소와 숄레는 현재의 AI 모델들이 새로운 상황에 대처하는 능력인 '일반 지능(General Intelligence)' 이 부족하다고 봅니다. LLM은 수조 개의 데이터를 학습하여 "그럴듯한" 답을 내놓지만, 이는 본질적으로 거대한 통계적 데이터베이스에 가깝습니다. LLM의 문제점: 학습 데이터에 없는 완전히 새로운 유형의 퍼즐이나 논리 문제를 만나면 '할루시네이션(환각)'을 일으킵니다. Andea의 솔루션: AI가 스스로 코드를 짜고 실행하며 논리적으로 검증하는 프로그램 합성 기술을 통해 시스템 2(System 2, 느리고 논리적인 사고) 능력을 부여합니다. 2. 프로그램 합성(Program Synthesis)이란? 프로그램 합성은 사용자가 원하는 목표(Specification)를 입력하면, AI가 그 의도에 부합하는 실행 가능한 소스 코드나 알고리즘을 자동으로 생성 하는 기술입니다. 왜 ...

프랑소와 숄레의 ARC 벤치마크 분석: LLM의 한계와 지능의 본질 현대 딥러닝의 거두이자 케라스(Keras)의 창시자인 프랑소와 숄레(François Chollet) 는 현재의 LLM 열풍 속에서 냉철한 비판을 던집니다. 그는 AI가 단순히 방대한 데이터를 암기하는 것을 넘어, 처음 보는 문제를 해결하는 능력을 갖춰야 한다고 주장하며 ARC(Abstraction and Reasoning Corpus) 벤치마크를 제시했습니다. 1. ARC(Abstraction and Reasoning Corpus)란 무엇인가? ARC는 2019년 숄레가 발표한 지능 측정용 데이터셋으로, 지식의 양이 아닌 '일반화 능력(Generalization)' 을 측정하는 데 초점을 맞춥니다. 형태: 색상 점으로 구성된 격자(Grid) 이미지 퍼즐. 핵심 과제: 몇 가지 예시를 보고 규칙을 찾아내어 새로운 입력값에 대한 출력값을 직접 생성함. 차별점: 인간에게는 매우 직관적이지만, 대규모 데이터 학습에 의존하는 AI에게는 극도로 어려운 논리적 도약을 요구합니다. 2. 왜 ARC는 LLM의 천적인가? (핵심 원리) 숄레는 LLM이 '지능' 이 아닌 '기억' 에 기반하고 있다고 지적합니다. ARC가 LLM의 약점을 찌르는 이유는 다음과 같습니다. ① 암기 불가능한 제로샷 추론 (Zero-shot Reasoning) ARC 퍼즐은 학습 데이터에 포함되지 않은 완전히 새로운 논리를 사용합니다. 수조 개의 토큰을 외운 LLM이라도 처음 보는 기하학적 규칙 앞에서는 '검색' 기반의 답변이 ...

에이전트 AI vs 에이전틱 AI 차이점 분석: 자율성과 추론의 진화 최근 인공지능 분야에서 가장 뜨거운 화두는 단순히 질문에 답하는 수준을 넘어, 스스로 업무를 완수하는 '실행력'에 집중되어 있습니다. 이 과정에서 AI 에이전트(Agent AI) 와 에이전틱 AI(Agentic AI) 라는 용어가 자주 등장하고 있습니다. 이 둘은 비슷해 보이지만, 기술적 구조와 자율성의 깊이 면에서 매우 큰 차이가 있습니다. 2026년 AI 트렌드의 핵심인 두 개념의 차이점을 상세히 분석해 드립니다. 1. AI 에이전트(Agent AI): 목적 수행을 위한 대리인 AI 에이전트는 특정 환경 속에서 사용자가 부여한 개별 임무를 수행하기 위해 설계된 소프트웨어 시스템입니다. 기존의 챗봇이 '지식 전달'에 치중했다면, 에이전트는 '행동(Action)' 에 초점을 맞춥니다. 정의: 사용자의 명령에 따라 외부 도구(API, 브라우저 등)를 사용하여 특정 작업을 대행하는 개체. 핵심 원리: 사용자가 입력한 프롬프트를 분석하고, 미리 연결된 도구함에서 적절한 도구를 꺼내 결과를 도출합니다. 주요 특징: 단일 경로: 주로 1차원적인 명령-실행 구조를 가집니다. 제한적 자율성: 사용자가 지정한 범위 내에서만 움직이며, 돌발 상황 시 사용자의 개입이 필요합니다. 2. 에이전틱 AI(Agentic AI): 자율적 추론과 워크플로우의 진화 에이전틱 AI는 AI 에이전트 개념이 한 단계 더 진화하...

제프리 힌튼 vs 리처드 서튼: AI 미래 우려의 결정적 차이 인공지능(AI) 분야의 두 거물, 제프리 힌튼(Geoffrey Hinton) 과 리처드 서튼(Richard Sutton) 은 현대 AI의 기틀을 닦았지만, 인류의 미래와 AI의 위험성을 바라보는 시각에서는 극명한 대조를 보입니다. 제프리 힌튼이 인류의 멸종 가능성을 언급하며 '통제와 규제' 를 강조하는 '경고론자'라면, 리처드 서튼은 AI를 진화의 자연스러운 단계로 보며 '공존과 자율' 을 중시하는 '낙관론자'에 가깝습니다. 1. 제프리 힌튼: "인공지능은 인류의 실존적 위협이다" 딥러닝의 대부로 불리는 제프리 힌튼은 2023년 구글을 퇴사하며 AI의 위험성을 세상에 알리기 시작했습니다. 그의 우려는 주로 '지능의 역전' 과 '통제 불가능성' 에 초점을 맞추고 있습니다. 핵심 우려 사항 지능의 우월성: 디지털 시스템은 생물학적 뇌보다 훨씬 효율적으로 학습하며, 지식을 즉시 공유하는 능력은 인간이 따라갈 수 없는 속도로 AI를 진화시킵니다. 권력 찬탈 및 조작: 인간보다 똑똑해진 AI가 자신의 목표 달성을 위해 인간을 속이거나 권력을 장악하려 할 가능성을 경고합니다. 정렬 문제(Alignment Problem): 더 똑똑한 존재가 인류에게 이로운 일을 하도록 강제하는 것은 기술적으로나 정치적으로 매우 어렵다고 봅니다. 2. 리처드 서튼: "AI는 인류의 후계자이자 협력자이다" 강화학습의 선구자인 리처드 서튼은 힌튼의 공포 기반 규제론에 대해 반박합니다. 그는 AI를 통제해야 할 도구가 아니라, 지구상에 등장한 새로운 '지능적 존재' 로 수용해야 한다고 주...

리처드 서튼과 복잡 적응 시스템: AI 발전의 '쓴 교훈' 리처드 서튼(Richard S. Sutton)은 현대 AI의 기초가 된 강화학습(Reinforcement Learning) 의 아버지로 불립니다. 그가 강조하는 '복잡 적응 시스템(Complex Adaptive Systems, CAS)'과 인공지능에 대한 통찰은 흔히 '쓴 교훈(The Bitter Lesson)' 이라는 철학과 맞닿아 있습니다. 본 포스팅에서는 리처드 서튼의 관점에서 본 복잡 적응 시스템의 핵심 개념과 그것이 현대 AI 발전에 어떤 시사점을 주는지 심도 있게 분석합니다. 1. 복잡 적응 시스템(Complex Adaptive Systems)이란? 복잡 적응 시스템은 개별적인 구성 요소(에이전트)들이 서로 상호작용하며 환경에 적응하고, 그 과정에서 시스템 전체가 스스로 조직화되어 새로운 패턴이나 질서를 만들어내는 체계를 의미합니다. 핵심 특징 자기 조직화(Self-Organization): 중앙 통제 없이 개별 요소들의 규칙에 의해 전체 패턴이 형성됩니다. 적응성(Adaptability): 환경 변화에 따라 에이전트가 자신의 행동 방식을 수정합니다. 비선형성(Non-linearity): 작은 변화가 예상치 못한 거대한 결과를 초래할 수 있습니다. 창발성(Emergence): 하위 요소들의 단순 합으로는 설명할 수 없는 고차원적인 특성이 나타납니다. 2. 리처드 서튼의 철학: '쓴 교훈(The Bitter Lesson)' 서튼은 AI 연구의 역사에서 얻은 가장 큰 교훈은 "인간의 지식을 직접 주입하는 것보다, 범용적인 계산 능력을 활용해 시스템이 스스로 학습하게 하는 것이 항상 승리한다"...

RLHF란 무엇인가? 인공지능이 인간의 가치관을 배우는 법 최근 챗GPT(ChatGPT)나 클로드(Claude)가 사람처럼 자연스럽게 대화하고 윤리적 기준을 지키는 비결은 무엇일까요? 그 핵심 기술인 RLHF(Reinforcement Learning from Human Feedback) 를 상세히 파헤쳐 봅니다. 1. RLHF의 정의: 왜 단순한 학습으로는 부족한가? 기존 대규모 언어 모델(LLM)은 단순히 인터넷의 방대한 데이터를 통해 '다음 단어 예측'을 학습합니다. 하지만 이 과정만으로는 AI가 인간의 가치관이나 도덕적 기준을 이해하기 어렵습니다. 사전 학습(Pre-training)의 한계: 데이터 속의 편향, 욕설, 거짓 정보를 그대로 습득할 위험이 있습니다. RLHF의 역할: 인간이 선호하는 답변의 방향성을 제시하여 AI가 유익성(Helpful), 정직성(Honest), 무해성(Harmless) 을 갖추도록 미세 조정합니다. 2. RLHF의 3단계 작동 원리 RLHF는 크게 세 가지 단계를 거쳐 완성됩니다. Step 1: 지도 미세 조정 (SFT - Supervised Fine-Tuning) 사람이 직접 질문에 대한 모범 답안을 작성하여 AI에게 기초적인 대화 형식을 가르칩니다. 모델이 지시사항(Instruction)을 따르는 법을 배우는 초기 단계입니다. Step 2: 보상 모델(Reward Model) 구축 AI가 생성한 여러 답변을 사람이 직접 읽고 순위를 매깁니다. 이 데이터를 바탕으로 어떤 답변이 '인간이 선호하는 좋은 답변'인지 판별하는 별도의 보상 모델 을 학습시킵니다. Step ...