공상과학 속 이야기가 현실이 됩니다. 인공지능이 스스로를 개선하는, 재귀적 자기 개선(RSI)의 시대가 시작된 것인데요.
1966년 '지능 폭발' 가능성 언급 이후, 두려움과 열망 속에서 이제 그 과정의 일부가 현실로 다가오고 있습니다.
AI, 스스로 진화의 엔진을 돌리다
과거 인간이 AI 목표를 설정했지만, 이제 그 고리가 닫힙니다. GPT, Gemini 같은 LLM은 스스로 코드를 작성하며 차세대 AI 개발 핵심 역할을 합니다.
OpenAI는 GPT-5.3-Codex가 자체 디버깅에 기여했고, Anthropic도 코드 대부분을 Claude Code가 작성한다고 밝혔죠.
Google DeepMind의 알파이볼브(AlphaEvolve)는 LLM으로 신경망 최적화 등 새로운 알고리즘을 발견, 인간 직관을 넘어서는 AI 발견을 시작했습니다.
AI가 AI 칩을 설계하는 Ricursive Intelligence도 등장. 브리티시컬럼비아 대학은 AI 에이전트가 스스로 코드를 수정하는 DGM과, 연구 전 과정을 자동화하는 'AI Scientist'를 선보이며, AI 개발 자동화 가능성을 시사합니다.
아직은 '인간과 함께' 가는 진화
완전 자율적 RSI엔 많은 장벽이 있습니다. AI의 아이디어 생성, 구현, 판단 능력은 아직 '괜찮은' 수준이지 '훌륭한' 수준은 아닙니다.
일부 전문가는 AI가 '천재'보다 '단순 반복 업무'를 자동화한다고 지적하며, AI 시스템 복잡성으로 '손실적 자기 개선(LSI)'처럼 진화가 둔화될 수 있다고 봅니다.
메타 연구원들은 AI '자기 개선'보다 인간 협업(Co-improvement)을 강조, 인간의 통찰력과 윤리적 방향 제시가 더 빠르고 안전한 발전을 이끌 것이라고 주장합니다.
Q&A: 인공지능 폭발, 현실이 될까?
Q. AI의 자기 개선, 결국 '싱귤래리티'로 이어질까요?
A. 25명 AI 전문가 중 대다수가 인공지능 폭발 가능성을 인정했지만, '둠어' 관점은 경계합니다. 소프트웨어 외 물리적 작업까지 AI가 자율 수행해야 완전한 폭발이 가능하다고 봅니다.
Q. 그렇다면 우리는 어떻게 대비해야 할까요?
A. 위험 연구가 '대중의 눈'을 피해 진행되는 우려로 AI 개발 중단 주장도 있습니다. 하지만 대부분은 위험 관리가 가능하며, 악의적 사용 방지 및 감시가 중요하다고 강조합니다.
인간과 AI, 새로운 관계를 탐색하며
미래 AI 진화는 거대한 AI 하나가 아닌, 수많은 AI 에이전트들이 협력하고 진화하는 모습일 것입니다. 마치 생태계처럼요.
인간 과학자는 초기 하위 작업에서 벗어나 연구 방향 제시, 광범위한 연구 의제 설정, 궁극적으로는 '감독' 역할을 계속할 것입니다.
AI가 암 치료 같은 인류 난제를 해결한다면, 우리 일자리의 일부를 내어주는 것쯤은 감수할 수 있지 않을까요?
