오랜 상상이 현실이 되고 있습니다. 인공지능이 스스로를 설계하고 개선하는, 이른바 재귀적 자기 개선(RSI) 시대가 도래하고 있는 것이죠.
1966년 I. J. Good 수학자는 ‘초지능 기계가 더 나은 기계를 설계하면 지능 폭발이 일어날 것’이라 예견했는데, 이 과정이 지금 실제로 진행 중입니다.
AI, 스스로를 빚어내다
최근 거대 언어 모델(LLMs)들은 이미 미래 버전의 자신을 위한 코드를 작성합니다. OpenAI의 GPT-5.3-Codex, Anthropic의 Claude Code가 대표적이죠.
구글 딥마인드의 AlphaEvolve는 LLM으로 신경망 아키텍처나 칩 설계를 최적화하며, Ricursive Intelligence는 AI로 AI 칩 설계를 가속화합니다.
Darwin Gödel Machines나 'AI Scientist' 프로젝트는 AI가 스스로 코드를 수정하고, 연구 아이디어를 내며, 실험하고 논문까지 쓰는 자동화된 연구 과정을 구현하고 있습니다.
아직 인간의 지시와 검증이 필요하지만, AI의 자율적인 개선 능력은 빠르게 확장 중입니다.
끝나지 않는 논쟁: 낙관론 vs. 신중론
하지만 모든 전문가가 낙관하는 건 아닙니다. AI의 아이디어 생성, 구현, 판단 능력이 아직은 '만족스럽지 않다'는 평가도 많습니다.
복잡성 증가로 효율이 떨어지는 '손실적 자기 개선(LSI)'을 예상하며, 최고의 인간 과학자 수준에는 아직 미치지 못한다고 주장하는 이들도 있습니다.
지식이 분산된 현실적 제약 속에서, 많은 연구자들은 인간과 AI의 협력을 통한 '공동 개선'이 더 현실적인 목표라고 말합니다.
인공지능, 인류의 미래를 좌우할까?
AI 전문가 25명 중 23명은 RSI가 '지능 폭발' 가능성을 언급했습니다. 특히 자기 개선 모델이 내부적으로만 개발되어 대중의 눈을 피할 수 있다는 점이 우려됩니다.
데이비드 스콧 크루거는 '99%의 코드가 AI에 의해 작성될 때'를 경고하며 AI 개발 중단을 주장합니다. 반면, 위험 관리가 가능하다며 연구실 감시를 강조하는 의견도 있습니다.
인간과 AI의 새로운 협력 시대
RSI는 단일한 초지능 AI보다, 다양한 AI 에이전트들이 협력하며 진화하는 생태계처럼 나타날 수 있습니다.
이 변화 속에서 인간 과학자는 단순 작업 대신 연구 방향을 설정하고, 궁극적으로 광범위한 연구 의제를 감독하는 인간의 역할로 진화해야 합니다.
AI의 자기 개선은 암 치료 등 인류 난제 해결에 기여할 것이지만, 최종적인 감독의 고삐는 반드시 인간이 쥐어야 합니다.
