오랫동안 공상과학 영화에서나 볼 법했던 이야기가 현실이 되고 있습니다. 인공지능이 스스로를 개선하고, 더 나은 AI를 만들어내는 시대가 도래하고 있다는 소식인데요.
1966년 수학자 I.J. Good가 예견했던 '지능 폭발'의 서막일까요? 오늘날 AI 연구는 이 재귀적 자기 개선(RSI) 과정의 일부가 이미 진행 중임을 보여줍니다.
멈출 수 없는 AI의 자기 개선 능력
최근 거대 언어 모델(LLM)들은 놀라운 진화를 거듭하고 있습니다. GPT나 Claude 같은 LLM은 단순히 텍스트를 생성하는 것을 넘어, 자신을 만드는 데 필요한 코드를 직접 작성하고 디버깅하며 배포까지 관리하는 수준에 이르렀습니다.
구글 딥마인드의 AlphaEvolve는 LLM을 활용해 신경망 구조 최적화나 칩 설계 같은 알고리즘을 스스로 발견합니다. 인간 과학자와의 협업 속에서 AI가 예상치 못한 해결책을 제시하며 새로운 지식 발견을 이끌고 있죠.
Ricursive Intelligence와 같은 스타트업은 AI가 AI 칩을 설계하는 과정을 자동화하여 개발 주기를 획기적으로 단축할 계획입니다. UBC와 Sakana AI의 Darwin Gödel Machines나 AI Scientist 프로젝트는 AI가 연구 아이디어를 내고 실험하며 스스로 개선하는 과정을 보여줍니다.
기대와 우려 사이: 진정한 자율성은 언제쯤?
하지만 완전한 자율적 자기 개선에는 아직 한계가 명확합니다. 현재 AI는 아이디어 생성, 구현, 판단 능력 모두 '괜찮은' 수준이지만 '훌륭한' 수준은 아니라고 전문가들은 말합니다.
점점 복잡해지는 AI 시스템과 천문학적인 개발 비용은 '손실성 자기 개선(LSI)'이라는 관측을 낳기도 합니다. 인간의 개입 없이 AI가 독자적으로 모든 것을 해낼 수 있을지는 미지수입니다.
많은 전문가들은 인간이 목표를 설정하고, 성공을 정의하며, 중요한 결정을 내리는 역할이 여전히 중요하다고 강조합니다. 궁극적으로 인간과 AI의 공동 개선이 더 빠르고 안전한 발전을 이끌 것이라는 시각도 있습니다.
Q. AI의 자기 개선, 우리에게 위협일까요?
많은 이들이 우려하는 '특이점'이나 지능 폭발은 아직 먼 미래의 이야기일까요? AI 전문가 25명을 대상으로 한 설문조사에서는 대부분이 지능 폭발 가능성을 완전히 배제하지 않았습니다.
일부 연구자들은 AI 개발을 잠시 중단해야 한다고 주장하기도 합니다. 99%의 코드를 AI가 작성하게 되는 시점을 경고의 빨간 선으로 보기도 하죠. 악의적인 세력의 손에 넘어갈 경우 사이버 공격이나 생물학 무기 개발에 악용될 수 있다는 우려도 나옵니다.
하지만 AI의 자기 개선이 하나의 거대한 두뇌로 집중되기보다는, 다양한 인공 생명체가 진화하는 '캄브리아기 대폭발'처럼 나타날 수도 있다는 전망도 있습니다. 중요한 것은 위험을 인식하고 관리하는 것입니다.
인간과 AI의 새로운 동반자 관계
AI가 발전하면서 인간의 역할은 점차 변화할 것입니다. 낮은 수준의 작업 대신 연구 방향을 제시하고, 더 넓은 연구 의제를 설정하며, 최종적으로는 AI 시스템을 감독하는 역할로 전환될 수 있습니다.
만약 AI가 암을 치료하는 등 인류에게 거대한 혜택을 가져다준다면, AI 과학자로서의 역할을 기꺼이 내어줄 수 있다는 의견도 있습니다. 우리는 AI와 함께 새로운 시대를 열어갈 동반자 관계를 구축해야 합니다.
