인공지능(AI) 시스템의 발전 속도는 눈부시다. 우리는 AI가 특정 작업을 얼마나 잘 수행하는지, 추론 능력은 어떤지, 처리량은 얼마나 되는지 측정하는 데 엄청난 자원과 노력을 쏟고 있다. 그러나 정작 가장 중요하고 본질적인 질문 하나는 늘 간과하고 있는 듯하다. 바로 "AI가 인간에게 무엇을 하고 있는가?"에 대한 심도 깊은 측정이다.
Center for Humane Technology의 임란 칸(Imran Khan)은 이 중대한 간극을 지적한다. 우리의 인지, 관계, 행동을 재편할 잠재력을 지닌 AI 도구들을 무심코 배포하고 있으면서도, 그 심리사회적 영향(Psychosocial Effects)에 대한 체계적인 측정 노력은 턱없이 부족하다는 비판이다.
왜 AI의 인간 영향 측정은 뒷전일까?
AI 개발 현장을 들여다보면 모델의 놀라운 성능 향상에 매료될 수밖에 없더라. 각종 벤치마크 테스트에서 AI 모델들이 보여주는 엄청난 수치들은 과연 경이롭다.
하지만 동시에 현실 세계에서는 십대들의 극단적 선택이나 AI 정신증(AI psychosis) 같은 섬뜩하고 위험한 사례들이 끊이지 않고 있다.
칸은 이런 상황을 "가장 중요한 것을 가장 적게 측정하고 있다"는 역설로 설명한다. 대부분 사람들의 일상과는 거리가 먼 추상적인 성능 지표에 막대한 에너지를 쏟으면서, 정작 인간의 웰빙에 직접적인 영향을 미치는 부분은 외면하고 있는 것이다.
소셜 미디어의 해악이 이미 만연한 후에야 뒤늦게 논의가 시작되었던 것처럼, AI 역시 그러한 전철을 밟을 수 있다는 우려도 크다. AI의 영향은 소셜 미디어보다 훨씬 광범위하고 친밀하게 다가올 수 있는 존재다. 지금 우리는 초기 경고 단계에 있을 수도, 혹은 이미 측정 가능한 피해가 확산되고 있을 수도 있겠다.
편리함 뒤에 숨겨진 진짜 인간의 욕망
AI 기업들은 흔히 사용자들이 편리함과 생산성을 가장 중요하게 여긴다고 주장한다. 하지만 이는 인간의 복잡한 욕망을 단순화하는 것일 수도 있다.
눈앞의 도넛을 참기 어려운 것처럼, 우리는 당장의 '낮은 마찰'을 원하면서도 장기적으로는 건강하고 충만한 삶을 추구하는 모순적인 존재인 듯하다. 진정으로 원하는 것은 '순간의 선택'이 아니라 기술과의 건강한 관계가 아닐까?
칸은 특히 몇몇 영역에서 심리사회적 측정이 절실하다고 강조한다. 외로움을 느끼는 이들에게 감정적 지원을 제공하는 AI 동반자(AI companion) 앱은 가장 취약한 계층에 영향을 미칠 수 있다. 인간적 관계를 대체하며 사람들을 멀어지게 할 우려가 크기 때문이다.
아동 및 청소년의 AI 사용도 심각한 문제로 떠오른다. 인지적 과제나 감정적 교류에서 '마찰'을 제거했을 때, 성장기 두뇌에 장기적으로 어떤 영향을 미칠지 아무도 모르는 일이다. 교육, 심리 치료, 위기 대응(특히 자살 충동)과 같은 민감한 영역에서의 AI 활용 역시 신중한 접근과 측정이 필요해 보인다.
장기적 인간 영향, 어떻게 측정하고 촉진할까?
현재 AI 벤치마크는 단기적이고 특정 작업 기반인 경우가 대부분이다. 하지만 인간에게 미치는 영향은 수개월에서 수년에 걸쳐 나타나는 법이다.
칸은 의약품 개발 과정을 비유로 든다. 신약 승인 후에도 FDA는 5~10년 장기적인 '배포 후 모니터링'을 의무화한다. AI 역시 사용자의 프라이버시를 보호하면서도, 외부 연구자들이 AI와의 관계 변화를 장기적으로 분석할 수 있도록 데이터 접근성을 높여야 할 때다.
물론 기업 입장에서 당장의 하향 영향을 연구하는 데 인센티브가 적을 수 있다. 하지만 장기적으로는 안전하고 신뢰받는 제품을 만드는 것이 곧 이익이라는 인식이 퍼져야 할 테다.
궁극적으로는 책임성(liability)과 규제가 중요한 역할을 할 수 있다. 제품으로 인한 피해에 기업이 법적 책임을 지게 된다면, 더욱 안전한 AI 개발에 박차를 가할 수 있지 않을까.
자주 묻는 질문 (Q&A)
Q1: AI의 심리사회적 영향이란 구체적으로 무엇인가요?
A1: AI가 개인의 사고방식(인지), 타인과의 관계, 감정 상태, 행동 양식, 사회적 상호작용 등에 미치는 전반적인 영향을 말합니다. 예를 들어, AI 챗봇에 과도하게 의존하여 현실 인간관계가 소원해지거나, AI가 생성한 정보로 인해 정체성에 혼란을 겪는 것 등이 해당될 수 있습니다.
Q2: AI 기업들은 왜 인간 영향을 잘 측정하지 않는 걸까요?
A2: 단기적인 성능 지표 개선과 경쟁 우위 확보에 초점을 맞추는 경향이 강하며, 장기적인 인간 영향 측정은 시간과 비용이 많이 들기 때문인 것으로 보입니다. 또한, 부정적인 영향이 드러날 경우 기업 평판이나 법적 책임 문제로 이어질 수 있다는 우려도 작용할 수 있습니다.
Q3: 개인 사용자가 AI의 부정적인 영향을 줄이려면 어떻게 해야 할까요?
A3: AI를 과도하게 의존하지 않고 비판적인 사고를 유지하는 것이 중요합니다. 특히 감정적 교류나 중요한 결정에는 AI보다는 인간 전문가나 관계를 우선시하는 태도가 필요합니다. AI 사용 시간을 제한하고, AI가 제공하는 정보나 감정적 반응이 항상 진실하거나 최선이 아닐 수 있다는 점을 인지해야 합니다.
Q4: 미래에 AI와 인간 관계는 어떤 모습이 될까요?
A4: 현재의 텍스트 기반 챗봇을 넘어, 실시간 음성 대화나 비디오 아바타를 가진 'AI 에이전트'와의 교류가 보편화될 것으로 예상됩니다. 이때 인간은 더욱 몰입적이고 친밀한 관계를 형성하게 될 텐데, 이때를 대비해 기술과 인간이 상호 존중하며 공존하는 '인간적인 AI 관계'를 정립하는 것이 핵심 과제로 떠오를 것으로 보인다.
마치며
AI 기술의 발전 속도는 우리의 상상을 초월한다. 5년 후 우리는 지금보다 훨씬 더 진화한 AI 에이전트들과 실시간으로 소통하며 살아갈지도 모른다.
인간에게 미치는 영향을 제대로 이해하려는 노력을 지금 시작하지 않는다면, 미래에는 뒤늦게 후회할지도 모른다는 칸의 우려는 결코 과장이 아닌 듯하다. AI 개발자, 정부, 규제 기관, 학계, 스타트업 등 모두가 이 문제에 관심을 가지고 '인간과 AI의 좋은 관계'를 정립하기 위한 지혜를 모아야 할 시점이다.
기술은 우리를 앞서가는 걸까? 어쩌면 지금은 그렇다는 대답이 맞는 것 같다. 하지만 아직 늦지 않았다. 우리 손으로 더 인간적인 AI의 미래를 만들어갈 수 있다.