지금 당장 사용 중인 챗봇을 켜고 1부터 10 사이의 무작위 숫자를 하나만 골라달라고 입력해보자.
아마 열에 아홉은 7이라는 답변을 내놓을 확률이 매우 높다.
그다음 다른 숫자를 대라고 요구하면 3이나 4를 말하고, 한 번 더 물으면 8이나 9를 말하곤 한다.
글로벌 최고 수준의 인공지능들이 어째서 약속이라도 한 듯 똑같은 패턴으로 움직이는 걸까?
대형 언어 모델들이 겪고 있는 이른바 집단 사고 증후군의 실체와 이를 극복하는 방법을 자세히 알아본다.
인공지능이 인간의 고정관념을 그대로 닮아가는 이유
챗GPT나 클로드 같은 거대 언어 모델이 무작위 숫자 요청에 7을 고집하는 이유는 단순하다.
인간이 작성한 방대한 데이터를 학습하면서 인간 특유의 무의식적 편향까지 고스란히 흡수했기 때문이다.
실제 사람들에게 무작위 숫자를 고르라고 하면 가장 많이 선택하는 숫자가 바로 7이라는 통계가 존재한다.
결국 인공지능은 데이터 편향이라는 거울 속에서 인간의 생각 패턴을 그대로 복제하고 있는 셈이다.
이는 단순히 숫자 놀이에 그치지 않고 비즈니스 의사결정이나 창의적 아이디어 도출에서도 뻔한 답변만 내놓는 한계로 이어진다.
집단 사고에 갇힌 AI를 깨우는 구체적인 프롬프트 해결법
그렇다면 우리는 이 똑똑하지만 고정관념에 갇힌 AI를 어떻게 제대로 활용해야 할까?
가장 단순하면서도 강력한 해결책은 프롬프트 입력 단계에서 인위적으로 다양성을 부여하는 방법이다.
첫째로 난수 생성을 요청할 때 인간의 심리학적 선호도를 완전히 배제하고 수학적 난수표를 기준으로 무작위 숫자를 추출하라고 명령어를 구체화하는 식이다.
둘째는 프롬프트 엔지니어링 기법 중 하나인 페르소나 부여를 활용하는 방법이 아주 효과적이다.
예컨대 기존의 고정관념을 완전히 거부하고 가장 독창적인 대안만 제시하는 아방가르드 예술가 역할을 부여하면 뻔한 답변에서 쉽게 벗어날 수 있다.
마지막으로 거대 언어 모델의 설정값 중 온도 조절 파라미터를 높여 답변의 무작위성을 극한으로 끌어올리는 것도 기술적인 해결책이 된다.
자주 묻는 질문 (Q&A)
Q. AI가 7을 선택하는 것이 시스템 오류인가요?
A. 오류가 아니라 인간의 데이터를 너무 잘 학습해서 생긴 일종의 부작용인 듯하다.
Q. 이 문제를 해결하려는 최신 기술적 시도는 무엇이 있나요?
A. 최근 인공지능 스타트업들은 LLM의 집단 사고를 방지하기 위해 상호 검증 필터를 도입하거나 학습 단계에서 인간 편향 데이터를 정제하는 기술을 개발 중이다.
Q. 일반 사용자가 실생활에서 느낄 수 있는 집단 사고의 폐해는 무엇인가요?
A. 마케팅 기획서나 창작 시나리오를 작성할 때 어떤 챗봇을 써도 결국 비슷한 결과물만 얻게 되어 창의적 혁신이 제한될 수 있다는 점을 꼽을 수 있겠다.
마치며
인간을 닮아갈수록 더욱 똑똑해지는 줄 알았던 인공지능이 오히려 인간의 한계까지 닮아버렸다는 사실은 참 흥미롭다.
결국 고정관념에 갇힌 기계를 깨우고 새로운 가치를 만들어내는 힘은 여전히 질문을 던지는 인간의 몫인 것 같다.
