온라인 플랫폼 생태계에서 성인 콘텐츠 크리에이터들과 대형 기술 기업 간의 형평성 논란이 다시금 뜨겁게 달아오르고 있다.
최근 온리팬스 크리에이터들은 자사 플랫폼에서는 엄격한 검열을 받으면서 메타의 인공지능 에이전트는 자유롭게 수위 높은 대화를 나누는 상황에 대해 강한 의문을 제기하는 중이다.
기술의 발전 속도가 법과 규제의 경계를 아득히 앞지르면서 벌어진 대표적인 아이러니라 볼 수 있다.
메타 AI 에이전트의 수위 높은 대화 논란
사건의 발단은 메타가 선보인 AI 에이전트가 사용자들과 다소 자극적이거나 수위 높은 대화를 자연스럽게 소화한다는 사실이 알려지면서부터다.
일반 대중은 이 새로운 기술을 신기해하며 흥미로운 반응을 보이고 있지만, 정작 디지털 성인물 시장의 주역들은 허탈감을 감추지 못하고 있다.
실제 인간이 운영하는 계정이나 콘텐츠는 아주 미세한 노출이나 표현에도 메타의 서슬 퍼런 알고리즘에 걸려 계정이 정지되거나 수익 창출이 제한되기 때문이다.
인간 크리에이터에게는 가혹한 잣대를 들이대면서 AI에게는 관대한 태도를 보이는 것은 명백한 이중잣대라는 비판이 쏟아지는 이유다.
플랫폼 검열 정책의 모순과 크리에이터들의 반발
크리에이터 경제 규모가 커질수록 대형 소셜 미디어 플랫폼들의 콘텐츠 가이드라인은 점점 더 복잡해지고 까다로워지고 있다.
특히 결제 시스템이나 광고주들의 눈치를 봐야 하는 기업 입장에서는 성인용 콘텐츠를 배제하려는 경향이 매우 뚜렷하다.
그럼에도 불구하고 자체 개발한 인공지능 모델이 유사한 성격의 대화를 처리하는 것은 허용하는 모습은 규제의 사각지대를 영리하게 이용하는 것으로 비춰진다.
플랫폼의 수익성 확보와 기술 고도화 과정에서 정작 플랫폼을 지탱해 온 일반 크리에이터들만 역차별을 당하는 구조적 모순이 수면 위로 드러난 셈이다.
자주 묻는 질문 (Q&A)
Q: 메타 AI는 어떤 대화를 나누기에 논란이 되는 걸까?
A: 이용자들과의 감정적 교류 과정에서 성적으로 암시적이거나 수위가 높은 대화 패턴을 학습하여 자연스럽게 받아치기 때문이다.
Q: 인간 크리에이터들은 구체적으로 어떤 제재를 받고 있나?
A: 사소한 노출이나 단어 선택만으로도 계정 도달률이 급격히 떨어지거나 영구 정지 처분을 당하는 경우가 비일비재하다.
Q: 플랫폼 기업들은 왜 이런 차이를 두는 걸까?
A: AI 기술 관련 서비스는 혁신 기술로 포장하여 규제를 피해가는 반면, 사용자 생성 콘텐츠는 엄격한 법적 책임과 광고주 기준을 적용하기 때문이다.
Q: 이번 논란이 향후 규제에 어떤 영향을 미칠까?
A: AI가 생성하는 콘텐츠와 인간이 제작하는 콘텐츠 사이의 법적 기준을 재정립해야 한다는 목소리가 더욱 거세질 것으로 보인다.
마치며
기술이 고도화될수록 인간과 기계 사이의 경계는 점점 더 모호해지기 마련이다.
이번 사태는 단순한 해프닝을 넘어 거대 플랫폼이 지닌 권력과 그 이면의 불공정한 규제 정책의 실체를 보여주는 명확한 지표라 할 수 있다.
앞으로 기업들이 이 모순을 어떻게 해결하고 크리에이터들과 상생의 길을 모색할지 깊은 지켜봐야 할 시점이다.
