CCTV ‘3.15’야회에서 드러난 AI(인공지능) ‘독극물 투입’ 불법산업이 생성식 AI 상업화 과정의 회색지대를 폭로했다. 사용자들의 AI에 대한 신뢰도가 계속 높아져 이를 객관적인 정보를 얻는 중요한 경로로 간주할 때 일부 GEO(생성형 엔진 최적화) 서비스제공업체는 시스템적으로 허위정보를 제공함으로써 AI를 업체의 ‘마케팅 꼭두각시’로 전락시키고 있다.
GEO는 대규모 모델을 대상으로 한 ‘콘텐츠 최적화’ 전략으로서 본래 의도는 AI 답변에서 브랜드정보의 로출확률을 높이는 데 있다. 그러나 리윤추구라는 목적 아래 이 기술은 정보배포를 조작하는 도구로 변질되여 대량으로 ‘고일치성 콘텐츠’를 제조하고 배포함으로써 대규모 모델의 생성결과에 영향을 미치고 심지어 사용자들을 오도하고 있다.
대중들은 어떻게 진위를 분별해야 하는가?
“가장 관건적인 것은 ‘AI’가 백과사전이 아니다’라는 인식을 갖는 것이다.” 중국전자정보산업발전연구원 정보화 및 소프트웨어산업 연구소 부주임 황문홍은 대중들은 AI를 권위있는 사실의 심판자가 아니라 고효률적인 정보정리도구로 여겨야 한다고 강조했다.
구체적으로 보면 AI가 제공하는 관건적 정보에 대해 사용자는 ‘교차검증’하는 습관을 길러야 하며 특히 소비결정, 건강의료 등 분야의 건의는 정부공식웹사이트, 권위있는 매체, 전문기구 등 여러 경로를 통해 확인해야 한다. 동시에 ‘과도한 일치성’을 경계해야 하는바 만약 AI의 답변이 특정 브랜드나 제품에 대해 매우 일관된 긍정적인 평가를 내리고 객관적인 비교와 위험경고가 부족할 경우 경각심을 높일 필요가 있다.
“사용자는 AI플랫폼의 정보추적능력에 주목해야 하며 출처표시와 인용링크를 제공하는 AI제품을 우선적으로 선택해야 한다.” 황문홍은 “결국 기술소양을 향상시키는 것이야말로 AI시대에 대중이 자신의 권익을 보호하는 기초이다.”라고 말했다.
