기술의 발전에 따라 불법분자들이 인물사진, 동영상, 목소리를 위조하여 사기를 치는 사건이 종종 발생하고 있다. 많은 로인 심지어 중청년들까지도 신기술에 익숙하지 않고 예방의식이 상대적으로 약하여 사기표적으로 되고 있다. AI(인공지능)시대에 진입해 은발세대들의 권익을 어떻게 더 잘 보호할 수 있을가?
황석시공안국 형사정찰지대 민경 란적은 불법분자들이 불법적인 경로를 통해 피해자가족의 음성단편을 입수한 후 AI 음성합성기술로 목소리와 말투를 흡사하게 복제하여 돈 빌리기, 투자, 긴급구조 등을 핑게로 친척과 친구들에게 송금하도록 유도하거나 은행계좌 비밀번호 등 민감한 정보를 취득한 후 즉시 자금을 편취한다고 소개했다.
로인들은 신기술을 구별하는 능력이 약하기 때문에 불법분자들의 표적이 되기 쉽다. 로인들은 어떻게 ‘의성(拟声)’사기를 방지할 수 있을가? “로인들이 고향말이나 사투리로 상대방과 몇마디 대화를 나누도록 하고 가족구성원만이 아는 정보를 기반으로 상대방과 확인할 수도 있다. 만약 답변하지 못하거나 엉뚱한 대답을 한다면 상대방은 사기군일 가능성이 크다.” 란적이 말했다.
로인들은 이런 사기를 당해도 여전히 구제할 여지가 있다. 란적은 우선 즉시 110에 신고하거나 파출소로 직접 가서 상황을 설명하고 그다음 가족에게 즉시 알려 련쇄사기에 걸리지 않도록 해야 한다고 말했다.
화남리공대학교 미래기술학원 원장 채굉민은 현재 생성형 인공지능이 다중모델심층융합단계에 진입하여 얼굴변환과 음성합성 정밀도가 매우 높다면서 단 10여초의 음성이나 몇장의 사진만으로도 유명인물의 얼굴표정, 억양, 호흡리듬 등 세부사항을 정확하게 복제할 수 있기 때문에 육안으로 거의 구별할 수 없다고 밝혔다. 이러한 사기는 은페성이 강하여 로인층이 특히 속기 쉽다.
채굉민은 이러한 기술람용에 대한 대응책으로 AI로 AI를 제어하는 것이 직접적이고 효률적인 예방통제경로로서 인터넷플랫폼과 규제기관이 협력하여 추진할 것을 건의했다. 플랫폼은 멀티모드심층탐지모델을 배치해 AI 생성내용의 열성아티팩트(隐性伪影), 주파수령역 특징이상 및 입술음성 동기편차를 포착해 초단식별, 정밀차단을 실현해야 하며 일부 모델정확도는 95% 이상에 달한다. 확장가능한 대항성 워터마크(水印)를 삽입해 권위인사의 영상, 음성소재에 보이지 않는 표식을 심기를 권장한다. 위조시 표식을 촉발해 생성내용을 파괴함으로써 사전능동방어를 실현해야 하며 유명인사 디지털특징저장고를 구축해 얼굴, 소리와 지문 핵심특징을 수록하고 신분을 도용한 위조내용을 자동식별, 신속하게 차단함으로써 원천적으로 기술람용을 억제해야 한다. 동시에 대중을 대상으로 과학보급을 강화하여 로인들이 위조기술의 특징을 리해할 수 있도록 해야 한다.
