구글, AI로 2024년 악성 코난카지노 4000만개 차단

[디지털투데이 AI리포터] 구글이 대형언어모델(LLM)을 활용해 악성 광고를 대규모로 차단했다. 

16일(현지시간) IT매체 아스테크니카에 따르면 구글은 AI 기반 검열 시스템을 통해 3920만개의 미국 광고 계정을 차단했으며 이는 전년 대비 3배 증가한 수치다. 

구글은 2024년 한 해 동안 미국 내 악성 광고 18억개, 전 세계적으로 51억개를 제거했다. 이는 2023년 55억건에서 소폭 감소한 수치지만, 구글은 AI를 활용해 악성 계정을 사전 차단한 결과라고 설명했다. 대부분의 3920만개 계정이 광고를 내보내기 전에 차단됐으며, 이는 광고 품질 개선으로 이어졌다는 설명이다. 

또한 구글은 AI를 악용한 코난카지노에도 대응하고 있다. 2024년 100명의 전문가로 구성된 팀을 꾸려 코난카지노 속성 정책을 강화했으며, 이를 통해 70만개의 코난카지노 계정을 차단하고 딥페이크 사기 코난카지노를 90% 줄였다. 2024년 차단된 코난카지노 페이지는 13억건에 달하며, 성적 콘텐츠, 위험 콘텐츠, 악성코드 등이 주요 차단 사유로 꼽혔다.

구글은 AI 기반 광고 검열 시스템이 효과를 발휘하고 있지만, 여전히 오탐 가능성이 있다고 밝혔다. 광고주 계정이 잘못 차단될 경우 비즈니스에 큰 영향을 미칠 수 있으며, 이를 방지하기 위해 인간 검열도 병행하고 있다고 덧붙였다.