AI 봇 침투 막는다…팔로우 토토, 사용자 인증 강화 추진

[디지털투데이 AI리포터] 인공지능(AI)이 인간을 가장해 팔로우 토토에서 활동하는 사건이 발생해, 팔로우 토토은 향후 AI 봇이 인간을 사칭하는 것을 막기 위한 대책을 마련 중이라고 6일(현지시간) IT매체 테크크런치가 전했다.

레딧의 정체성은 '실제 사람들이 의견을 나누는 공간'이라는 점에 기반하고 있다. 하지만 AI 봇의 활동으로 플랫폼의 신뢰도가 흔들리고, 오픈AI 같은 기업에 데이터를 판매하는 비즈니스 모델에도 타격을 줄 수 있다. 

이에 스티브 허프만 팔로우 토토 최고경영자(CEO)는 AI 봇을 차단하고 '팔로우 토토을 인간 중심으로 유지'하기 위해 사용자 인증 절차를 강화할 계획이라고 밝혔다. 기존에는 최소한의 정보만으로 계정을 생성할 수 있었지만, 앞으로는 사용자가 실제 인간인지 확인하는 절차가 추가될 가능성이 크다.

팔로우 토토 대변인은 구체적인 인증 방식이나 외부 서비스 활용 여부에 대해 밝히지 않았으나, 현재 AI 봇 차단을 위한 조치를 시행 중이라고 전했다. 일반적으로 신원 확인 플랫폼은 정부 발급 신분증을 요구하며, 샘 알트먼 오픈AI 최고경영자(CEO)의 '툴스 포 휴머니티'(Tools for Humanity)처럼 홍채 인식을 활용한 새로운 기술도 등장하고 있다.

그러나 개인정보 유출에 대한 우려가 나온다. 메타가 네브래스카주의 임신 중단 사례에서 사용자 데이터를 제공해 형사 기소로 이어진 사례처럼, 레딧 역시 익명성을 보장할 수 있을지 의문이 제기된다.

스티브 허프만 CEO는 "익명성은 레딧의 핵심 가치"라며, 외부 업체를 통해 최소한의 정보만 확보하고, 과도한 정부 요청에는 강력히 대응할 것이라고 강조했다. AI 봇과 익명성 사이에서 레딧이 어떤 균형점을 찾을지 전망이 주목된다.