◆…조 바이든 미국 대통령 <사진 로이터>
생성형 인공지능(AI) 기술을 이용해 조 바이든 대통령의 목소리로 가짜 음성 메시지를 만든 정치 컨설턴트에게 거액의 벌금이 부과됐다.
23일(현지시간) 미국 NBC 방송에 따르면 미 연방통신위원회(FCC)는 이날 정치 컨설턴트 스티브 크레이머에게 600만 달러(약 82억원)의 벌금을 부과했다고 밝혔다.
그는 지난 1월 미국 북동부 뉴햄프셔주 대선 후보 프라이머리(예비선거)를 앞두고 바이든 대통령의 목소리로 '프라이머리에서 투표하면 11월(대선)에 투표할 수 없다'는 내용을 담은 전화 메시지를 만든 혐의를 받고 있다.
혐의에는 전화를 받은 뉴햄프셔 유권자 13명을 기준으로 13건의 중범죄와 또 다른 11건의 경범죄가 포함된 것으로 전해졌다.
FCC는 또한 사건에 연루된 통신 회사에도 200만 달러의 벌금을 부과했다.
존 포멜라 뉴햄프셔 법무장관은 성명을 통해 "뉴햄프셔는 선거에 불법 개입하는 행위를 막기 위해 최선을 다하고 있으며 이 문제에 대한 조사가 계속 진행 중"이라고 말했다. 그는 "AI를 사용해 선거를 방해하려는 사람은 누구나 조사 대상이 될 수 있다"고 덧붙엿다.
NBC는 이번 사건이 미국 정치에서 딥페이크가 사용된 최초의 사례라고 전했다. 이에 따라 FCC는 원치 않는 AI 자동 녹음 전화를 금지하는 새로운 규정을 제정했다.
제시카 로젠워셀 FCC 위원장은 성명에서 "AI가 어떻게 혼란을 초래할지 알아보기 위해 먼 나라까지 갈 필요가 없다"며 "올해 미국에서 뉴햄프셔 유권자들을 대상으로 한 사기 캠페인이 벌어졌기 때문"이라고 했다.
이어 "AI 기술을 사용한 음성 메시지를 통해 누구에게나 전화를 건 사람이 당신이 아는 정치인, 당신이 좋아하는 유명인, 또는 친숙한 가족이라고 속일 수 있다"며 딥페이크가 사회 전반에 더 큰 부분을 차지할 수 있다고 우려했다.
최근 배우 스칼렛 요한슨은 오픈AI가 신제품 출시의 일환으로 자신의 허락없이 AI 챗봇 목소리를 만들었다고 밝혀 논란이 됐다. 오픈AI 측은 이를 부인했으며 현재 해당 음성은 삭제된 상태다.
