“바이든 딥페이크 음성으로 100만 달러 벌금 물게 된 통신회사”, 2024년 8월 21일

뉴햄프셔주 민주당 예비선거를 앞두고 조 바이든 대통령의 음성을 모방한 딥페이크 로보콜(자동녹음전화)이 확산된 가운데, 이에 대한 책임을 지고 미국의 한 통신회사가 100만 달러의 벌금을 내게 되었다.

링고 텔레콤(Lingo Telecom)은 “변조된(spoofed)” 전화번호를 통해 인공지능으로 생성한 로보콜을 발신하는 음성 서비스 공급업체로, 100만 달러의 벌금을 부담하는 한편 엄격한 관리감독 프로토콜을 마련하기로 합의했다. 이는 악의적인 딥페이크 및 AI를 활용한 사칭에 대하여 연방 당국이 최초로 집행한 조치다.

연방통신위원회(FCC) 위원장인 제시카 로젠워셀(Jessica Rosenworcel)은 성명서에서 “수화기 너머 상대방이 사칭인지 아닌지 알 권리는 누구에게나 있다. AI가 사용되는 경우라면 모든 소비자, 시민, 유권자가 그 사실을 분명히 알아야 한다”라고 밝혔다. …

… 이번에 확산된 로보콜은 AI로 바이든의 목소리를 모방해 뉴햄프셔 유권자들에게 오는 1월 민주당 예비선거에 투표하지 말라는 메시지를 전송했다. … 뉴햄프셔주 검찰총장 존 포멜라(John Formella)는 성명서에서 “AI로 생성된 메시지를 퍼뜨리는 번호 변조 로보콜을 발신한 데 있어 링고 텔레콤에 책임을 물은 것은, FCC가 선거 개입 및 기만적 기술을 용인하지 않겠다는 강력한 의지를 표명한 것”이라고 말했다.