검색어 입력폼

[리포트] “차별 ..딥페이크”AI의 양면성, CA주 대책 추진

서소영 기자 입력 05.29.2024 06:05 PM 조회 2,064
[앵커멘트]

AI 기술이 발전하면서 딥페이크 같은 범죄로 악용되는 등 각종 부작용이 나타나는 가운데 CA주 정부에서는 AI에 대한 규제 등 대책 마련에 나섰습니다.

정치나 음란물과 관련된 딥페이크를 규제하고 AI기술이 일자리를 뺏는 것을 방지하겠다는 건데, 일부에서는 경제 기여도가 큰 AI 산업이 CA주에서 떠날 수 있다는 우려가 나옵니다.

서소영 기자가 보도합니다. 

[리포트]

일상에서 AI 기술이 끼치는 영향력이 점점 더 커짐에 따라 그 효용과 부작용을 놓고 세계 각국에서 정책 방향을 고민하는 가운데 CA주에서도 AI를 규제하는 대책을 추진하고 있는 것으로 나타났습니다.

특히 CA주는 AI 기술 대표 주자인 메타, 오픈AI, 엔비디아 등이 본사를 두고 있어 규제에 대한 영향력이 더욱 클 것으로 분석됩니다.

개인정보 보호 포럼의 타티아나 라이스 부국장은 이미 CA주는 IT회사들을 겨냥한 강력한 개인정보 보호법이 시행되고 있어 AI 규제 정책을 시행하기에 알맞다고 전했습니다.

규제가 필요한 부분은 4가지로 나뉘는데 AI에 의한 차별 금지와 일자리 보호, 생성형 AI 규제 그리고 정치나 음란물과 관련된 딮페이크 금지입니다.

AI에 의한 차별 금지는 현재 고용시장에서 지원자를 추리기 위해 광범위하게 사용되고 있는 AI 모델이 인종, 성별, 나이에 따라 지원자를 차별할 수 있기에 제시된 방안입니다.

CA주는 차별 방지하기 위해 시스템을 감독하는 체계를 구축하고 AI 모델에 대한 회사의 자체적인 내부 평가와 AI 사용여부를 사람들에게 알리게끔 하는 규제를 마련하고 있습니다.

규제가 정착된 후 만일 사업체가 이를 위반할 시 연방 검찰은 1만 달러를 부과할 수 있습니다.

일자리 보호는 지난해(2023년) 헐리웃 작가 조합이 파업한 것을 대표로 말할 수 있으며 AI에 의해 일자리가 대체되는 것을 방지하기 위한 것입니다.

특히 CA주 노동 연맹의 지지를 받는 해당 안은 계약 상의 동의 없이 AI로 수집한 목소리를 사용하거나 숨진 이의 모습을 무단으로 AI를 활용해 복제해 재현하는 것을 금지합니다.

생성형 AI 규제는 텍스트와 오디오 그리고 사진과 같은 새로운 콘텐츠를 생성하는 AI가 가진 잠재적인 위험을 방지하고자 합니다.

생성형 AI가 화학 무기를 만들거나 사이버 공격을 지원하는 등 최소 5억 달러의 피해를 초래할있다는 건데 이를 방지하기 위한 가드레일을 의무화하는 방안을 고려하고 있습니다.

마지막으로 정치나 음란물과 관련된 딮페이크를 규제하는 방안이 제시됐으며 이는 최근 AI 기술이 가장 크게 악영향을 끼치고 있는 부분입니다.

이미 연방통신위원회(FCC)는 정치 광고에 AI를 사용할 경우 이를 명시하도록 하는 방안을 추진하고 있으며 지난 1월 뉴햄프셔주에서 조 바이든 대통령 목소리로 가짜 전화 메시지를 만든 정치 컨설턴트에게 600만 달러의 벌금을 부과했습니다.

이외에도 딥페이크를 활용해 아동 성착취물 이미지를 제작하는 것을 추적하고 처벌하는 것을 용이하게 위해 AI 기술을 활용한 딮페이크를 규제하는 정책이 필요한데, 현행되고 있는 법이 이 같은 이미지가 실제 사람을 묘사하고 있지 않다는 이유로 법망을 피하고 있기 때문입니다.

AI 규제에 있어 미국이 유럽보다 뒤쳐져 있다는 평가가 나오고 있고 CA주에서는 여러 법안들이 제시되고 있는 한편 일각에서는 이같은 규제가 CA주에 위치한 AI사업체들을 떠나게 만들 수 있다는 우려도 나오고 있습니다.

라디오코리아 뉴스 서소영입니다. 
댓글 0
0/300
※ 이 댓글에 대한 법적 책임은 작성자에게 귀속됩니다.
  • 댓글이 없습니다