주요 메뉴 바로가기 (상단) 본문 컨텐츠 바로가기 주요 메뉴 바로가기 (하단)

딥페이크 Archives - 디시 이슈

#딥페이크 (17 Posts)

  • 피해금액 1조… ‘번아웃’ 고백했던 송은이, 또 안타까운 소식 (+근황) 방송인 유재석을 비롯해 배우 김고은까지, 유명인 사칭 온라인 피싱 범죄 해결을 위해 연예인들이 직접 나섰다.22일 오후 유명인 사칭 온라인 피싱 범죄 해결을 위한 모임(이하 '유사모') 기자회견이 진행됐다.
  • 네이버 AI 서비스, 총선까지 선거 관련 생성물 금지한다 카카오 AI 이미지 생성 모델은 워터마크 기술 도입 준비 딥페이크(PG) [홍소영 제작] 일러스트 (서울=연합뉴스) 홍국기 기자 = 네이버[035420]가 28일부터 제22대 국회의원 총선거일인 오는 4월 10일까지 자사의 인공지능(AI) 서비스에서 선거와 관련한 콘텐츠 생성을 원천 금지한다. 네이버에 따르면 이날부터 대화형 AI 서비스 '클로바X'와 생성형 AI 검색 특화 서비스 '큐:'(CUE:)를 선거와 관련한 정보 요청이나 예측 등을 위해 사용하지 못한다. 이와 관련한 명령어(프롬프트)를 입력하면 "선거 정보는 대화 시점에 따라 변동될 수 있으니 선거관리위원회의 공식 자료 또는 네이버 통합검색 결과를 확인하세요"라는 문구가 뜬다. 공직선거법상 생성형 AI를 활용한 텍스트 결과물은 선거에 활용해도 문제가 없지만, 논란이 될 수 있는 시빗거리 자체를 원천 차단한 셈이다. 네이버는 다양한 형태의 질문이나 요청 형태로 선거와 관련한 정보가 생성될 수 있는 점을 고려해 두 서비스의 대화창 하단에 사용자 주의 안내 문구도 노출한다. 네이버 검색 서비스에 적용된 딥페이크 관련 주의 문구 안내 [네이버 제공] 아울러 네이버는 최근 선거와 관련한 딥페이크(AI로 만든 영상·이미지 합성 조작물)가 활개를 치는 현실을 고려해 이날부터 포털에서 관련 검색어를 입력하는 경우 주의 안내 문구를 띄운다. 검색 이용자가 정보를 소비하는 과정에서 딥페이크 기술의 악용 사례에 대해 경각심을 가질 수 있게 하겠다는 취지다. 블로그와 카페 등에서 영상 게시물을 작성할 때도 딥페이크 주의 안내 문구가 나타난다. 이 밖에 네이버는 자사 AI 서비스가 생성한 이미지에 꼬리표(label)나 워터마크를 붙이는 기술을 연구·개발 중이다. 네이버 관계자는 "하이퍼클로바X가 만든 이미지에 대해 AI 생성물 여부를 감별하고 워터마크를 붙일 수 있는 기술을 개발 중"이라면서 "적용 방법과 시점은 서비스의 맥락에 따라 신중하게 검토할 것"이라고 말했다. 카카오[035720]의 경우 자사의 이미지 생성 모델 '칼로'에 비가시성 워터마크를 붙이는 기술 도입을 검토 중이다. 카카오 측은 "사용자들에게는 워터마크가 보이지 않으나 기술적으로는 칼로 생성 여부를 알 수 있는 기술"이라며 "구글에서도 해당 기술을 연구·운영 중"이라고 설명했다 그러면서 "총선 전인 내달께 관련 기술을 도입하려고 노력하고 있다"고 덧붙였다. 카카오 칼로 AI 프로필 서비스 [카카오 제공] redflag@yna.co.kr 롯데 나균안 "논란 일으켜 팬들에게 죄송"…외도 의혹은 부인 영국 왕실에 무슨 일…수술받은 왕세자빈 음모론 확산 정세진 아나운서, KBS 입사 27년 만에 특별명예퇴직 검찰, '사생활 폭로·협박' 황의조 형수 징역 4년 구형 불타는 승용차 두고 사라진 운전자…경찰 "행적 조사중" '아내살해' 변호사 "고의 없었다"…전 국회의원 부친 증인 신청 "아직도 남편 사랑하는지"…세기의 '삼각관계' 편지 경매에 오산 폐공장서 화보 촬영중 스태프 추락사고…4명 부상 켈로그 CEO "가난한 사람들, 저녁은 시리얼로"…분노 촉발 '포도나무 100그루가 사라졌어요' 황당한 포도나무 절도
  • 충격 ) 윤카 딥페이크 영상이 확산 되는 중.news - 실시간 베스트 갤러리 https://n.news.naver.com/article/023/0003818182?cds=news_media_pc “저 윤석열, 국민 괴롭혔다” 국내 첫 대통령 겨냥 딥페이크 확산‘윤석열 대통령 양
  • 영화 ‘파묘’ 개봉 하루 앞두고…최민식, 무거운 소식 전했다 [TV리포트=강보라 기자] 배우 최민식 측이 영화 '파묘' 개봉을 앞둔 가운데 무거운 소식을 전해 시선을 끌고 있다. 최민식 측은 21일 "최근 최민식 배우를 사칭한 SNS 계정이 발견됐다"며 "현재 최민식 배우는 SNS 채널을 일절 운영하고 있지 않다"고 공지했다.
  • 총선 앞두고 금지된 딥페이크 선거 게시물 활개 선관위, AI 전담팀 꾸리고 19일 새 129건 적발 검증 방식 실효성 논란…관련 없어 신기술 활용 못해 딥페이크·딥보이스(PG) [홍소영 제작] 일러스트 (서울=연합뉴스) 이정현 홍국기 기자 = 오는 4월 10일 제22대 국회의원 총선거가 50여일 앞으로 다가온 가운데, 법으로 금지된 딥페이크(Deepfake·AI로 만든 영상·이미지 합성 조작물) 게시물이 활개를 치고 있다. 19일 중앙선거관리위원회(선관위)에 따르면 지난달 29일부터 지난 16일까지 19일간 유권자를 상대로 딥페이크를 이용한 선거 운동 행위로 공직선거법을 위반한 게시물은 129건에 달했다. 선관위 측은 "모두 자체 모니터링을 통해 인지한 사례"라면서 "대부분 삭제가 완료됐으나 현재 조치가 진행 중인 건도 있다"고 설명했다. 딥페이크는 세계적으로 악용 사례가 크게 늘고 있으며 무엇보다도 가짜 뉴스로 둔갑해 여론을 호도하는 민주주의 최대 위협 요소라는 위기의식이 높아지고 있다. AI 윤석열 대통령 [출처: 2022년 5월 당시 더불어민주당 박지현 공동비대위원장 페이스북] 최근 팝스타 테일러 스위프트가 딥페이크 음란물 피해를 입은 것을 비롯해, 교묘하고 감쪽같은 딥페이크 영상에 속아 사기를 당하는 사건이 국내외에서 연이어 발생했다. 2022년에는 지방선거를 앞두고 윤석열 대통령이 당시 국민의힘 박영일 남해군수 후보를 지지하는 가짜 영상이 사회관계망서비스(SNS)를 통해 확산하면서 정치적 논란이 되기도 했다. 이에 국회는 작년 12월 본회의에서 선거일 90일 전부터 유권자를 겨냥해 딥페이크를 활용한 선거 운동을 원천 금지하는 것을 골자로 한 공직선거법 개정안을 의결했다. 이번 총선의 경우에는 선거일 90일 전인 지난달 11일이 아니라 법 공포 후 한 달이 지난 29일부터 적용됐다. 개정된 공직선거법을 위반하면 7년 이하의 징역이나 1천만∼5천만원의 벌금에 처한다. 그러나 전담팀 가동 20일도 안 돼 100건을 훌쩍 넘는 법 위반 사례가 적발된 것이다. '딥페이크 선거운동 안 돼요' (수원=연합뉴스) 2024년 1월 10일 경기도 수원시 경기도선거관리위원회에서 사이버 선범죄 근절 홍보 퍼포먼스를 하는 장면. [연합뉴스 자료사진] 더욱 큰 문제는 전담팀 인력이 수십 명 수준에 불과한 데다, 3단계에 걸친 딥페이크 선별 작업을 하느라 총선이 다가올수록 딥페이크가 선거판을 흔들 개연성이 크다는 점이다. 현재 전담팀 인력은 모니터링반, 인공지능(AI) 감별반, 분석·삭제반, 조사·조치반, 검토 자문단을 포함해 72명이다. AI 감별반은 선관위에서 구축한 AI 기반의 '지능형 사이버 선거범죄 대응 시스템'에서 자동 수집된 게시물을 모니터링해 '범용 프로그램'으로 딥페이크 여부를 확인한다. 프로그램으로도 감별하기 어려울 만큼의 정교한 딥페이크일 경우 전문 자문위원에게 자문하는 과정을 거친다. 반면 모바일 앱스토어에서 소액으로 워터마크 없이 딥페이크를 만들 수 있는 애플리케이션(앱)은 수두룩하며 앱을 통한 제작 속도 또한 10분이 채 걸리지 않는다. 서울여대 정보보호학과 김명주 교수(바른AI연구센터장)는 "딥페이크를 이용한 가짜를 생성하는 확산 속도는 3단계 검증시스템이 제공하는 검증 속도에 비해 너무 빠르다"며 "한마디로 게임이 되지 않는 대응"이라고 지적했다. 딥브레인AI, 딥보이스 탐지 기술 특허 출원 [딥브레인AI 제공] 딥페이크는 나날이 교묘하고 정교해지는데, 전담팀은 일반적으로 접근이 가능한 범용 프로그램으로 대응하는 것도 현실에 뒤떨어진다는 비판이 제기된다. 지난 대통령 선거에서 'AI 윤석열'을 제작해 화제를 모은 국내 스타트업 딥브레인AI는 딥페이크 영상을 탐지하는 서비스형소프트웨어(SaaS) 기반의 설루션을 지난달 국내 최초로 출시한 데 이어, 이달에는 딥보이스(음성 합성물) 탐지 기술에 대한 특허를 출원했다. 이 업체는 지난달 한동훈 국민의힘 비상대책위원장이 "조폭들이나 할 법한 짓을 벌인 범죄자 뒤에 누가 있겠느냐"고 발언하는 기자회견 유튜브 영상에 대해 '66.84% 조작된 영상'이라는 탐지 결과를 내놨다. 1분 분량의 영상 파일이 가짜로 판명되는 데는 약 5분이 소요됐다. 그러나 전담팀은 이런 최신 탐지 기술을 활용할 수 없는 처지다. 급하게 법이 개정되고 전담팀이 꾸려지느라 별도의 사업비가 예산으로 책정되지 못했기 때문이다. 선관위 관계자는 "전담팀의 딥페이크 관련 단속에 편성된 별도 예산은 없다"면서도 "딥페이크 생성 기술도 계속 발전하고 있기 때문에 특정 회사의 프로그램을 쓰는 방법보다 단계별 검증 과정을 거쳐 위법성을 검토·조사·조치하고 있다"고 말했다. '딥페이크'(deepfake) (PG) [장현경 제작] 일러스트 redflag@yna.co.kr 경질 전 클린스만이 돌아본 정몽규 축구협회장은 '든든한 우군' 韓 '탁구게이트' 아르헨서도 입방아…"손흥민을? 믿을 수 없어" "의대정원 파격 증원에도 외국에선 의사들 집단행동 없어" 나발니 시신 행방불명…측근 "푸틴, 살해 명령 후 흔적 숨긴다" 이준석 "배복주, 지하철 시위 지적을 장애인 혐오로 몰며 활동" 동요 '새싹들이다' 작사·작곡한 좌승원씨 별세 부산 엘시티 99층서 낙하산 타고 뛰어내린 외국인 2명 추적 딸 4명 앞에서 흉기 들고 "강아지 죽인다"…아동학대 유죄 출산수당 1억? 현실은 68만원…'비과세 한도'의 절반 수준 "가난하지 않은 순간이 없어"…기초수급자 아동의 편지
  • 살인자ㅇ난감 손석구 아역의 놀라운 비밀 넷플릭스 오리지널 요즘 방영 종료 정주행 재밌는 드라마 추천 살인자ㅇ난감 손석구 아역의 놀라운 비밀 드라마 살인자ㅇ난감을 보면서 흥미로운 지점은 바로 손석구 아역 배우 였다. 어린 아이와 청소년 두 명의 아역이 나오는데 묘하게 손석구 얼굴 느낌이 너무
  • 스위프트 '딥페이크' 논란에…X 부랴부랴 '콘텐츠 단속센터' 신설 세계적인 팝스타 테일러 스위프트의 얼굴을 합성한 음란 딥페이크(Deepfake, 가짜 사진·영상) 사진이 '엑스'(옛 트위터)에 급속도로 유포되면서, 인공지능(AI) 규제의 목소리가 높아지고 있다. X(옛 트위터)는 부랴부랴 불법콘텐츠 단속 센터 설립
  • '이것' 활용한 선거운동 29일부터 금지…자칫하면 처벌받을 수 있습니다 29일부터 딥페이크 영상을 활용한 선거운동이 금지되지만, 당내 경선 운동이나 투표 참여 권유 활동에는 허용된다. 딥페이크 영상 등을 사용한 선거운동 의심 사례는 AI 기술과 협조하여 삭제하고, 과태료 부과 및 수사기관에 통보할 예정이다. AI 댓글 자
  • “어떻게 나와?” 지창욱 새 드라마에 송해 MC가 등장한 장면(+사진) 신혜선, 지창욱 주연의 JTBC 새 토일드라마 ‘웰컴투 삼달리’에 ‘영원한 국민 MC’ 송해가 등장했다.지난 2일 방송된 JTBC ‘웰컴투 삼달리’ 첫 회는 화면의 색감과 비율까지 1994년 그때 같은 ‘전국노래자랑-제주도 편’으로 오프닝을 꾸몄다.
  • "이견 없었다!" 여야 합의 끝에 통과된 '이 법안'의 핵심은 '딱 네 글자'고 급변하는 현대사회가 진하게 녹아 있다 "AI 윤석열입니다. 아쉽지만 프로그램의 한계입니다. AI 윤석열의 도리도리가 구현될 수 있도록, 대한민국 AI 산업 부흥을 함께 이뤄내겠습니다. 감사합니다.""AI 이재명입니다. 이재명 후보와 너무 닮아서 놀라셨나요?"지난 대선 당시 '딥페이크'(d
  • 딥페이크 선거운동 금지법, 정개특위 소위 통과 '선거일 90일 전부터 금지' 선거법 개정안…내일 전체회의 처리 국회 정개특위 소위 (서울=연합뉴스) 한상균 기자 = 4일 국회 정치개혁특별위원회 법안심사제1소위원회에서 김영배 소위원장이 회의를 진행하고 있다. 2023.12.4 xyz@yna.co.k
  • 송해·박윤배·임윤택, 그리웠던 스타들…딥페이크로 부활했다 [종합] [TV리포트=김현서 기자] '딥페이크'란 딥러닝(deep learning)과 페이크(fake)의 합성어로, 인공지능 스스로 외부 데이터를 조합 및 분석해 학습하는 딥러닝 기술을 활용, 실제 사람의 얼굴이나 특정 부위를 합성하는 기술을 말한다. 위험성이
  • "엄마 돈 보내줘" 딸인줄 알았더니 AI…대응책 있나 정수환 숭실대 교수, 'AI 음성 딥페이크를 AI 딥러닝으로 식별' 기술 개발중 실제 3억원 송금한 AI 보이스 피싱사례 있어…대응은 '눈에는 눈, AI엔 AI로' 보이스피싱 (CG) [연합뉴스TV 제공] (서울=연합뉴스) 조성미 기자 = "엄마, 나
  • "브루노 마스가 부르는 하입보이" 딥페이크 기업에 美 VC 뭉칫돈 [글로벌 스타트업씬] 5월 3주차 핫뉴스'글로벌 스타트업씬'은 한주간 발생한 주요 글로벌 벤처캐피탈(VC) 및 스타트업 소식을 전달하는 코너입니다. 이에 더해 국내 스타트업 시장에 미칠 영향과 전망까지 짚어드립니다.세계적인 팝 가수 브루노 마스가 뉴진
  • 톰 행크스 "죽은 후에도 연기할 수 있다" [할리웃통신] [TV리포트=이예은 기자] 앞으로 머지않은 미래에서는 세상을 떠난 배우들의 새로운 작품을 스크린에서 만나볼 수 있게 될 전망이다. 바로 인공지능(AI)과 딥페이크 기술이 고도로 발전했기 때문이다. 16일(현지 시간)칸 영화제에서 최초로 공개되는 영화 '인디아나 존스:
  • "중국서 열차 충돌" 챗GPT로 가짜뉴스 만들었다가…'징역 10년' 위기 중국에서 인공지능(AI) 기술을 이용해 가짜 뉴스를 제작하고 유포한 남성이 붙잡혔다. 8일 사우스차이나모닝포스트(SCMP)에 따르면 중국 간쑤성 경찰은 AI 기술을 이용해 허위 사실을 유포한 혐의로 한 남성 홍모씨를 체포했다. 지난달 25일 바이쟈하오
  • 음란 광고에 등장한 유명 여배우…딥페이크에 속았다 해외 유명 배우들의 모습이 딥페이스 기술로 음란 광고에 자주 등장하고 있다. 플랫폼 규제의 사각지대를 비집고 딥페이크 콘텐츠가 활성화되면서 사회적 문제로 떠오르고 있다. 8일(현지시간) NBC 뉴스에 따르면 영화 '해리포터' 여주인공 엠마 왓슨이 딥페이크 기술로 SNS

함께 볼만한 뉴스

  • 1
    스시 오마카세의 붐을 이끌어갈, 요즘 인기 있는 스시 오마카세 맛집 5곳

    핫 식신

  • 2
    왕년엔 잘 나갔는데.. 볼보 최대 라이벌이었던 ‘이 브랜드’ 충격 근황

    모빌리티TV

  • 3
    “지나갔죠? 과태료 내세요” 정부, 4월부터 화물차 기사들 싹 잡는다 선언

    카프레스

  • 4
    몸무게가 둘이 합쳐 200 조금 안된다는 부부

    TMI 뉴스

  • 5
    강진군, 인기 높았던 ‘반값 가족여행 시즌2’ 사전 접수 시작

    밈미디어

당신을 위한 인기글

  • “단번에 취향 저격!” 맞춤형 리무진으로 완성한 나의 꿈의 드라이브
  • “이래도 되는구나” 좌회전 차선, 지금까지 ‘이것’만 했다면 확인 필수!
  • 물러지기 쉬운 ‘부추’ 이렇게 하니,한달도 싱싱하네!?
  • 현실적인 공간 디자인으로 완성한 소형 아파트 인테리어
  • 녹진한 국물과 쫄깃한 면발의 매력, 라멘 맛집 BEST5
  • 신선한 채소와 구수한 장의 최고의 조합, 쌈밥 맛집 BEST5
  • 없던 입맛도 되찾아주는 별미 중의 별미, 쫄면 맛집 BEST5
  • 가격 더 낮춰.. 불똥 떨어진 전기차 시장, 기존 차주들 뒤통수 맞았죠
  • 포르쉐 겨냥한다, 레인지로버 전기차 실물 포착.. 한국 아빠들 난리
  • “여긴 찐이다” 먹어본 사람 다들 인정한다는 전국 김밥 맛집 5
  • “비싸도 너무 비싸다” 파리 올림픽 동안 저렴하게 여행하는 방법
  • 국내 유일의 고래 관광 선박…울산에서 정기운항 시작해

추천 뉴스

  • 1
    이렇게 하면 과속해도 고지서 안날라갑니다

    차·테크 

  • 2
    '김민재 포함 센터백 불만족'→바이에른 뮌헨, 바르셀로나 핵심 센터백 이적료 1460억 충격 제안

    스포츠 

  • 3
    “양방향 충전기능까지? 진짜 여기에 올인한 듯?!” 노이어 클라세

    차·테크 

  • 4
    “마이바흐 급 제네시스” 역대급 SUV 디자인, 디자이너 누구냐 난리!

    차·테크 

  • 5
    비니시우스에 이어 손흥민 절친도 눈물→"축구를 그만두고 싶었다" 브라질 대표팀 공격수 잇단 고백

    스포츠 

지금 뜨는 뉴스

  • 1
    12년 만에 한국 프로야구서 쓴맛... 류현진, 거침없이 말문 열었다 (+이유)

    스포츠 

  • 2
    '한때 손흥민 절친' 선발 자리 밀려나고 '불만'…"사우디가 부른다"

    스포츠 

  • 3
    교토의 타코쵸 라는 오뎅집은 매우 맛있지만 비싸니까 주의하세요 - 실시간 베스트 갤러리

    뿜 

  • 4
    여자배구 직관하는 존잘남

    뿜 

  • 5
    주지훈: 요즘 세상이 좋아져서 내가 미남소리 좀 듣는거다.jpg

    뿜