통권 제393호 2024년의 인공지능은 우리를 어떻게 바꿀 것인가
페이지 정보
작성자 최고관리자 댓글 0건 조회 1,270회 작성일 24-01-30 13:50본문
우리 생활의 일부가 된 인공지능
인공지능(AI)은 이제 우리 생활 전반에 폭넓게 만연해 있다. 흔한 예로 과거에는 ChatGPT나 Bard 챗봇 같은 AI 기술이 공상 과학 소설이나 미래 연구 분야에서만 언급되었지만, 2024년 현재 이들은 수백만 명의 사람들이 사용하는 매우 일상적인 도구로 자리 잡고 있다. 인공지능은 우리의 미래를 벌써 바꾸고 있는 셈이다. 반면, 전문가들은 이러한 변화들이 앞으로 다가올 미래의 모습 중 일부에 불과하다고 주장한다.
스타트업 ada Learning의 최고 혁신 책임자 레아 스타이너커는 2007년 애플의 스마트폰 출시로 휴대전화를 통한 모바일 인터넷 접속이 대중화된 것을 언급하며 인공지능은 바로 “아이폰의 순간”에 도달했다고 주장한다. ChatGPT와 같은 AI 애플리케이션은 우리에게 AI를 직접 사용해 볼 수 있는 도구를 제공했으며 이는 사회 전체에 영향을 미칠 것이기 때문이다.
딥페이크, 선거에 어떠한 영향을 미칠까?
텍스트, 오디오, 이미지 등의 기존 콘텐츠 패턴을 학습하여 이를 기반으로 추론하고 새롭게 유사한 콘텐츠를 만들어 내는 인공지능 기술인 ‘생성형 AI’ 프로그램을 사용하면 누구나 어렵지 않게 몇 초 만에 설득력 있는 텍스트와 이미지를 만들 수 있다. 덕분에 사람들이 실제로 하지 않은 말이나 행동을 하는 것처럼 보이는 ‘딥페이크’ 콘텐츠를 그 어느 때보다 쉽게 (그리고 저렴하게) 제작할 수 있게 되었다.
이는 올해 전 세계가 주목하고 있는 2024년 미국 대통령 선거부터 유럽의회 선거까지 미칠 가능성이 크다. 우리나라 역시 올해 제22대 국회의원 선거를 앞두고 있다. 주요 선거가 다가옴에 따라 전문가들은 투표를 앞두고 여론을 흔들거나 불안을 조장하기 위한 딥페이크가 급증할 수 있다고 경고하고 있다.
딥페이크가 얼마나 큰 영향을 미칠지에 대한 우려가 커지고 있는 가운데 소셜 미디어 기업의 대응 노력에 대한 귀추가 주목된다. 거대 소셜미디어들은 이미 정치 성향을 강하게 드러내고 있어 이에 대한 전 세계 시민들의 우려 역시 계속되고 있다. 하지만 구글의 유튜브, 메타의 페이스북과 인스타그램 등 여러 플랫폼에서 AI가 생성한 콘텐츠를 표시하는 정책을 시행하고 있기에 이러한 노력은 긍정적으로 인식되고 있다. 따라서 2024년은 이러한 정책이 제대로 작동하는지에 대한 첫 번째 주요 시험대가 될 것이다.
특히, EU 사이버 보안 기관의 전무이사 요한 레파사르(Juhan Lepassaar)는 작년 10월 중순에 발표한 위협 보고서에서 명시하고 있듯이 EU 선거 절차에 대한 신뢰는 ‘사이버 보안 인프라’와 ‘정보의 무결성 및 가용성’에 대한 EU의 역량에 따라 결정적으로 좌우될 것이라고 평가하고 있다.
AI가 생성한 콘텐츠의 소유권은 누가 갖게 될까?
유수 AI 기업들은 생성형 AI 도구를 빠르게 그리고 보다 효율적으로 개발하기 위해 인터넷에서 가져온 방대한 양의 텍스트나 이미지를 기본 모델에 공급하여 학습시키고 있다. 그리고 지금까지는 작가, 일러스트레이터, 사진작가 등 원저작자의 명시적인 동의 없이 이러한 리소스를 사용해 왔다. 하지만 저작권 보유자들은 이러한 행위가 저작권을 침해하는 것이라며 반발하고 있는 상황이다.
최근 뉴욕타임스 역시 수백만 건의 신문 기사를 무단으로 사용했다며 ChatGPT의 개발사인 OpenAI와 Microsoft를 고소한다고 발표한 바 있다. 샌프란시스코에 본사를 둔 OpenAI는 존 그리샴과 조나단 프랜즌을 비롯한 미국의 저명한 소설가들로부터도 자신의 저작물을 사용했다는 이유로 소송을 당했다.
이 외에도 여러 건의 소송이 진행 중이다. 사진 아카이브로 유명한 게티이미지(Getty Images)는 스테이블 디퓨전 이미지 생성 시스템 AI 회사인 Stability AI를 상대로 사진 분석에 대한 소송을 제기하고 있다. 이러한 소송의 첫 판결은 2024년에 내려질 수 있으며, 이 판결은 기존의 저작권법과 관행이 AI 시대에 맞게 어떻게 현행화되어야 하는지에 대한 선례가 될 수 있다.
AI에 대한 문제 그리고 규제 법안들
AI 기술이 점점 더 정교해짐에 따라 기업이 기본 모델을 개발하고 훈련하는 것이 점점 더 어려워지고 있다. 이에 대한 비용 역시 증가하고 있는데, 디지털 인권 운동가들은 이러한 발전으로 인해 점점 더 많은 첨단 전문 지식이 소수의 강력한 대기업들에 집중되고 있다고 경고하고 있다.
브뤼셀에 본부를 둔 비영리 단체 Access Now의 유럽 정책 담당 디렉터인 패니 히드베기는 인프라, 컴퓨팅 성능, 데이터 측면에서 소수의 기술 기업에 권력이 집중되는 것은 기술 분야의 오랜 문제를 보여주고 있다고 꼬집었으며 기술이 사람들의 삶에 없어서는 안 될 부분이 되면서 몇몇 민간 기업이 AI가 사회를 재편하는 방식에 영향을 미칠 것이라고 경고했다.
그렇다면 인공지능 관련 법률은 어떻게 시행될까? 전문가들은 자동차에 안전벨트를 장착해야 하는 것처럼 인공지능 기술에도 규칙이 적용되어야 한다는 데 동의한다. 2023년 12월, 수년간의 협상 끝에 유럽연합은 세계 최초로 인공지능에 관한 포괄적인 법률인 AI 법에 합의했기에 전 세계의 모든 시선은 브뤼셀의 규제 당국이 새로운 규칙을 제대로 이행하고 시행할지 지켜볼 것이다. 규칙의 조정 여부와 방법에 대한 열띤 토론은 어쩌면 당연한 지도 모른다. 또한 이는 전 세계의 AI 관련 법안에 크게 영향을 미치리라 기대된다.
사이언스 타임즈 김민재 리포트 2024.1.29자 발제
인공지능(AI)은 이제 우리 생활 전반에 폭넓게 만연해 있다. 흔한 예로 과거에는 ChatGPT나 Bard 챗봇 같은 AI 기술이 공상 과학 소설이나 미래 연구 분야에서만 언급되었지만, 2024년 현재 이들은 수백만 명의 사람들이 사용하는 매우 일상적인 도구로 자리 잡고 있다. 인공지능은 우리의 미래를 벌써 바꾸고 있는 셈이다. 반면, 전문가들은 이러한 변화들이 앞으로 다가올 미래의 모습 중 일부에 불과하다고 주장한다.
스타트업 ada Learning의 최고 혁신 책임자 레아 스타이너커는 2007년 애플의 스마트폰 출시로 휴대전화를 통한 모바일 인터넷 접속이 대중화된 것을 언급하며 인공지능은 바로 “아이폰의 순간”에 도달했다고 주장한다. ChatGPT와 같은 AI 애플리케이션은 우리에게 AI를 직접 사용해 볼 수 있는 도구를 제공했으며 이는 사회 전체에 영향을 미칠 것이기 때문이다.
딥페이크, 선거에 어떠한 영향을 미칠까?
텍스트, 오디오, 이미지 등의 기존 콘텐츠 패턴을 학습하여 이를 기반으로 추론하고 새롭게 유사한 콘텐츠를 만들어 내는 인공지능 기술인 ‘생성형 AI’ 프로그램을 사용하면 누구나 어렵지 않게 몇 초 만에 설득력 있는 텍스트와 이미지를 만들 수 있다. 덕분에 사람들이 실제로 하지 않은 말이나 행동을 하는 것처럼 보이는 ‘딥페이크’ 콘텐츠를 그 어느 때보다 쉽게 (그리고 저렴하게) 제작할 수 있게 되었다.
이는 올해 전 세계가 주목하고 있는 2024년 미국 대통령 선거부터 유럽의회 선거까지 미칠 가능성이 크다. 우리나라 역시 올해 제22대 국회의원 선거를 앞두고 있다. 주요 선거가 다가옴에 따라 전문가들은 투표를 앞두고 여론을 흔들거나 불안을 조장하기 위한 딥페이크가 급증할 수 있다고 경고하고 있다.
딥페이크가 얼마나 큰 영향을 미칠지에 대한 우려가 커지고 있는 가운데 소셜 미디어 기업의 대응 노력에 대한 귀추가 주목된다. 거대 소셜미디어들은 이미 정치 성향을 강하게 드러내고 있어 이에 대한 전 세계 시민들의 우려 역시 계속되고 있다. 하지만 구글의 유튜브, 메타의 페이스북과 인스타그램 등 여러 플랫폼에서 AI가 생성한 콘텐츠를 표시하는 정책을 시행하고 있기에 이러한 노력은 긍정적으로 인식되고 있다. 따라서 2024년은 이러한 정책이 제대로 작동하는지에 대한 첫 번째 주요 시험대가 될 것이다.
특히, EU 사이버 보안 기관의 전무이사 요한 레파사르(Juhan Lepassaar)는 작년 10월 중순에 발표한 위협 보고서에서 명시하고 있듯이 EU 선거 절차에 대한 신뢰는 ‘사이버 보안 인프라’와 ‘정보의 무결성 및 가용성’에 대한 EU의 역량에 따라 결정적으로 좌우될 것이라고 평가하고 있다.
AI가 생성한 콘텐츠의 소유권은 누가 갖게 될까?
유수 AI 기업들은 생성형 AI 도구를 빠르게 그리고 보다 효율적으로 개발하기 위해 인터넷에서 가져온 방대한 양의 텍스트나 이미지를 기본 모델에 공급하여 학습시키고 있다. 그리고 지금까지는 작가, 일러스트레이터, 사진작가 등 원저작자의 명시적인 동의 없이 이러한 리소스를 사용해 왔다. 하지만 저작권 보유자들은 이러한 행위가 저작권을 침해하는 것이라며 반발하고 있는 상황이다.
최근 뉴욕타임스 역시 수백만 건의 신문 기사를 무단으로 사용했다며 ChatGPT의 개발사인 OpenAI와 Microsoft를 고소한다고 발표한 바 있다. 샌프란시스코에 본사를 둔 OpenAI는 존 그리샴과 조나단 프랜즌을 비롯한 미국의 저명한 소설가들로부터도 자신의 저작물을 사용했다는 이유로 소송을 당했다.
이 외에도 여러 건의 소송이 진행 중이다. 사진 아카이브로 유명한 게티이미지(Getty Images)는 스테이블 디퓨전 이미지 생성 시스템 AI 회사인 Stability AI를 상대로 사진 분석에 대한 소송을 제기하고 있다. 이러한 소송의 첫 판결은 2024년에 내려질 수 있으며, 이 판결은 기존의 저작권법과 관행이 AI 시대에 맞게 어떻게 현행화되어야 하는지에 대한 선례가 될 수 있다.
AI에 대한 문제 그리고 규제 법안들
AI 기술이 점점 더 정교해짐에 따라 기업이 기본 모델을 개발하고 훈련하는 것이 점점 더 어려워지고 있다. 이에 대한 비용 역시 증가하고 있는데, 디지털 인권 운동가들은 이러한 발전으로 인해 점점 더 많은 첨단 전문 지식이 소수의 강력한 대기업들에 집중되고 있다고 경고하고 있다.
브뤼셀에 본부를 둔 비영리 단체 Access Now의 유럽 정책 담당 디렉터인 패니 히드베기는 인프라, 컴퓨팅 성능, 데이터 측면에서 소수의 기술 기업에 권력이 집중되는 것은 기술 분야의 오랜 문제를 보여주고 있다고 꼬집었으며 기술이 사람들의 삶에 없어서는 안 될 부분이 되면서 몇몇 민간 기업이 AI가 사회를 재편하는 방식에 영향을 미칠 것이라고 경고했다.
그렇다면 인공지능 관련 법률은 어떻게 시행될까? 전문가들은 자동차에 안전벨트를 장착해야 하는 것처럼 인공지능 기술에도 규칙이 적용되어야 한다는 데 동의한다. 2023년 12월, 수년간의 협상 끝에 유럽연합은 세계 최초로 인공지능에 관한 포괄적인 법률인 AI 법에 합의했기에 전 세계의 모든 시선은 브뤼셀의 규제 당국이 새로운 규칙을 제대로 이행하고 시행할지 지켜볼 것이다. 규칙의 조정 여부와 방법에 대한 열띤 토론은 어쩌면 당연한 지도 모른다. 또한 이는 전 세계의 AI 관련 법안에 크게 영향을 미치리라 기대된다.
사이언스 타임즈 김민재 리포트 2024.1.29자 발제
댓글목록
등록된 댓글이 없습니다.
