통권391호 인공지능은 어떻게 규제해야 할까?
페이지 정보
작성자 최고관리자 댓글 0건 조회 1,459회 작성일 23-11-27 10:17본문
정책 입안자들은 이미 산업과 사회 구조를 재편하고 있는 인공지능(AI: Artificial Intelligence)에 대해서 이를 어떻게 규제할지 고민하고 있다. 그리고 때마침 X (전 Twitter), OpenAI, Meta Platform과 같은 거대 인공지능 관련 기업 CEO들도 인공지능이 가져다주는 잠재적인 혜택 및 위험에 대한 자신의 견해를 제시하며 중요한 목소리를 내고 있다. 반면, 연구자들 및 활동가들은 이들의 영향력과 목소리가 커지는 것에 대해 우려를 표명하고 있다. 이들은 미국 기업의 압도적인 우위를 지적하며 남반구와 같은 다른 세계 지역을 대표할 대표자들이 부족하다는 의문을 제기하기도 한다. 또한 기업 리더들의 영향력이 커지면서 개인정보 침해 및 근로자 보호와 같은 중요한 문제가 상대적으로 잊혀질 수 있다고 경고하고 있다.
과연 세계 유수의 기술 기업 CEO들은 어떤 목소리를 내고 있을까?
xAI라는 새로운 인공지능 벤처를 포함하여 여러 기술 기업을 이끌고 있는 억만장자 기업가 일론 머스크(Elon Musk)는 인공지능이 초래할 수 있는 잠재적 위험에 대해 가장 솔직하게 경고하고 있다.
사실, 머스크는 수년 동안 인공지능이 문명에 미칠 잠재적이고 파국적 영향에 대해서 경종을 울려 왔다. 2018년 초에 그는 인공지능이 “핵무기보다 훨씬 더 위험하다”라고 선언한 바 있으며 2023년 11월 초 리시 수낵 영국 총리와의 대화에서 AI가 “역사상 가장 파괴적인 힘”이 될 수 있다는 경고를 되풀이하며 규제 당국이 심판 역할을 해줄 것을 촉구하고 있다. 동시에 머스크는 수낵 총리에게 정부가 “AI의 긍정적인 측면을 저해하는 규제를 도입하는 것을 피해야 한다”라며 과도한 감독에 대해서도 경고했다.
반면, 브뤼셀에 위치해 있는 디지털 권리 단체 Access Now의 선임 정책 분석가 다니엘 로이퍼는 머스크가 이러한 실존적 위험을 강조함으로써 사용자 데이터를 보호하거나 AI 시스템의 공정성을 보장하는 방법과 같은 시급한 기술적 문제를 경시하게 되고 있다고 경고한다. 로이퍼는 머스크가 현재 우리가 다루고 있는 기술에서 상당히 사변적이고 종종 공상 과학에서나 나오는 상황으로 관심을 돌리고 있다고 강하게 비판했다.
샌프란시스코에 본사를 둔 OpenAI는 현재 전 세계에서 가장 핫한 기업 중 하나이다. 2022년 11월, 대규모 제너레이티브 AI 시스템 ChatGPT를 세계에 공개했기 때문이다. 이 회사의 CEO인 샘 알트먼(Sam Altman)은 워싱턴 DC에서 벨기에 브뤼셀까지 국제 투어에 나서며 다양한 국가의 의원들을 만나 AI 규제 방안을 논의하기 시작했다. 이를 통해 그는 논쟁의 최전선에 서게 되었으며, 알트먼은 회의에서 고위험 AI 애플리케이션이 “전 세계에 심각한 해를 끼칠 수 있다”며 규제가 필요하다고 경고했습니다. 동시에 그는 정책 입안자들이 최첨단 AI 시스템의 복잡성을 헤쳐 나갈 수 있도록 OpenAI의 전문 지식을 제공하고 있다.
영국 케임브리지 대학의 지나 네프 교수는 이는 훌륭한 “기업 커뮤니케이션”이라고 비꼬며 이는 본질적으로 ‘경쟁사도 믿지 말고, 아무도 믿지 말고, 이 일을 할 수 있는 우리를 믿어달라’고 말하고 있는 것에 불과하다고 꼬집었다. 네프 교수는 이를 통해서 OpenAI의 접근 방식이 회사의 자체적인 이익에는 효과적일지 몰라도 사회의 다양한 목소리를 적절히 대변하지 못할 수도 있다고 경고하고 있다. 이어서 그녀는 우리가 이러한 결정에 대해 보다 민주적인 책임과 참여를 요구하지만, 알트먼으로부터는 그런 소리를 듣지 못하고 우려를 표했다.
AI 개발의 또 다른 선도 기업인 메타 플랫폼(Meta Platform)의 경우, 페이스북, 인스타그램, 와츠앱 등을 관리하고 있는것으로 유명하다. 위 거대기업의 CEO 마크 저커버그(Mark Zuckerberg)는 이 논쟁에서 의외로 매우 조용한 태도를 유지하고 있다. 저커버그는 지난 9월 미국 의원들을 대상으로 한 연설에서 새로운 기술의 잠재적 위험을 최소화하는 동시에 잠재적 이익을 극대화하기 위해 정책 입안자, 학계, 시민 사회, 업계 간의 협력이 필요하다고 주장했을 뿐, 메타의 글로벌 업무 담당 사장인 전 영국 정치인 닉 클레그와 같은 대리인들에게 규제 논의를 상당 부분 위임한 것으로 보인다.
클레그는 최근 영국에서 열린 AI 국제회의에서 우리는 현재 실존하는 AI 위험에 대한 두려움을 경시하고 있으며, 내년 영국과 미국에서 예정된 선거에 개입하는 데 AI가 사용될 수 있다는 보다 즉각적인 위협을 강조한 바 있다. 또한 온라인에서 AI가 생성한 콘텐츠를 탐지하는 것과 같은 문제와 같은 보다 단기적인 해결책을 찾아야 한다고 주장하고 있다.
OpenAI의 전 멤버들이 2021년에 설립한 안전에 중점을 둔 앤트로픽 (Anthropic) AI 회사는 회사의 초기 단계임에도 불구하고 거대 기술 기업인 Amazon으로부터 40억 달러 투자를 유치하는 등 상당한 규모의 투자를 신속하게 유치한 바 있다. 위 회사의 CEO 다리오 아모데이(Dario Amodei) 역시 이미 AI 규제 논쟁에서 틈새 시장을 개척하고 있다.
아모데이는 최근 블레클리 파크에서 열린 AI 안전 국제회의에서 의원들을 대상으로 한 연설에서 현재 AI 시스템이 초래하는 위험은 상대적으로 제한적일 수 있지만 “가까운 미래”지만 알 수 없는 시점에 매우 심각해질 가능성이 있다고 경고한 바 있다. 그리고 다가오는 위협에 대처하기 위해서 아모데이 역시 자신의 회사에서 개발한 방법론, 즉 사용자의 안전에 미칠 수 있는 잠재적 위험에 따라 AI 시스템을 분류하는 접근 방식을 의원들에게 제시한 바 있다. 그는 이러한 방법론이 AI 규제 초안 작성의 ‘프로토타입’ 역할을 할 수 있다고 덧붙였다. 기본적으로 샘 알트만의 의견과 비슷한 태도를 취하고 있다.
이에 대해서 디지털 권리 회사 NGO Access Now의 다니엘 루퍼는 정책을 마련하는 데 있어 앤트로픽과 같은 기업에 지나치게 의존하는 것을 경계하고 있다. 그는 이러한 거대 기업들의 기여는 이러한 대화를 이끌어내는 데 도움이 되었지만 이들이 정책을 결정하는 주체가 되어서는 절대 안 된다고 우려하고 있다. 그는 정책 입안자들 역시 의제를 설정하는 데 매우 신중해야 하며 독립성을 유지해야 한다고 강조하고 있다.
사이언스더타임즈 기획연재 김민재 리포터 2023.11.5 기사를 인용하였습니다.
과연 세계 유수의 기술 기업 CEO들은 어떤 목소리를 내고 있을까?
xAI라는 새로운 인공지능 벤처를 포함하여 여러 기술 기업을 이끌고 있는 억만장자 기업가 일론 머스크(Elon Musk)는 인공지능이 초래할 수 있는 잠재적 위험에 대해 가장 솔직하게 경고하고 있다.
사실, 머스크는 수년 동안 인공지능이 문명에 미칠 잠재적이고 파국적 영향에 대해서 경종을 울려 왔다. 2018년 초에 그는 인공지능이 “핵무기보다 훨씬 더 위험하다”라고 선언한 바 있으며 2023년 11월 초 리시 수낵 영국 총리와의 대화에서 AI가 “역사상 가장 파괴적인 힘”이 될 수 있다는 경고를 되풀이하며 규제 당국이 심판 역할을 해줄 것을 촉구하고 있다. 동시에 머스크는 수낵 총리에게 정부가 “AI의 긍정적인 측면을 저해하는 규제를 도입하는 것을 피해야 한다”라며 과도한 감독에 대해서도 경고했다.
반면, 브뤼셀에 위치해 있는 디지털 권리 단체 Access Now의 선임 정책 분석가 다니엘 로이퍼는 머스크가 이러한 실존적 위험을 강조함으로써 사용자 데이터를 보호하거나 AI 시스템의 공정성을 보장하는 방법과 같은 시급한 기술적 문제를 경시하게 되고 있다고 경고한다. 로이퍼는 머스크가 현재 우리가 다루고 있는 기술에서 상당히 사변적이고 종종 공상 과학에서나 나오는 상황으로 관심을 돌리고 있다고 강하게 비판했다.
샌프란시스코에 본사를 둔 OpenAI는 현재 전 세계에서 가장 핫한 기업 중 하나이다. 2022년 11월, 대규모 제너레이티브 AI 시스템 ChatGPT를 세계에 공개했기 때문이다. 이 회사의 CEO인 샘 알트먼(Sam Altman)은 워싱턴 DC에서 벨기에 브뤼셀까지 국제 투어에 나서며 다양한 국가의 의원들을 만나 AI 규제 방안을 논의하기 시작했다. 이를 통해 그는 논쟁의 최전선에 서게 되었으며, 알트먼은 회의에서 고위험 AI 애플리케이션이 “전 세계에 심각한 해를 끼칠 수 있다”며 규제가 필요하다고 경고했습니다. 동시에 그는 정책 입안자들이 최첨단 AI 시스템의 복잡성을 헤쳐 나갈 수 있도록 OpenAI의 전문 지식을 제공하고 있다.
영국 케임브리지 대학의 지나 네프 교수는 이는 훌륭한 “기업 커뮤니케이션”이라고 비꼬며 이는 본질적으로 ‘경쟁사도 믿지 말고, 아무도 믿지 말고, 이 일을 할 수 있는 우리를 믿어달라’고 말하고 있는 것에 불과하다고 꼬집었다. 네프 교수는 이를 통해서 OpenAI의 접근 방식이 회사의 자체적인 이익에는 효과적일지 몰라도 사회의 다양한 목소리를 적절히 대변하지 못할 수도 있다고 경고하고 있다. 이어서 그녀는 우리가 이러한 결정에 대해 보다 민주적인 책임과 참여를 요구하지만, 알트먼으로부터는 그런 소리를 듣지 못하고 우려를 표했다.
AI 개발의 또 다른 선도 기업인 메타 플랫폼(Meta Platform)의 경우, 페이스북, 인스타그램, 와츠앱 등을 관리하고 있는것으로 유명하다. 위 거대기업의 CEO 마크 저커버그(Mark Zuckerberg)는 이 논쟁에서 의외로 매우 조용한 태도를 유지하고 있다. 저커버그는 지난 9월 미국 의원들을 대상으로 한 연설에서 새로운 기술의 잠재적 위험을 최소화하는 동시에 잠재적 이익을 극대화하기 위해 정책 입안자, 학계, 시민 사회, 업계 간의 협력이 필요하다고 주장했을 뿐, 메타의 글로벌 업무 담당 사장인 전 영국 정치인 닉 클레그와 같은 대리인들에게 규제 논의를 상당 부분 위임한 것으로 보인다.
클레그는 최근 영국에서 열린 AI 국제회의에서 우리는 현재 실존하는 AI 위험에 대한 두려움을 경시하고 있으며, 내년 영국과 미국에서 예정된 선거에 개입하는 데 AI가 사용될 수 있다는 보다 즉각적인 위협을 강조한 바 있다. 또한 온라인에서 AI가 생성한 콘텐츠를 탐지하는 것과 같은 문제와 같은 보다 단기적인 해결책을 찾아야 한다고 주장하고 있다.
OpenAI의 전 멤버들이 2021년에 설립한 안전에 중점을 둔 앤트로픽 (Anthropic) AI 회사는 회사의 초기 단계임에도 불구하고 거대 기술 기업인 Amazon으로부터 40억 달러 투자를 유치하는 등 상당한 규모의 투자를 신속하게 유치한 바 있다. 위 회사의 CEO 다리오 아모데이(Dario Amodei) 역시 이미 AI 규제 논쟁에서 틈새 시장을 개척하고 있다.
아모데이는 최근 블레클리 파크에서 열린 AI 안전 국제회의에서 의원들을 대상으로 한 연설에서 현재 AI 시스템이 초래하는 위험은 상대적으로 제한적일 수 있지만 “가까운 미래”지만 알 수 없는 시점에 매우 심각해질 가능성이 있다고 경고한 바 있다. 그리고 다가오는 위협에 대처하기 위해서 아모데이 역시 자신의 회사에서 개발한 방법론, 즉 사용자의 안전에 미칠 수 있는 잠재적 위험에 따라 AI 시스템을 분류하는 접근 방식을 의원들에게 제시한 바 있다. 그는 이러한 방법론이 AI 규제 초안 작성의 ‘프로토타입’ 역할을 할 수 있다고 덧붙였다. 기본적으로 샘 알트만의 의견과 비슷한 태도를 취하고 있다.
이에 대해서 디지털 권리 회사 NGO Access Now의 다니엘 루퍼는 정책을 마련하는 데 있어 앤트로픽과 같은 기업에 지나치게 의존하는 것을 경계하고 있다. 그는 이러한 거대 기업들의 기여는 이러한 대화를 이끌어내는 데 도움이 되었지만 이들이 정책을 결정하는 주체가 되어서는 절대 안 된다고 우려하고 있다. 그는 정책 입안자들 역시 의제를 설정하는 데 매우 신중해야 하며 독립성을 유지해야 한다고 강조하고 있다.
사이언스더타임즈 기획연재 김민재 리포터 2023.11.5 기사를 인용하였습니다.
댓글목록
등록된 댓글이 없습니다.
