[박재형 칼럼] 인공지능 국제협력과 한국의 역할

박재형 재미 정치학자

영국에서는 최근 세계 주요국 정상급 인사와 기술 대기업 경영자, 학계 전문가들이 참석한 가운데 제1차 '인공지능(AI) 안전 정상회의'가 열렸다. 참석자들은 인공지능을 안전하게 개발하기 위한 국제표준을 논의하고, 그것의 바람직한 활용 사례 등을 공유했다. 또한 참석자들은 인공지능으로 인한 재앙적 피해를 막기 위한 기술 안전 협력을 다짐하는 '블레츨리 선언'을 발표했다. 한국은 내년 5월 인공지능의 안전한 활용을 위한 '미니 정상회의'를 영국과 공동 주최하기로 했다.

인공지능 기술의 혁신에 대한 기대만큼 우려 또한 높아지고 있다. 새로운 인공지능 모델은 수많은 장점에도 불구하고, 소셜미디어의 조작 가능성을 획기적으로 높이기 때문이다. 챗GPT와 같이 대화에 최적화된 생성형 AI는 사람이 작성한 것처럼 자연스럽게 보이는 텍스트 콘텐츠를 대규모로 생성할 수 있다. 오픈소스 텍스트-이미지 모델은 상상의 모든 이미지를 사실적으로 만든다.

누구나 쉽게 사용할 수 있는 인공지능 도구로 인해 공격자들은 '사실적인' 가짜 콘텐츠를 제작하는 디지털 인프라를 구축할 수 있다. 이를 통해 X(옛 트위터), 레딧, 페이스북의 계정처럼 실제처럼 보이지만 합성된 구성물인 온라인 인간 페르소나를 생성하고 특정 정치세력의 목적 달성에 이용할 수 있게 됐다. 이러한 상황은 전 세계적으로 극단적인 정치 세력의 부상을 지원함으로써 민주적 제도와 절차에 대한 믿음과 참여를 더 어렵게 할 수 있다.

이에 따라 인공지능에 대한 규제 강화 움직임은 이미 세계적 추세가 됐다. 국가권력과 세계 안보에까지 영향을 미칠 인공지능의 영향력에 대응하기 위해 미국, 유럽연합(EU) 등 주요 국가들은 인공지능 대응 역량 강화에 힘을 쏟고 있다. 이 문제는 정부와 기업 사이의 문제에서 정치권 전반, 범국가적 국제적 이슈로 그 범위와 중요성이 급속히 확대되는 중이다.

인공지능은 사람들이 일하고 사회화하며 경제를 발전시키는 방법을 변화시킬 수 있는 잠재력을 가진 기술로, 국가 안보에서 무역에 이르기까지 광범위한 영역에서 세계적 영향을 미칠 수 있다. 미국의 브루킹스연구소는 2021년 인공지능 혁신 및 중요 규제 분야의 목표를 실현하기 위한 수단으로 유럽연합과 미국과의 관계에 초점을 맞춘 보고서를 발간했다.

보고서는 인공지능에 관한 대서양 협력의 중요성을 강조하고 있다. 여기에는 민주주의와 인권, 나아가 개방적이고 투명하며 책임감 있는 시민 거버넌스의 형태가 포함된다. 미국과 유럽연합은 지금까지 표현의 자유와 혁신을 위한 공통된 인터넷 거버넌스를 추구해 왔다. 하지만 인공지능과 관련해서는 기존 가치와 규범을 바탕으로 하는 인터넷 거버넌스의 미래를 당연시할 수 없는 상황이다.

인공지능 국제협력은 공동가치에 기반한 인공지능 거버넌스의 토대가 될 수 있다. 인공지능에 의한 개인정보 침해, 편향성 등의 문제가 이어지며 인공지능의 신뢰성 확보는 기술개발보다 우선해야 할 과제로 떠올랐다. 인공지능 거버넌스는 인공지능이 단순한 기술이 아니고 관련 분야의 전문가, 관계자들이 참여하는 공동체라는 개념에서 인공지능의 신뢰성을 높이기 위한 관리 정책을 의미한다.

중국은 인공지능 연구에서 가장 앞선 그룹에 속하며, 안면 인식 등 일부 분야에서는 기술을 주도하고 있다. 인공지능 분야에서 중국에 뒤질 수 있다는 자각에 따라 미국과 유럽연합 등 국제 협력이 부상하고 있다. 세계 주요국은 인공지능 분야의 리더십을 확보하기 위한 시장·기술·인재 활용, 인공지능으로 인한 경제적 이익 실현과 적절한 배분, 폭넓은 인공지능 거버넌스의 필요성에 공감하고 있다.

인공지능 국제협력에는 기초연구 개발, 기술 개발, 인공지능 투자 등이 포함되며, 정부와 민간 부문의 혁신역량이 성패를 판가름할 전망이다. 지속적인 인공지능 개발을 위해서는 공통된 규제와 표준의 개발이 필요하다. 이는 기능적이고 상호적이면서 불필요한 장벽을 방지하고 혁신을 지원하는 기본 가치로서 의미가 있다.

효과적인 인공지능 규제를 위한 국제 협력 관계는 다음과 같은 단계를 거쳐 구축할 수 있다. 첫째, 인공지능 규제 목표에 대한 공통된 시각의 개발이다. 미국과 유럽연합은 인공지능 규제와 관련해 비슷한 목표를 제시하고 있는데, 이와 관련해 공통의 표준이 될 수 있는 OECD의 인공지능 원칙을 지지하고 있다.

다음으로, 인공지능에 대한 공통 위험평가 및 관리방법의 개발이다. 비용-편익 분석을 포함하는 위험 평가는 유럽연합과 미국의 규제 개발의 핵심이다. 전반적인 관련 규제는 차이점보다 유사성을 바탕으로 공통의 이해를 발전시킬 수 있다. 이와 함께 인공지능 피해에 대한 최적의 대응방안을 모색해야 한다. 인공지능으로 인한 피해 위험을 줄이고 신뢰 구축을 위한 최적의 접근방안을 모색하는 규제 및 비(非)규제적 전략을 개발해야 한다.

여기서 인공지능 표준 개발은 인공지능 국제 협력의 핵심 부분이다. 일대일로(一帶一路), 양자 간 합의, 표준기구 등을 통해 중국은 자국의 기술 표준을 세계적으로 확장하고 있다. 이에 대응해 각국이 규제의 차이를 최소화하고 되도록 일치하려는 노력은 인공지능 거버넌스 발전을 위해서도 중요하다.

세계 최초로 인공지능 안전 정상회의를 개최한 영국은 이미 미국 AI 안전연구소, 싱가포르 정부 등과 협력을 공고히 하고 있다. 영국이 신설한 AI 안전연구원은 주요7개국(G7) 정부 내 첨단 인공지능 모델과 관련된 위험을 평가하는 임무를 맡았다. 영국 정부의 적극적인 접근방식은 강력한 국제협력의 토대를 마련했으며, 이는 전 세계적 인공지능 안전 표준과 관행 발전에 중요한 역할을 할 전망이다.

한국 정부는 올해 영국의 주도로 처음 열린 인공지능 안전 정상회의에 이은 2차 회의에 앞서 내년 5월 인공지능의 안전한 활용을 위한 '미니 정상회의'를 영국과 공동 주최하기로 했다. 이는 현재 미국, 영국 등을 중심으로 추진되는 인공지능 국제 협력에서 한국이 중요한 역할을 담당하는 기회라는 점에서 중요한 의미가 있다.