지난달 13일 미국 의회 앞은 취재 경쟁을 벌이는 기자들로 북적였어요. 평소에 쉽게 볼 수 없는 사람들이 한자리에 모여 토론을 벌인다는 소식 때문이었어요.

토론 참여자가 일론 머스크 테슬라 최고경영자(CEO), 마크 저커버그 메타 CEO, 빌 게이츠 마이크로소프트(MS) 창업자, 순다르 피차이 구글 CEO 등 세계 정보기술(IT) 업계를 호령하는 인물들이었거든요. 챗GPT를 개발해 ‘생성형 인공지능(AI) 열풍’을 불러일으킨 오픈AI의 CEO도 참여했어요. 거대 IT 기업의 CEO들이 이렇게 한 자리에 모인 건 정말 이례적인 일이었어요.

무슨 토론을 했는데?

‘AI 인사이트 포럼’이라는 이름이 붙은 이 토론회는 생성형 AI 관련 규제를 논의하기 위해 마련됐어요. 생성형 AI란 방대한 데이터를 학습한 뒤에 직접 새로운 창작물을 만들어 내는 인공지능을 말해요. 질문에 따라 다양한 대답을 내놓는 챗GPT는 대표적인 생성형 AI예요. 요즘은 세상에 존재하지 않는 그림이나 사진을 뚝딱 만들어 주는 생성형 AI들도 많이 알려져 있죠.

생성형 AI는 혁신이라는 평가를 받은 만큼 부작용을 우려하는 목소리도 컸는데요. 그래서 ‘AI를 규제해야 한다’는 지적이 나왔고, 결국 AI와 관련된 수많은 CEO가 모여서 토론을 벌이게 됐어요. 비공개로 진행되긴 했지만, 사실상 토론 주제는 ‘AI를 어떻게 규제하면 좋을까?’였다고 볼 수 있어요.

AI 부작용이 심각하다고?

생성형 AI가 세계적 관심을 받기 시작한 뒤로는 정말 다양한 부작용을 우려하는 목소리가 나왔어요. 대표적인 걱정들을 간단히 정리해 보면 다음과 같아요.

① 저작권 문제가 심각해

생성형 AI가 기존 콘텐츠를 무단으로 사용해서 저작권을 침해한다는 지적은 끊이지 않고 있어요. AI는 학습 과정에서 사람들이 만들어 낸 창작물을 필요로 하거든요. 지금까지 생성형 AI는 소셜 미디어의 게시물이나 언론사의 기사, 학술 논문, 음악, 그림, 사진 등 다양한 창작물을 닥치는 대로 학습에 사용하면서도 대부분 대가를 지급하지 않았어요. 이런 문제 때문에 미국 의회에서 펼쳐진 토론에는 창작 산업 종사자들도 참여했어요.

② 정보 보호가 더 어려워져

챗GPT 같은 생성형 AI는 방대한 데이터를 다루는 과정이다 보니 정보 유출 사고가 발생할 수 있어요. 정말 빠른 속도로 정보를 모으고 처리하는 AI의 특성상, 민감한 정보를 걸러내지 못할 수 있어요. 실제로 챗GPT 유료 서비스 회원 중 약 1%의 이름, 주소, 신용카드 번호 등 개인정보가 유출된 사고가 발생하기도 했어요. 삼성전자에서는 임직원에게 “챗GPT 사용 시 기업 정보 유출에 주의하라”는 공지를 한 적이 있고요.

③ 범죄에 악용될 수 있어

전문가들은 생성형 AI가 유해한 정보를 생성해 낼 수 있고, 범죄에 악용될 수도 있다고 경고해요. 예를 들어 챗GPT의 경우 프로그램 개발자들이 프로그램의 오류나 취약점을 찾는 데 많이 사용했다고 하는데요, 반대로 이런 기능을 해킹 등 범죄에 악용할 가능성도 충분히 존재한대요. 생성형 AI의 뛰어난 언어 생성 능력이 이메일이나 메신저를 통한 피싱(Phishing) 범죄에 악용될 수 있다는 예상도 나와요.

생성형 AI의 부작용, 자세히 알고 싶다면?

👉[지난 레터 보기]

미국 CEO들이 모여 앉은 진짜 이유

거대 IT 기업의 CEO들이 한자리에 모여 앉을 수 있었던 건, 미국 의회가 AI 관련 규제를 서두르기 시작했기 때문이었어요.

실제로 토론이 끝난 뒤 토론회를 주도한 척 슈머 미국 민주당 상원 원내대표는 “AI 규제 법안이 몇 달 안에 나올 것으로 보인다”고 밝혔어요. 미국 백악관도 AI를 안전하게 사용하기 위한 행정명령을 올해 안에 발표할 예정이에요.

이렇게 적극적인 미국 정부와 의회의 움직임은 ‘이 분야 규제를 주도하겠다’는 의도로 해석돼요. 아직 세계적으로 AI 규제가 초기 단계인 만큼 빠르게 관련 규정을 만들면, 이후의 시장 전반을 주도하기도 쉬워지니까요.

‘AI 시대의 룰’ 두고 시작된 경쟁

사실 미국에 앞서 발 빠르게 AI 규제 도입을 추진한 곳은 유럽연합(EU)이에요. 유럽 의회는 이미 지난 6월 세계 최초 AI 규제인 ‘AI 법(AI Act)’을 본회의에서 통과시켰죠. 몇몇 후속 절차만 마무리되면 2026년쯤에는 EU에서 해당 법안이 시행될 것으로 보여요.

EU의 법안에는 ‘상업적 목적으로 AI 상품을 출시할 때, EU 측에 AI 시스템을 먼저 제출해야 한다’는 내용이 포함됐어요. 이 규제가 세계에서 가장 먼저 시행된다면, 사실상 많은 나라들이 이 법안을 ‘표준’으로 참고할 가능성이 커요.

미국의 AI 규제 추진은 이러한 수순을 경계하는 움직임이라는 게 전문가들의 분석이에요. 특히 미국은 AI 규제가 생겨나면 가장 영향을 많이 받는 나라예요. EU에는 사실상 세계적인 영향력을 갖춘 거대 IT 기업이 없어요. 그런 기업은 대부분 미국 기업이죠. 각국에 비슷한 규제들이 하나둘 생겨나면, 미국의 영향력이 줄어드는 것이나 다름없어요.

EU와 미국 외에도 세계 주요국들은 AI와 디지털 기술에 관한 규제를 경쟁적으로 발표하고 있어요. 지난달 영국 정부는 미국의 거대 IT 기업들을 겨냥한 ‘AI 7대 원칙’을 발표했어요. AI 서비스로 인해 문제가 발생하면, AI를 개발한 기업이 책임을 져야 한다는 게 핵심이에요. 영국 정부는 다음 달(11월)엔 아예 ‘AI 정상회의’를 열어 주요국 정상과 IT 기업 CEO들을 한자리에 모아 놓고 규제 관련 논의를 이어갈 예정이래요.

AI 규제 표준, 승부는 2024년에?

‘룰은 내가 먼저 만들 거야’라고 외치고 있는 세계 각국 중에서 승자를 꼽게 되는 건 아마 내년(2024년)이 되지 않을까 싶어요. 국제연합(UN)은 AI 관련 규범과 규제 방안을 내년 9월까지 발표하기로 했고, 경제협력개발기구(OECD)도 다음 달(11월)부터 비슷한 논의를 시작할 것으로 보여요.

결국 미국이나 유럽 주요국들은 권위 있는 국제기구가 표준을 정하기 이전에 논의의 주도권을 쥐려고 하는 모양새인 거죠. 그리고 영향력 있는 AI 기업들을 보유한 미국과, 이를 견제하려는 EU·영국은 서로 다른 목소리를 낼 가능성이 커요. 그저 가끔 모여서 토론만 하는 것처럼 보이지만, 사실은 엄청난 패권 경쟁을 벌이고 있는 셈이에요.

또한 이미 올해 8월부터 생성형 AI 관련 일부 규제를 시작한 중국은 ‘AI 룰’의 정립 과정에 변수로 작용할 수 있어요. 공산 국가인 중국의 규제가 세계적 표준이 되긴 어렵겠지만, 다른 나라들 입장에선 ‘룰’을 만들 때 중국을 견제할 수밖에 없겠죠. 중국이 최근 국가 차원의 AI 기술 확보에 총력을 기울이고 있기도 하니까요.

AI 시대의 ‘룰’을 선점하기 위한 다툼, 이 보이지 않는 전쟁의 승자는 누가 될까요? 그리고 그 ‘룰’은 우리를 여러 위협으로부터 효과적으로 보호할 수 있을까요?

2  생성형 AI는 저작권을 침해할 수 있다는 점, 범죄에 악용되거나 각종 정보 유출에 취약할 수 있다는 점 등이 문제로 지적돼 규제가 필요한 상황.

3  유럽연합(EU)이 발 빠르게 AI 규제 도입을 추진하자, AI 관련 대기업을 다수 보유한 미국 또한 주도권을 빼앗기지 않기 위해 대응에 나선 모양새.