AI 혁신에 급브레이크? AI 규제 법안 SB 1047 표결 앞두고 긴장한 실리콘밸리

이 포스팅은 캘리포니아의 AI 규제법안 SB 1047의 주요 내용과 찬반 논란, 그리고 이 법안이 AI 기술 발전에 미칠 잠재적 영향을 다룹니다.

 

들어가는 말

2024년 8월 현재 캘리포니아 하원에서 표결을 앞두고 있는 SB 1047에 대한 논란이 뜨겁다. 일론 머스크가 이 법안에 대해 공개 지지를 밝히는가 하면, 오픈AI는 이 법안에 대한 반대 의견을 밝혔다. 이 포스팅에서는 AI 모델 개발자들에게 엄격한 규제와 안전 조치를 요구하는 SB 1047 법안의 내용 및 이에 대한 찬반 의견에 대해 알아보고자 한다. 

 

SB 1047은 무엇인가?

SB 1047 법안 소개

AI 규제 법안으로 알려진 SB 1047 법안의 풀 네임은 '프런티어 AI 모델을 위한 안전과 보안 혁신 법안(Safe and Secure Innovation for Frontier Artificial Intelligence Models Act)'이다.

 

이 법안이 현재 SB 1047이라는 이름으로 불리는 이유는 캘리포니아 상원에서 발의된 1047번째 법안이기 때문이다. SB는 상원 법안이라는 의미의 Senate Bill의 약자이다.

 

SB 1047 발의 배경과 이유

캘리포니아 상원이 이 법안을 발의한 이유는 실리콘밸리가 위치한 캘리포니아가 인공지능(AI) 혁신과 연구의 중심지로서 중요한 역할을 하고 있기 때문이다. 캘리포니아에 위치한 대기업, 중소기업, 공립 및 사립 대학들은 AI 기술 개발에 앞장서고 있으며, 특히 생성형 AI 분야에서 많은 발전이 이루어지고 있다.

 

SB 1407 법안은 AI 악용에 대한 책임을 AI 개발자에게 지운다

 

 

이 법안의 2조에서는 인공지능이 가져올 수 있는 잠재적인 혁신과 위험을 모두 언급하고 있다. 인공지능은 의학, 산불 예측 및 예방, 기후 과학 등 다양한 분야에서 혜택을 가져오고, 인간의 창의성과 능력을 새로운 차원으로 확장할 잠재력을 지니고 있다. 반면에, AI 기술이 인간의 통제를 적절히 받지 않고 악용된다면, 생화학, 화학, 핵무기 등 위험한 대량살상무기의 제작 및 확산을 촉진하거나 사이버 공격과 같은 새로운 위협을 만들어낼 수 있는 가능성이 있다는 우려가 존재한다.

 

이러한 배경 하에 AI 기술의 발전이 캘리포니아의 지속적인 혁신과 경제적 성장을 촉진할 수 있도록 지원함과 동시에, AI가 잠재적으로 초래할 수 있는 심각한 위험을 피하고, 대기업뿐 아니라 학계의 연구자와 스타트업에게도 AI 컴퓨팅 자원에 대한 접근성을 보장하기 위하여 이 법안을 발의한다고 밝히고 있다.

 

 

SB 1047 법안의 주요 내용

적용대상

SB 1047 법안의 제3조 (e)에서는 이 법안이 적용되는 인공지능 모델을 개발 비용과 컴퓨팅 능력을 기준으로 정의하고 있는데, 기본적으로 10의 26승을 초과하는 컴퓨팅 파워를 사용하고 훈련 비용이 1억 달러 이상이 소요되는 AI 모델이 이 법안의 적용대상이 된다.

 

개발자에 대한 요구사항

이 법안에 따르면 법안의 적용 대상이 되는 AI 모델의 개발자에게는 다음과 같은 의무가 있다.

• 해당 AI 모델의 완전한 정지를 신속히 시행할 수 있는 역량을 구현해야 하며, 이러한 전체 정지를 시행할 때, 해당 AI 모델과 이로부터 파생된 상품의 정지로 인해 중요 인프라가 중단될 수 있는 위험을 고려해야 한다.
• AI 모델이 중대한 피해를 끼치거나 이를 가능하게 하는 것을 방지할 프로토콜을 작성하고 그 구현을 보장한다.
• AI 모델 또는 그 파생물이 중대한 피해를 끼치거나 이를 가능하게 할 위험이 있는 경우 그 모델을 제공해서는 안된다.
• 이와 같은 절차, 정책, 보호, 역량 및 안전장치에 대한 감사는 매년 이루어져야 하며, 이를 위해 제3자 감사인을 유지해야 한다.

이를 위반하였을 경우 개발자에게 법무장관이 민사소송을 제기하여 민사과태료 및 징벌적 손해배상금을 청구할 수 있다.

 

SB 1047 법안에 대한 찬반 논란의 이유

SB 1047은 다른 국가의 AI 규제에 비해 더욱 엄격한 것으로 평가받고 있다. 특히, 피해 발생 전의 선제적 예방 조치를 강조하여, 이를 위반하였을 경우 AI 모델 훈련비용의 10~30%에 달할 수 있는 높은 과태료를 부과할 수 있다는 점 때문이다.

 

이 법안에 관해 찬성하는 사람들은 AI 기술이 가져올 수 있는 위험을 강조하며, 이와 같은 강력한 법안이 AI 기술의 안전한 개발과 배포를 보장하고 책임 있는 혁신을 장려하는 필수적인 조치라고 주장한다. 또한, 캘리포니아의 AI 규제법이 다른 주 또는 연방 규제의 모델이 될 수 있다고 주장한다. 

 

반면, 이 법안에 반대하는 사람들은 부담스러운 규제와 높은 준수 비용으로 인해 혁신이 저해될 수 있다고 주장한다. 또한, 모호한 정의와 엄격한 처벌로 인해 AI 개발 기업들이 캘리포니아를 떠날 수 있으며, AI 규제는 주가 아닌 연방 차원에서 이루어져야 한다고 주장한다. 

 

SB 1047 법안의 현재 상태 및 통과 가능성

이 법안은 2024년 2월 7일 미국 민주당의 스콧 위너 상원의원에 의해 첫 발의되었으며, 2024년 5월 21일 상원에서 통과되었다. 2024년 8월 말인 현재 하원에서 이 법안을 심의 중이며, 이번 달 내 표결에 부쳐질 예정이다. 

 

현재 실리콘밸리에서는 이 법안에 대한 반대 의견이 계속해서 제기되고 있음에도 불구하고, SB 1047 법안은 이번 달 내로 표결을 통과할 가능성이 높은 것으로 점쳐지고 있다. 법안이 하원을 통과하면 개빈 뉴섬 캘리포니아 주지사의 서명을 거쳐 법률로 확정될 수 있게 된다.

 

맺는말

이 글에서 살펴본 SB 1047 법안은 AI 기술의 급속한 발전에 따른 잠재적 위험을 관리하려는 캘리포니아 주정부의 노력을 보여주는 중요한 시도이다. 이 법안은 AI 혁신과 안전 사이의 균형을 맞추려고 시도하고 있지만, 하원에서의 표결만을 남겨둔 현재, 이 법안에 대한 찬반 양측의 의견이 첨예하게 대립하고 있다.

 

이 법안이 통과될 경우, 어떤 쪽으로든 AI 기술의 발전 방향을 크게 바꿀 수 있는 전환점이 될 수 있을 것으로 보인다. 실리콘밸리가 속한 캘리포니아에서 이 법안이 통과된다면, 향후 IA 규제에 대한 논의의 중요한 참고 사례로 남을 수 있을 것이다. 이에 미국 전역과 글로벌 AI 규제의 방향성이 이 법안에 의해 영향을 받을 가능성이 크다.

 

이 법안에 대한 반대 의견을 가진 업계의 예측처럼, 높은 규제로 인해 스타트업이 캘리포니아를 떠나거나 AI 혁신이 둔화될 가능성도 있지만, AI가 가져올 수 있는 재앙에 대한 대비 및 윤리적이고 책임감 있는 AI 개발이라는 측면에서, 이 법안은 정당성을 얻고 있는 것으로 보인다.

 

참고문헌

https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202320240SB1047
https://digitaldemocracy.calmatters.org/bills/ca_202320240sb1047
https://www.ekoreanews.co.kr/news/articleView.html?idxno=75040
http://m.applen.or.kr/news/articleView.html?idxno=74069

 

이미지 출처

https://unsplash.com/photos/person-in-black-long-sleeve-shirt-using-macbook-pro-em5w9_xj3uU