캘리포니아의 노력으로, 최대 규모의 인공 지능 시스템에 대한 최초의 안전 조치가 수요일 중요한 표결을 통과하며, 이는 급속히 발전하는 기술에 대한 미국 규제의 길을 열 수 있습니다.
AI에 의해 야기될 수 있는 잠재적인 위험을 줄이기 위한 이 제안은 회사가 모델을 테스트하고 안전 프로토콜을 공개하여 모델이 교란을 일으키는 것을 방지하도록 요구하며, 예를 들어 주식을 절단하거나 화학무기를 만드는 것을 돕는 등의 시나리오를 미래에 가능할 수 있다하는 전문가들의 견해입니다.
이 법안은 의원들이 세션의 마지막 주에 투표하고 있는 수백 개의 법안 중 하나입니다. 그 후 Gavin Newsom 주지사는 그것들을 서명할 것인지, 거부할 것인지 또는 그의 서명 없이 법이 되도록 허용할 것인지를 결정해야 합니다.
이 조치는 수요일에 의회를 통과했으며, 주지사의 책상에 도달하기 위해 최종 의원회에서 투표를 거쳐야 합니다.
지지자들은 미국에서 대규모 AI 모델을 위한 최초로 필요한 안전 기본 규칙을 제정할 것이라고 말했습니다. 이 법안은 훈련하기 위해 1억불 이상의 데이터가 필요한 시스템을 대상으로 합니다. 현재 AI 모델은 그 임계값을 넘기지 않았습니다.
공화당 의원 Devon Mathis는 이 법안을 지지하며 "큰 기술이 어떤 규칙을 따르기를 시긴 때가 왔습니다. 물도 끊기고 전력망도 끊기면 안 되는 것입니다."라고 말했습니다.
민주당 의원 Scott Wiener가 초안을 작성한 이 제안은 벤처 캐피털 회사와 구글, 페이스북 및 인스타그램의 친회사인 Meta를 포함한 기술 기업들로부터 강한 반대를 받았습니다. 그들은 안전 규제는 연방정부에 의해 제정되어야 하며 캘리포니아 법안은 개발자를 겨냥하는 것이 아니라 AI 시스템을 악용하는 사람들을 겨냥하고 있다고 주장했습니다.
여러 캘리포니아 하원 의원들로 이루어진 한 그룹도 이 법안에 반대했는데, 이전 하원 스피커 낸시 펠로시는 이 법안을 '좋은 의도를 가진 나쁜 정보에 기반한 것'이라고 부르며 반대했습니다.
Silicon Valley에서 자금지원을 받는 좌파산업 단체인 Chamber of Progress는 이 법안이 'AI가 어떻게 보일지에 대한 공상 이야기에 근거를 두고 있다'고 했습니다. 수요일 투표 이후 기술 정책 책임자인 Todd O'Boyle는 성명서에서 "이 법안은 실세계가 아닌 Blade Runner나 The Terminator와 유사한 점이 더 많다"고 말했습니다. '우리는 이론적 시나리오 때문에 캘리포니아 최고의 경제 부문을 손상시키지 않아야 합니다.'
Amazon과 구글이 지원하는 AI 스타트업인 Anthropic은 Wiener가 이달 초에 법안에 회사의 제안 중 일부를 포함시킨 후 이 법안을 지지하기 시작했습니다. 현재 법안에는 위즈피의 벌금처벌 조항을 제거하고, 주 법무부 장관의 상대를 제한하며, 새로운 AI 규정 기관의 책임을 축소시키는 내용이 포함되어 있습니다. 소셜미디어 플랫폼 X 소유자인 엘론 머스크도 이번 주에 이 제안을 지지했습니다.
Anthropic은 Newsom에게 편지를 보내 이 법안이 강력한 AI 시스템의 잘못된 사용을 방지하는 데 중요하며, '이의 혜택이 비용을 상회할 가능성이 있다고 주장했습니다.
Wiener는 자신의 입법이 '가벼운 접촉 방식'임을 밝혔습니다. '혁신과 안전은 함께 갈 수 있으며, 캘리포니아가 이끄는 길입니다.'란 Wiener는 투표 이후 성명을 통해 말했습니다.
그는 또한 이번 주 이른바 강력한 AI 모델로 인한 잠재적인 재해 위험을 현실적이지 않다고 부인하는 비판에 대해 '만약 그들이 위험이 가짜라고 생각한다면, 그럼 법안은 전혀 문제가 없어야 합니다.'라고 비판했습니다.
Wiener의 제안은 올해 캘리포니아 의원들이 제안한 수십 개의 AI 법안 가운데 하나입니다. 대중의 신뢰를 구축하고 알고리즘 차별을 방지하며 선거나 음란물과 관련된 딥페이크를 금지하기 위한 것입니다. AI가 미국인들의 일상을 점점 더 영향을 미치고 있으며, 주 의원들은 번창하는 국내 산업을 억제하지 않으면서 기술과 잠재적 위험을 조화롭게 조절하려고 노력해 왔습니다.
세계 최고 50개의 AI 기업 중 35개가 소재하는 캘리포니아는 AI 기술의 초기 채택자이며 곧 고속도로 혼잡과 도로 안전성 등을 해결하기 위한 생성적 AI 도구를 도입할 수도 있습니다. Newsom은 이번 여름 초기에 이 조치에 대해 의견을 내놓기를 거부했으며 AI를 지나치게 규제하지 말라고 경고했습니다.
