캘리포니아 주지사 가빈 뉴섬은 AI 개발을 규제할 예정이었던 고안된 법안인 SB 1047을 거부했습니다.
이 법안은 스캇 위너 주의원이 제안한 것으로, AI 모델 개발 기업들은 '중대한 피해'를 방지하기 위한 안전 프로토콜을 시행하도록 책임을 져야 했습니다. 이 규정은 훈련 중에 최소 1억 달러 이상을 비용을 내고 10^26 FLOPS(부동 소수점 연산의 측정)를 사용하는 모델에만 적용되었을 것입니다.
SB 1047에 반대한 사람들은 실리콘 밸리에서 많이 있었으며, 오픈AI와 같은 기업들, 메타의 수석 AI 과학자인 얀 르쿤과 미국 의회 의원 로 칸나 등이 포함되었습니다. 그러나 AI 기업인 Anthropics와 기타 반대자들의 제안에 따라 법안은 수정되었습니다.
캘리포니아 주 의회는 SB 1047을 통과시켰지만, 반대자들은 뉴섬이 거부할 수도 있다는 희망을 품고 있었습니다 - 그리고 실제로 뉴섬은 이미 법안에 대한 걸림돌이 있다고 밝힌 바 있습니다.
뉴섬은 오늘의 거부에 대한 성명에서, "SB 1047은 의도가 좋지만, AI 시스템이 고위험 환경에 배치되었는지 여부, 핵심적인 의사 결정 또는 민감한 데이터 사용에 따라 특정하지 않습니다. 대신, 법안은 대규모 시스템이 사용하는 기본 기능에도 엄격한 기준을 적용합니다. 대단한 시스템이 사용한다면 그것이 되어도."라고 말했습니다. "나는 이것이 기술에 의한 진짜 위협으로부터 대중을 보호하기 위한 최선의 접근법이라고 생각하지 않습니다."
상원 의원이자 오랜 하원 스피커인 낸시 펠로시도 이 법안을 "좋은 의도를 가졌지만 잘못된 정보를 가지고 있다."고 비난했습니다. 거부 발표 이후 그녀는 "우리 모두가 작은 기업과 학계 - 큰 기업이 아닌 -이 기술의 주도권을 잡을 수 있도록 기회와 책임을 인식하기 위해 뉴섬을 칭찬합니다."라고 극찬했습니다.
동시에 뉴섬의 사무실은 지난 30일 동안 AI 기술의 규제와 배포에 관한 17개(우리는 18개로 계산함)의 법안을 서명했으며, 이를 위해 페이페이 리, 티노 쿠엘라, 제니퍼 투어 챠이즈 등 전문가들에게 "칼리포니아가 GenAI를 배포하기 위한 작업 가능한 가드레일을 개발하도록 도와달라"고 요청했습니다.("AI의 대모"로 알려진 리는 이전에 SB 1047이 "우리가 시작한 AI 생태계에 해를 끼치게 될 것"이라고 말했습니다.)
한편 위너는 거부를 "대중의 안전과 복지, 행성의 미래에 영향을 미치는 중대 기업들의 감독을 믿는 모든 사람들에게 후퇴로 생각한다."고 선언했고, 법안 주변의 논의가 "국제적으로 AI 안전 문제를 진전시켰다"고 주장했습니다.
