생성 AI는 무언가를 만들어 냅니다. 그것은 편향될 수 있습니다. 때로는 유해한 텍스트를 생성할 수도 있습니다. 그래서 '안전'할 수 있을까요?
WitenssAI의 CEO인 Rick Caccia는 그렇다고 믿습니다.
'AI 모델을 안전하게 보호하는 것은 실제 문제이며, 특히 AI 연구자들에게 매력적인 문제입니다. 그러나 사용을 안전하게 하는 것과는 다릅니다,'라고 Caccia는 TechCrunch와의 인터뷰에서 말했습니다. '저는 이것을 스포츠카로 생각해봅니다: 더 강력한 엔진, 즉 모델을 가지고 있다고 해서 좋은 브레이크와 핸들이 없으면 아무런 이득도 얻을 수 없습니다. 빠른 운전에서는 엔진만큼 제어도 중요합니다.'
기업들 사이에서 이러한 제어에 대한 수요는 분명히 존재합니다. 기업은 생성 AI의 생산성 향상 가능성에 대해 주의를 기울이지만 기술의 한계에 대한 우려도 가지고 있습니다.
...
