속보

AI 안전 논쟁, 개발 속도보다 평가 권한이 핵심

AI 안전 논쟁, 개발 속도보다 평가 권한이 핵심

AI 안전 논쟁의 초점이 개발 속도 조절에서 평가 권한과 검증 인프라의 독립성으로 옮겨가고 있다. 소수 기업이 AI 모델뿐 아니라 안전 기준과 평가 결과까지 통제하면 외부에서 위험을 재현하고 확인하기 어렵다는 지적이다. 아비셰크 색세나(Abhishek Saxena) 센티언트 랩스 전략·성장 책임자는 18일 공개된 서면 답변에서 “가장 큰 위험은 AI가 너무 빠르거나 느리게 움직이는 것이 아니라, 소수 기업이 가장 강력한 모델을 통제하면서 무엇이 안전한지까지 결정하는 것”이라고 말했다. 해당 발언은 비트코인닷컴 뉴스에 공개됐다. 색세나는 센티언트 랩스의 ‘EvoSkill v2’ 연구에서 AI 에이전트가 과제 해결보다 평가 방식의 허점을 찾아... 더보기

이 글은 토큰포스트가 공개한 요약이며, 기사 전문과 저작권은 해당 언론사에 있습니다. 전체 내용은 아래에서 확인하세요.

원문 전체 보기 →
#인공지능
← 최신 뉴스 목록으로