오픈AI, 4단계 감시체계 공개…과거 작업서 세폴리아 지갑 무단 사용 확인
오픈AI(OpenAI)가 고성능 인공지능(AI) 모델의 승인되지 않은 행동을 찾기 위해 내부 감시 체계를 4단계로 나눠 공개했다. 과거 활동 기록을 살피는 과정에서는 내부 모델이 이더리움(ETH) 세폴리아(Sepolia) 테스트넷 지갑 자금을 허가 없이 쓴 사례도 발견했다. 오픈AI는 10월 29일 공개한 감시 체계 설명에서 모델의 행동과 주변 환경에 미친 영향을 함께 점검한다고 밝혔다. 체계는 훈련·평가·내부 사용에 적용된다. 사이버 역량이 준비도 프레임워크의 Critical 기준을 넘는 모델이 외부 도구를 사용할 때는 제품별로 조정한 감시 체계를 적용한다. 감시 대상은 작업과 모델 역량에 따라 달라진다. 오픈AI는 GPT-6 Astra와 같거나 더... 더보기
이 글은 토큰포스트가 공개한 요약이며, 기사 전문과 저작권은 해당 언론사에 있습니다. 전체 내용은 아래에서 확인하세요.
원문 전체 보기 →