[240729] 영어공부 / 영문 기사 읽기 / it 기사 영어로 읽기 / 개발자 영어공부 (TechCrunch - NIST releases a tool for testing AI model risk)

https://techcrunch.com/2024/07/27/nist-releases-a-tool-for-testing-ai-model-risk/

NIST releases a tool for testing AI model risk | TechCrunch

기사 제목
NIST releases a tool for testing AI model risk
NIST 는 AI 모델의 위험성을 테스트 하는 새로운 도구를 출시했다. 

 

1. 스키밍 

NIST 라는 곳에서 ai 시스템이 받는 공격? 을 테스트하는 도구를 출시했다. 이름은 Dioptra 다이옵트라임. 

 

Called Dioptra (after the classical astronomical and surveying instrument),
-> 다이옵트라는 고전 천문, 측량 도구의 이름을 따서 지어진 이름.  

Dioptra debuted alongside documents from NIST and NIST’s recently created AI Safety Institute that lay out ways to mitigate some of the dangers of AI, like how it can be abused to generate nonconsensual pornography. 

-> 다이옵트라는 NIST 와 최근 NIST 에서 만든  AI Safety Institute 라는 기관에서 작성한 문서와 함께 등장(데뷔) 했는
이 문서에는 AI 가 동의받지 않은 성적인 이미지, 동영상들을 만들어내는데에 악용되는 사례를 완화시키는 방법에 대해 제시되어 있다. (lay out 앞에 있는 that 이  document 를 수식하는 형태라는 게 한번에 안 읽혔던 문장 ) 

 

 “The open source software, like generating child available for free download, could help the community, ( including government agencies and small to medium-sized businesses,) conduct evaluations to assess AI developers’ claims about their systems’ performance.”
 -> 어린이들도 쉽게 다운 받을 수 있는 오픈소스 소프트웨어는 정부, 중소 기업 등이  AI 개발자들이 자신들의 시스템에 대한 퍼포먼스에 대해 주장하는 이야기들을 평가할 수 있도록 돕는다. 

 

NIST doesn’t assert that Dioptra can completely de-risk models. But the agency does propose that Dioptra can shed light on which sorts of attacks might make an AI system perform less effectively and quantify this impact to performance.
-> NIST 는 다이옵트라가 완전히 리스크가 없는 모델이라고는 말하지 않는다. 그러나 다이옵트라는 어떤 종류의 공격이 AI 시스템의 퍼포먼스의 효과를 줄이는지 밝혀낼 수 있으며, 그리고 어떤 임팩트가 있는지 정량화할 수 있다고 말한다. (propose) 

 

 

벤치마크란?
=> 어떤 기준이나 표준을 사용하여 성능을 측정하고 비교하는 것을 의미한다. 
성능 평가, 비교, 최적화를 목적으로 함.