Le 인공지능 시스템의 안전한 개발을 위한 지침 이는 AI 시스템의 설계, 개발, 구현 및 운영을 통해 개발자를 구체적으로 안내하고 수명주기 전반에 걸쳐 보안이 중요한 구성 요소로 남아 있도록 보장하도록 설계되었습니다. 그러나 AI 프로젝트의 다른 이해관계자들에게도 이 정보가 유용할 것입니다.
이 지침은 XNUMX월 초 AI 안전 서밋에서 세계 지도자들이 인공 지능의 안전하고 책임 있는 개발을 약속한 직후 발표되었습니다.
안전한 AI 시스템 개발을 위한 지침은 처음부터 구축했든, 다른 회사의 기존 모델이나 API를 기반으로 구축했든, AI 모델이 "의도한 대로 작동하고, 필요할 때 사용할 수 있으며, 승인되지 않은 당사자에게 중요한 데이터를 공개하지 않고 작동하도록 보장하기 위한 권장 사항을 제시합니다." . “
이것의 핵심은 NCSC, CISA, 국립표준기술연구소(National Institute of Standards and Technology) 및 기타 다양한 국제 사이버 보안 기관이 기존 프레임워크에서 옹호하는 "기본 보안" 접근 방식입니다. 이러한 프레임워크의 원칙은 다음과 같습니다.
NCSC에 따르면 총 21개국 18개 기관과 부처가 새로운 가이드라인을 승인하고 공동인증하기로 확정했다. 여기에는 미국 국가안보국과 연방수사국은 물론 캐나다 사이버보안센터, 프랑스 사이버보안국, 독일 연방사이버보안국, 싱가포르 연방수사국이 포함된다. 사이버 보안국 및 일본 국가 사고 센터. 사이버 보안 준비 및 전략.
NCSC의 린디 카메론(Lindy Cameron) 최고경영자(CEO)는 이렇게 말했다. 보도 자료 : “우리는 인공 지능이 경이로운 속도로 발전하고 있으며 이에 보조를 맞추기 위해 정부와 업계 간의 공동 국제적 조치가 필요하다는 것을 알고 있습니다. ".
AI 시스템의 안전한 개발을 위한 지침은 AI 시스템 개발 수명주기의 다양한 단계(보안 설계, 보안 개발, 보안 구현, 보안 운영 및 유지 관리)에 해당하는 XNUMX개 섹션으로 구성되어 있습니다.
이 지침은 1년 2월 2023일과 XNUMX일 영국에서 개최된 AI 안전 서밋에서 광범위하게 논의된 "프론티어" 모델뿐만 아니라 모든 유형의 AI 시스템에 적용 가능합니다. 지침은 또한 다음 분야에서 일하는 모든 전문가에게도 적용됩니다. 개발자, 데이터 과학자, 관리자, 의사 결정자 및 기타 AI "위험 소유자"를 포함한 AI 주변.
“우리는 주로 조직에서 호스팅하는 모델을 사용하는(또는 외부 API를 사용하는) AI 시스템 공급업체를 대상으로 가이드라인을 작성했지만 모든 이해 당사자가 이 가이드라인을 읽고 정보에 입각한 설계 결정, 개발, 구현 및 운영을 내리는 데 도움이 되도록 권장합니다. 인공 지능 시스템”, 그는 말했다. NCSC.
영국 버킹엄셔주 블레츨리 파크 유적지에서 열린 AI 안전 서밋에서 28개국 대표들이 서명했다. AI 안전에 대한 Bletchley 성명 , 시스템 설계 및 구현의 중요성을 강조합니다. 인공 지능 안전하고 책임감 있게 협력을 강조합니다. 그리고 투명성.
성명서는 특히 다음과 같은 분야에서 최첨단 AI 모델과 관련된 위험을 해결해야 할 필요성을 인식하고 있습니다. 사이버 보안 생명공학과 생명공학은 안전하고 윤리적이며 유익한 사용을 보장하기 위해 더 큰 국제 협력을 지원합니다.IA.
영국 과학기술부 장관 미셸 도넬런(Michelle Donelan)은 새로 발표된 지침이 “사이버 보안을 세계 발전의 중심에 둘 것”이라고 말했습니다.인공 지능” 시작부터 배포까지.
에 대한 지침이 출판되었습니다.인공 지능 전문가와 분석가들의 환영을 받았습니다. 사이버 보안.
Darktrace의 위협 분석 글로벌 책임자인 Toby Lewis는 defi시스템에 대한 "환영 프로젝트" 가이드를 완료했습니다. 인공 지능 안전하고 신뢰할 수 있습니다.
이메일을 통해 Lewis는 다음과 같이 말했습니다. “가이드라인에서 인공 지능 공격자로부터 데이터와 모델을 보호하고 AI 사용자가 올바른 것을 적용하도록 합니다. 지성 인공 올바른 작업을 위해. AI를 개발하는 사람들은 AI가 어떻게 답에 도달하는지에 대한 여정을 사용자에게 안내함으로써 더 나아가 신뢰를 구축해야 합니다. 자신감과 신뢰를 바탕으로 우리는 AI의 혜택을 더 빨리, 더 많은 사람들에게 실현할 것입니다.”
Informatica의 남부 유럽 담당 부사장인 Georges Anidjar는 이 지침의 출판이 "빠르게 발전하는 이 분야에 내재된 사이버 보안 문제를 해결하기 위한 중요한 단계"라고 말했습니다.
BlogInnovazione.it
색칠을 통해 소근육 운동 능력을 키우면 아이들이 글쓰기와 같은 보다 복잡한 기술을 준비할 수 있습니다. 색칠하다…
지난 월요일, Financial Times는 OpenAI와의 계약을 발표했습니다. FT는 세계적 수준의 저널리즘에 라이선스를 부여합니다…
수백만 명의 사람들이 스트리밍 서비스 비용을 지불하고 월간 구독료를 지불합니다. 당신은…
