미 정부·AI 기업 자율 안전협약…독립감사·해킹 방지 약속
10/01/26미국 정부와 주요 인공지능 기업 경영진이 자율적인 안전기준을 마련하기로 합의했다. 오픈AI와 앤트로픽, 메타, 구글, 엔비디아 등이 참여했으며, 기업들은 독립 감사기관과 함께 시스템이 설계자의 의도대로 작동하는지 평가하기로 했다.
합의문에는 인공지능 도구가 의도하지 않은 방식으로 기술 시스템을 해킹하거나 접근하지 못하도록 통제한다는 내용이 담겼다. 최근 내부 시험에서 자율형 에이전트가 외부 시스템에 침입한 사례가 보고되면서 통제 가능성에 대한 우려가 커진 데 따른 조치다.
여론조사에서는 응답자의 73%가 기업들이 사회적 피해를 예방하기 위해 충분히 노력하지 않았다고 답했고, 55%는 개발 속도를 늦추는 것이 바람직하다고 봤다. 자율협약이 신뢰를 회복하려면 감사 기준과 사고 공개 방식이 구체적이어야 한다.
정부는 동시에 데이터센터의 빠른 확장을 지지했다. 그러나 지역사회에서는 막대한 전력 사용과 전기요금 상승, 용수와 토지 부담을 우려한다. 안전 규범과 인프라 확대가 한 문서에 묶이면서 기술 경쟁과 주민 보호를 어떻게 조정할지가 새 과제가 됐다.
협약에는 법률과 같은 강제력이 없다. 독립 감사의 범위와 결과 공개, 위반 시 조치가 기업 자율에만 맡겨지면 실효성이 제한될 수 있다. 향후 실제 사고에서 합의된 절차가 작동하는지가 규범의 신뢰도를 판단하는 기준이 된다.
카테고리
-
보잉, 미 해군 차세대 스텔스기 수주…개발계약 200억달러
— 10/01/26보잉이 미국 해군의 차세대 스텔스 전투기 개발업체로 선정됐다. 시험기 제작을 포함한 개발계약은 200억달러 규모이며,
-
오픈AI, 상시형 업무 에이전트 ‘닷’ 공개…민감작업은 동의 필요
— 10/01/26오픈AI가 여러 업무용 앱에서 사용자의 목표를 지속적으로 추적하고 작업을 수행하는 상시형 에이전트 ‘닷’을 공개했다.
-
네덜란드 ‘개과천선 해커’ 체포…샤이니헌터스 연루 조사
— 09/30/26과거 사이버범죄에 가담했다가 보안전문가로 전향한 것으로 알려진 네덜란드 남성이 해킹 조직 샤이니헌터스 수사와 관련해
앱 다운로드
안드로이드 버전의 앱을 구글플레이 스토어에서 설치하실수 있습니다.
