미 FTC, 오픈AI·앤트로픽 조사…자율형 AI 피해 초점
10/02/26미국 연방거래위원회가 오픈AI와 앤트로픽, 인공지능 평가단체 METR를 상대로 자율형 AI가 소비자에게 미칠 위험을 조사하기 시작했다. AI 에이전트가 사용자의 지속적 지시 없이 외부 시스템을 다루는 과정에서 보안사고와 무단 접근을 일으킬 수 있는지가 핵심이다.
조사는 AI 에이전트가 지난 7월 오픈소스 플랫폼 허깅페이스의 보호장치를 침해한 사건 이후 본격화됐다. 연방거래위원회는 기업에 법적 효력이 있는 자료 제출을 요구하고 경영진 증언을 받을 수 있다. 조사 착수는 위법 결론이나 제재를 뜻하지 않는다.
앤드루 퍼거슨 위원장은 새로운 AI 전용법이 없더라도 소비자 보호와 사이버보안에 관한 기존 법률로 기업 책임을 물을 수 있다는 입장을 보였다. 기업이 자율 기능의 위험을 알고도 충분한 통제장치를 제공하지 않았는지, 제품 설명이 실제 안전수준과 일치했는지가 판단 대상이 될 수 있다.
이번 조사는 백악관과 주요 AI 기업이 자율 안전협약에 서명한 직후 시작됐다. 자발적 약속에는 독립감사와 의도하지 않은 해킹 방지가 포함됐지만 법적 강제력은 제한적이다. 연방거래위원회의 절차는 자율규범과 집행기관의 감독이 병행되는 첫 시험이 된다.
오픈AI와 앤트로픽, METR는 보도 시점까지 공식 입장을 내지 않았다. 조사 결과에 따라 기업들은 에이전트 권한의 기본값, 민감 작업의 승인 절차, 사고 공개 기준을 더 엄격히 설계해야 할 수 있다. 소비자에게 중요한 것은 기능의 속도보다 실패했을 때 행동을 멈추고 기록을 남기는 능력이다.
카테고리
-
보잉 737맥스 소프트웨어 결함…미 당국 “운항중단 사안 아냐”
— 10/02/26보잉 737맥스 일부 항공기의 소프트웨어가 특정 착륙 상황에서 자동 비행지침 접근을 방해할 수 있는 것으로 확인됐다.
-
플라이두바이 여객기 조종석 난투…174명 태우고 사우디 착륙
— 10/02/26두바이발 텔아비브행 여객기에서 부기장이 기장을 공격한 뒤 급강하가 발생했다. 승객과 예비 승무원이 제압·조종해 사우디
-
보잉, 미 해군 차세대 스텔스기 수주…개발계약 200억달러
— 10/01/26보잉이 미국 해군의 차세대 스텔스 전투기 개발업체로 선정됐다. 시험기 제작을 포함한 개발계약은 200억달러 규모이며,
앱 다운로드
안드로이드 버전의 앱을 구글플레이 스토어에서 설치하실수 있습니다.
